Por Blanca Yanulis, Regional Director, LATAM de GlobalSign.
La IA generativa ha revolucionado múltiples sectores —desde negocios hasta entretenimiento— al producir contenido con calidad casi humana: textos, voces, imágenes y videos increíblemente realistas. Pero con estos avances vienen nuevos desafíos, especialmente en el ámbito de la seguridad cibernética.
1. El auge de los deepfakes
Los deepfakes ya no son simples imágenes borrosas; ahora son videos en los que rostros y voces pueden reemplazarse con precisión alarmante. Pueden engañar tanto a individuos como a instituciones, afectando desde reputación personal hasta procesos electorales y mercados financieros. A medida que la tecnología avanza, el riesgo de manipulación masiva crece.
2. La batalla contra los deepfakes
Las empresas de seguridad están respondiendo con soluciones innovadoras:
- Herramientas de detección basadas en IA: analizan elementos como patrones de color, voz o píxeles sospechosos para alertar sobre contenido manipulado. Por ejemplo, herramientas como Sensity.ai alcanzan hasta un 98 % de precisión.
- Criptografía y PKI: infraestructuras de clave pública (PKI) permiten firmar digitalmente contenido, garantizando identidad del creador e integridad del archivo. Tim Callan de Sectigo afirma: ‘Uno de los mejores mecanismos… es la autenticación basada en PKI… no depende de datos biométricos que podrían ser falsificados’.
3. Verificación de contenido desde su origen
- Metadatos robustos y marcas de agua criptográficas (C2PA, Content Authenticity Initiative): añaden información segura sobre el autor, hora, lugar y modificaciones, vinculada criptográficamente al contenido.
- Registro en blockchain: una huella inmutable en la cadena de bloques certifica la autenticidad del contenido original.
Estas tecnologías permiten que los consumidores y plataformas verifiquen fácilmente si un contenido es auténtico y no ha sido alterado.
4. Limitaciones y desafíos
- Las herramientas de detección requieren actualizaciones constantes: los deepfakes evolucionan rápidamente.
- Las soluciones de firma y watermarking aún no están generalizadas al nivel de usuarios promedio.
- El peligro del dividendo del mentiroso: el escepticismo puede volverse tan general que incluso contenido auténtico sea cuestionado.
5. Hacia un enfoque integral
- Detección + autenticación combinadas: emplear ambas tecnologías ofrece una defensa más robusta.
- Estándares como C2PA y la verificación en blockchain pueden facilitar la transparencia en el contenido político y mediático.
- Educación y regulación: alfabetización mediática junto a iniciativas regulatorias y esfuerzos públicos privados como la Coalición C2PA .
🧭 Conclusión
Enfrentar la desinformación y los deepfakes exige un enfoque multifacético:
Estrategia | Beneficio |
Detectores AI | Filtrado inicial rápido |
PKI y firmas digitales | Garantía de integridad y autoría |
Watermarks / C2PA | Transparencia del origen |
Blockchain | Inmutabilidad a lo largo del tiempo |
Solo combinando estas soluciones con estándares abiertos, educación pública y regulaciones, podremos proteger la confianza en la información y asegurar que las personas distingan el contenido auténtico del fabricado.
Más información sobre seguridad digital en www.globalsign.com/es