La erosión de la verdad
A lo largo de este capítulo hemos explorado cómo los deepfakes no solo erosionan nuestra confianza en lo que vemos, sino que plantean una crisis epistemológica fundamental: ¿cómo construimos verdades compartidas cuando la evidencia audiovisual —el pilar del conocimiento empírico— puede ser sintética e indistinguible de la realidad? La respuesta, concluimos, no puede ser puramente técnica. La verdad es un logro colectivo que requiere instituciones resilientes, alfabetización crítica y, sobre todo, una epistemología reticular donde la verificación emerge de redes distribuidas, no de autoridades centralizadas.
¿Pero qué sucede cuando la rapidez y la magnitud de la desinformación nos obligan a automatizar dicha verificación? La situación de “VeriFast” nos ubica exactamente en ese momento crucial: un sistema de inteligencia artificial creado con el propósito de salvaguardar la verdad, que, irónicamente, tiene el potencial de ser un medio para ejercer censura y control. Las manifestaciones de las tensiones estructurales que el capítulo anticipó son los falsos positivos, la captura por regímenes autoritarios y el sesgo algorítmico en contra de voces marginadas; no son errores técnicos que se puedan remediar.
Este dilema no cuestiona si tenemos que luchar contra los deepfakes —eso está claro—, sino quién tiene la autoridad para decidir qué es verdadero y bajo qué circunstancias. La alternativa de la optimización técnica ofrece más eficiencia, pero mantiene la falta de transparencia del oráculo algorítmico. La descentralización verificativa proporciona autonomía y transparencia, pero sacrifica la velocidad y la consistencia. Ninguna soluciona el asunto de manera total, ya que, tal como nos demostró el capítulo, no hay una única solución que sea suficiente.
Tu respuesta a este dilema no solo mostrará qué sistema de verificación prefieres, sino también el tipo de sociedad que estás dispuesto a crear ante la incertidumbre epistémica constante: una que favorezca la seguridad rápida con el peligro del autoritarismo algorítmico, o una que asuma lo complicado y lo lento de la deliberación colectiva, aunque eso le permita ser más susceptible a la manipulación. Como hemos señalado: en la época de los deepfakes, la verdad no se vuelve imposible, sólo más compleja. Y por esa razón, más importante.
«VeriFast» es un sistema de inteligencia artificial implementado por una gran plataforma de redes sociales llamada «ConectaRed» para identificar y etiquetar automáticamente deepfakes y contenido manipulado. Utiliza redes neuronales convolucionales y análisis de metadata para detectar inconsistencias en vídeos y audios en tiempo real. Su objetivo declarado es “proteger la integridad del discurso público y prevenir la desinformación a escala masiva”.
Tras dos años de implementación, los resultados presentan un balance ambiguo:
A favor:
- Reducción del 40 % en la viralización de deepfakes conocidos y de alto perfil.
- Detección y etiquetado del 92 % de contenido manipulado reportado por usuarios verificados.
En contra:
- Falsos positivos: 15 % de los contenidos etiquetados como «potencialmente manipulados» resultaron ser auténticos tras revisión humana, afectando especialmente a periodistas ciudadanos y activistas de derechos humanos.
- Sesgo algorítmico: El sistema mostró una tasa de error significativamente mayor en contenido producido en lenguas minoritarias y en contextos de baja resolución técnica, lo que llevó a la censura inadvertida de voces marginadas.
El detonante del caso es la filtración de un informe interno que revela que VeriFast ha sido utilizado por gobiernos autoritarios para vigilar y suprimir contenido disidente bajo el pretexto de combatir deepfakes, aprovechando la opacidad del algoritmo. Un grupo de organizaciones de la sociedad civil exige la auditoría inmediata y la posible suspensión del sistema.
El Consejo de Gobernanza Digital de ConectaRed, compuesto por expertos en ética, tecnólogos y representantes de la sociedad civil, debe tomar una decisión.
