La proliferación de videos generados con IA está produciendo una crisis silenciosa de confianza en las redes sociales. La Universidad de Clemson identificó redes organizadas que difunden contenido fabricado sobre conflictos globales, con millones de visualizaciones antes de que los desmentidos siquiera aparezcan. El problema no es solo la tecnología: es la velocidad con la que el contenido falso viaja comparado con la velocidad a la que se corrige.
Las medidas actuales de las plataformas no están funcionando. Las marcas de agua para identificar contenido sintético pueden eliminarse en segundos con herramientas gratuitas disponibles en línea. Las reglas que exigen señalar contenido creado con IA son fácilmente evadibles. Sam Gregory, director de WITNESS, una organización especializada en derechos humanos y medios digitales, afirma que las compañías están fallando tanto en la moderación como en la detección temprana.
El problema de fondo no es técnico. Es epistemológico: cuando cualquier imagen puede ser fabricada en segundos, la pregunta no es solo "¿esto es verdad?" sino "¿cómo sabría distinguirlo?" La percepción colectiva de la realidad depende de herramientas críticas que todavía no están disponibles para la mayoría de los usuarios.