La guerra en Oriente Medio ha desatado una oleada sin precedentes de desinformación, exacerbada por la rápida evolución de la inteligencia artificial (IA). Un simple video del primer ministro israelí, Benjamin Netanyahu, mostrando aparentemente seis dedos, desencadenó una cascada de teorías conspirativas que cuestionan la autenticidad de la realidad misma. Aunque expertos rápidamente explicaron que la anomalía era producto de una sombra fugaz, la explicación se perdió en el torbellino de las redes sociales, donde los usuarios especulaban sobre la muerte de Netanyahu y su reemplazo por un doble generado por IA.
Este incidente, lejos de ser aislado, ilustra un problema creciente: la dificultad de distinguir entre lo real y lo fabricado en un entorno digital saturado de contenido generado por IA. La capacidad de crear deepfakes videos ultrarrealistas manipulados ha erosionado la confianza en las imágenes y videos como evidencia, incluso cuando son auténticos. La publicación de videos adicionales de Netanyahu, incluyendo una prueba de vida en una cafetería, solo sirvió para alimentar nuevas teorías infundadas, como la acusación de que la taza de café del primer ministro permanecía inexplicablemente llena a pesar de sus movimientos.
La magnitud del problema es alarmante. Desde el inicio de la guerra, la red mundial de la AFP ha verificado más de 500 artículos, revelando información falsa, de los cuales entre el 20% y el 25% fueron creados con ayuda de la IA. Este nivel de manipulación artificial es inédito en una crisis de tal magnitud, superando con creces lo visto durante la invasión de Ucrania por parte de Rusia. Lo que distingue a este conflicto es la sofisticación y el realismo de los contenidos artificiales, producidos por herramientas accesibles y de bajo costo que eliminan gran parte de las señales tradicionales de manipulación.
Las plataformas tecnológicas se encuentran saturadas de lo que muchos describen como ruido digital . Thomas Nowotny, director de un grupo de investigación sobre IA en la Universidad de Sussex, sugiere que debemos empezar a tratar las fotos, videos y audios con el mismo escepticismo que las habladurías. El problema central no es tanto que la gente crea la desinformación, sino que la proliferación de contenido falso erosiona la confianza en la información real.
La revista alemana Der Spiegel se vio obligada a retirar imágenes relacionadas con Irán después de determinar que probablemente habían sido generadas por IA, un ejemplo de cómo incluso las redacciones más sólidas pueden ser engañadas. Además, la desinformación tiene una tendencia a resurgir, un fenómeno conocido como desinformación zombie . Los algoritmos de las redes sociales priorizan el contenido en función de las interacciones, lo que a menudo favorece el sensacionalismo, la indignación y la desinformación.
Los incentivos financieros también juegan un papel importante. Las plataformas permiten a los creadores de contenido obtener ganancias en función de las interacciones, lo que alienta a los influencers a difundir información engañosa o fabricada para aumentar los clics, la visibilidad y los ingresos. Cuentas en X que publican contenido de IA sobre la guerra han acumulado más de mil millones de visualizaciones. Un ejemplo viral fue un video generado por IA que mostraba la torre Burj Khalifa de Dubái derrumbándose, el cual acumuló diez millones de visualizaciones antes de que se añadiera una nota de comunidad.
La legoificación de la propaganda de guerra, es decir, el uso de memes generados por IA para trivializar los conflictos y difundir desinformación, es otra tendencia preocupante. Una falsa película iraní generada por IA con personajes de Lego se volvió viral, acusando a Donald Trump de atacar Teherán para desviar la atención de su presunta participación en el caso Jeffrey Epstein. Incluso el presidente Trump ha compartido imágenes y videos generados por IA para promover su imagen o atacar a sus opositores.
El Consejo de Supervisión de Meta ha advertido que las plataformas tecnológicas no están haciendo lo suficiente para ayudar a los usuarios a determinar si un contenido es generado por IA o auténtico, destacando el potencial de los contenidos falsos para incitar a la violencia y alimentar el conflicto. Meta puso fin a su programa de verificación por terceros en Estados Unidos, optando por un sistema de notas de comunidad que, según los críticos, podría debilitar aún más las salvaguardas contra la desinformación.
Las herramientas de detección de IA, aunque prometedoras, a menudo son imprecisas. En el caso de Netanyahu, una herramienta de detección de IA clasificó erróneamente su video como generado por IA en un 96,9% . Además, la desinformación se extiende a imágenes satelitales fabricadas y mapas de calor manipulados, empleados para sembrar dudas sobre las pruebas del conflicto.
La proliferación de contenido falso ha llevado a una situación en la que incluso la información real es cuestionada. Los usuarios de redes sociales han acusado falsamente a grandes medios de comunicación, como el New York Times, de publicar imágenes generadas por IA. Cuando la información verídica pero comprometedoras es descartada como falsa, los investigadores lo denominan el dividendo del mentiroso .
En este entorno, es más fácil negar las atrocidades y socavar la confianza en las instituciones. Hannah Covington, directora sénior de contenidos educativos en el News Literacy Project, insiste en que los malintencionados buscan crear un clima de desconfianza generalizada para que la gente no pueda confiar en nada. Incluso cuando se demuestra que una imagen es falsa, la duda persiste. Tras un ataque a una escuela en Irán, una cuenta oficial publicó una foto de una mochila ensangrentada que la AFP determinó que probablemente había sido generada por IA, pero muchos internautas simplemente comentaron: Probablemente modificada por IA, pero el significado es real , reflejando una resignación creciente ante la dificultad de discernir la verdad.
