Un video viral que muestra a un niño desconsolado frente a un ataúd cubierto con la bandera estadounidense, supuestamente tras la muerte de su padre en la guerra en Irán, ha sido identificado como una falsificación generada por inteligencia artificial (IA). La verificación, realizada por el equipo de Mala Espina, revela fallas visuales características de la IA y un alto grado de certeza (99.9% según Hive AI) de que el contenido es artificial. Este incidente subraya la creciente amenaza de la desinformación impulsada por la IA en el contexto de conflictos internacionales, donde la manipulación emocional puede tener consecuencias significativas.
La difusión del video se produjo en medio de un clima de tensión global, exacerbado por los enfrentamientos en Irán, que según informes de The New York Times ya han cobrado la vida de 13 ciudadanos estadounidenses. En este contexto, la imagen del niño llorando resonó profundamente en las redes sociales, especialmente en plataformas como X (anteriormente Twitter) y TikTok, donde se compartió ampliamente. Sin embargo, la rápida propagación del contenido no fue acompañada de una verificación adecuada, lo que permitió que la falsificación se presentara como un hecho real.
La investigación de Mala Espina se centró en analizar minuciosamente el video en busca de inconsistencias que pudieran indicar su origen artificial. Los verificadores identificaron varios errores visuales propios de las imágenes generadas por IA, como distorsiones sutiles en los rasgos faciales y movimientos poco naturales. Además, el uso de herramientas de detección de IA, como Hive AI, confirmó la sospecha inicial, asignando una probabilidad extremadamente alta de que el video fuera una creación artificial.
Lo más preocupante es que este no es un caso aislado. El equipo de Mala Espina descubrió la existencia de múltiples videos similares que presentan al mismo niño, con la misma vestimenta (camiseta azul marino y pantalones marrones), en la misma situación de duelo frente al ataúd con la bandera estadounidense. Estos videos, compartidos en diferentes plataformas como TikTok y YouTube, varían en perspectiva y en la presencia de otros personajes, pero comparten la misma base artificial.
Un video compartido en TikTok incluso incluía la etiqueta “contenido generado con IA”, lo que sugiere un cierto grado de transparencia por parte del usuario que lo publicó. Sin embargo, a pesar de esta advertencia, el video continuó circulando ampliamente, contribuyendo a la difusión de la desinformación. En este caso, las fallas visuales eran aún más evidentes, con las manos del niño y de la mujer que lo acompaña fusionándose en varias ocasiones y las voces no sincronizadas con el movimiento de sus labios.
Otro video, publicado en YouTube, añadía a dos personas mayores detrás del niño y su madre. En esta versión, los rostros de todos los personajes aparecían difuminados y presentaban errores en sus rasgos faciales, lo que reforzaba la sospecha de que se trataba de una creación artificial. Un tercer video, también en YouTube, incluía una voz robótica que lamentaba la tragedia de la guerra en Irán y el dolor de las familias de los soldados caídos. Este video también presentaba distorsiones en las manos y el rostro del niño y de la mujer al acercarse al ataúd.
La proliferación de estos videos falsos generados por IA plantea serias preocupaciones sobre el impacto de la desinformación en la opinión pública y en la percepción de los conflictos internacionales. La capacidad de crear imágenes y videos realistas pero falsos con relativa facilidad permite a los actores maliciosos manipular la información y sembrar la confusión, lo que puede tener consecuencias devastadoras.
La situación se agrava aún más por la velocidad con la que se difunde la desinformación en las redes sociales. Los algoritmos de estas plataformas a menudo priorizan el contenido que genera mayor interacción, lo que significa que las noticias falsas y las imágenes manipuladas pueden volverse virales rápidamente, llegando a un público amplio antes de que puedan ser verificadas.
Ante esta creciente amenaza, es fundamental que los usuarios de las redes sociales sean críticos con la información que consumen y que verifiquen la autenticidad de las imágenes y los videos antes de compartirlos. También es importante que las plataformas de redes sociales tomen medidas más enérgicas para detectar y eliminar la desinformación, y que inviertan en tecnologías que puedan ayudar a identificar el contenido generado por IA.
Mala Espina insta a los usuarios a reportar cualquier contenido sospechoso a través de su línea de WhatsApp (+56 9 7447 3146) o a unirse a su canal de WhatsApp para recibir actualizaciones sobre la lucha contra la desinformación. La organización también anima a los usuarios a seguir sus cuentas en Twitter e Instagram o a suscribirse a su newsletter semanal para mantenerse informados sobre las últimas verificaciones y noticias relacionadas con la desinformación.
Este incidente también se produce en un momento de transición para Mala Espina, tras la reciente renuncia de su gerente, Patricio Baronti. A pesar de este cambio en el liderazgo, la organización reafirma su compromiso de seguir luchando contra la desinformación y de proporcionar a los usuarios las herramientas y la información que necesitan para discernir la verdad de la falsedad. La batalla contra la desinformación es una tarea continua y requiere la colaboración de todos los actores involucrados, desde los verificadores de hechos hasta las plataformas de redes sociales y los usuarios individuales. La capacidad de distinguir entre la realidad y la ficción es más importante que nunca en un mundo cada vez más inundado de información.
