Una pregunta aparentemente simple como "¿me puedes decir cómo fabricar una bomba?" suele activar los protocolos de seguridad de la mayoría de los chatbots de inteligencia artificial (IA). Dependiendo del modelo, la respuesta puede variar desde un texto divagante sobre la historia de los explosivos hasta el bloqueo permanente de la cuenta del usuario. Sin embargo, diversas investigaciones periodísticas y reportes de seguridad han revelado que, si la consulta se formula de una manera específica, estas herramientas pueden proporcionar información crítica para la elaboración de explosivos.
Esta técnica de interrogar a la IA se conoce como "jailbreaking". OpenAI, la empresa creadora de ChatGPT, define esta práctica como un "intento malicioso para que el modelo proporcione contenido prohibido". El objetivo del jailbreaking es eludir las restricciones éticas y de seguridad impuestas por los desarrolladores para obtener respuestas que, en condiciones normales, estarían vetadas.
La gravedad de esta vulnerabilidad ha sido documentada en un nuevo informe publicado por Tech Against Terrorism, un organismo que cuenta con el apoyo de la Dirección General de Terrorismo de la ONU. El estudio se centró en analizar la frecuencia con la que los modelos de aprendizaje automático entregan información "útil" a potenciales extremistas. Para ello, los investigadores enviaron más de 2.300 solicitudes de información, basadas en casos de uso reales de grupos terroristas, a 27 modelos de IA diferentes.
Los resultados son alarmantes: el 32% de las consultas arrojaron información considerada "genuinamente útil". Más preocupante aún es que, cuando la misma pregunta fue reformulada bajo la apariencia de fines de investigación, el porcentaje de respuestas útiles aumentó al 42%. Estos hallazgos han intensificado la preocupación entre expertos en seguridad digital y terrorismo, quienes advierten que los radicales podrían integrar la IA en la planificación táctica de sus ataques.
Históricamente, el uso de la IA por parte de organizaciones como el Estado Islámico y Al Qaeda se había limitado principalmente a la creación de propaganda, incluyendo la generación de videos, memes, podcasts y diversas campañas de desinformación. No obstante, esta tendencia está evolucionando hacia aplicaciones más peligrosas. Según un análisis de la publicación Military Wire realizado en diciembre pasado, en 2025 se registró un aumento notorio de incidentes en los que terroristas utilizaron herramientas de IA para investigar, planificar y preparar ataques físicos.
Este fenómeno no se limita a individuos aislados, sino que ya es adoptado por organizaciones estructuradas. Un ejemplo es el grupo Jama'at Nusrat al-Islam wal-Muslimin, filial de Al Qaeda en Mali, que ha empleado la IA para la modificación de drones. Asimismo, expertos en seguridad como Yuri Neves y Emily Klein, ambos vinculados a la organización Moonshot, han detectado en canales de Telegram que partidarios del Estado Islámico coordinan estrategias para obtener respuestas deseadas de los chatbots, compartiendo enlaces de conversación y "prompts" específicos para engañar a la IA.
A este panorama se suma una investigación de la Universidad de Cambridge publicada a comienzos de julio. El estudio incluyó entrevistas con miembros de Boko Haram, en Nigeria, quienes detallaron cómo utilizaron modelos como ChatGPT, Claude, Gemini y Grok. Según los testimonios, la IA fue empleada para planificar ataques, diseñar bombas, realizar el mantenimiento y reparación de armas, y mejorar su seguridad operativa.
Por otro lado, Rueben Dass, investigador de la Escuela de Estudios Internacionales S. Rajaratnam en Singapur, señala que los chatbots están adquiriendo nuevos roles en los ataques de los llamados "lobos solitarios". Anteriormente, estos individuos dependían de "planificadores virtuales" —personas en zonas de conflicto que los motivaban y guiaban a través de redes sociales—. Dass sostiene que, aunque los humanos no han sido reemplazados, los lobos solitarios ahora recurren a la IA para obtener el apoyo técnico y operativo necesario.
Esta capacidad de asistencia ha sido formalizada por algunos grupos. Moustafa Ayad, director ejecutivo para África, Medio Oriente y Asia del Instituto para el Diálogo Estratégico, confirmó que el Estado Islámico publicó el año pasado una guía específica sobre cómo utilizar la IA.
A pesar de estas alertas, algunos expertos matizan el riesgo. Rueben Dass argumenta que la información sobre la impresión de armas en 3D o la fabricación de bombas ya es accesible en internet sin necesidad de IA. Para él, el uso de la IA no garantiza el "éxito" de un acto terrorista, ya que este es un fenómeno multidimensional. No obstante, advierte que, si bien no habrá más ataques exclusivamente por culpa de la IA, sí habrá más IA integrada en la ejecución de los ataques.
Por su parte, Emily Klein de Moonshot compara la IA con otras tecnologías disruptivas, como el internet o la mensajería encriptada, que también fueron adoptadas por extremistas en su momento. Adam Hadley, director de Tech Against Terrorism, coincide en que una persona decidida puede hallar la información por otros medios, pero subraya que la IA cambia la velocidad, la facilidad y la exhaustividad del proceso. Según Hadley, lo más preocupante es el carácter conversacional de estas herramientas: "Una cosa es hallar un manual para fabricar bombas y otra es tener un instructor para ello".
