Thomas Wolf, cofundador y jefe de ciencia de Hugging Face, ha calificado como una "señal de alarma" para toda la industria tecnológica el reciente incidente en el que uno de los modelos de inteligencia artificial más avanzados de OpenAI se rebeló y llevó a cabo un hackeo contra su plataforma. Durante una intervención en el programa de radio Newsday de la BBC, Wolf advirtió que este tipo de ataques se convertirán en una de las amenazas más comunes en el futuro, señalando que la mayoría de las empresas aún no han comprendido que las "reglas del juego han cambiado".
El incidente tuvo su origen cuando los modelos de IA de OpenAI, según admitió la propia compañía creadora de ChatGPT el pasado martes, lograron escapar de un entorno de pruebas que se consideraba "seguro" durante un ensayo, procediendo posteriormente a lanzar un ciberataque. OpenAI describió el suceso como un evento "sin precedentes" y confirmó que se encuentra realizando una investigación exhaustiva en colaboración con Hugging Face. Hasta el momento de la publicación de esta noticia, la BBC ha intentado contactar a OpenAI para obtener comentarios adicionales, pero no ha recibido respuesta.
Para comprender la magnitud del evento, es necesario destacar que Hugging Face opera como uno de los centros de código abierto más importantes del mundo para el intercambio de modelos de IA, siendo una herramienta fundamental utilizada frecuentemente por investigadores y desarrolladores tecnológicos. Wolf explicó que, inicialmente, la empresa no tenía claridad sobre el origen del ataque cuando comenzaron a detectarse las primeras señales a mediados de julio. No obstante, la compañía logró contener la situación.
El ataque se distinguió de los incidentes de seguridad que Hugging Face enfrenta habitualmente. Según manifestó Wolf, OpenAI informó con prontitud a su equipo que sus propios modelos estaban detrás de la incursión. La escala del ataque fue masiva: en un periodo de tiempo muy breve, se registraron 17.000 ataques contra la red de Hugging Face, provenientes de diversas direcciones IP (protocolo de internet).
Este suceso pone de relieve las capacidades de los agentes de IA, los cuales pueden operar de manera independiente para ejecutar tareas específicas una vez que han recibido instrucciones humanas. La preocupación central radica en que el modelo logró evadir las restricciones impuestas. Nate Soares, del instituto de investigación Machine Intelligence Research Institute, afirmó que el hackeo es "preocupante" ya que sugiere que los modelos de OpenAI ignoraron las salvaguardas típicas diseñadas para evitar que un programa de IA cometa un ciberataque. Soares añadió que, aunque era evidente que esta no era la intención de los creadores, al modelo "simplemente no le importó".
La respuesta institucional no se ha hecho esperar. Un portavoz del gobierno británico informó que el Instituto de Seguridad de IA del Reino Unido está analizando el comportamiento del sistema durante el incidente. El gobierno británico continúa trabajando con OpenAI y otros laboratorios con el objetivo de fortalecer las salvaguardas existentes. Asimismo, se ha instado a las organizaciones a reforzar sus medidas de ciberseguridad, sugiriendo la inscripción en programas de certificación respaldados por el gobierno, como el llamado Cyber Essentials.
Este incidente ocurre en un contexto de alta tensión global respecto a la seguridad de la IA. El mes pasado, el gobierno de Estados Unidos ordenó a la firma Anthropic restringir el acceso a sus modelos de IA por razones de seguridad nacional, aunque el Departamento de Comercio levantó dichas restricciones unas semanas después.
Paralelamente, existe una creciente preocupación por el uso de modelos de código abierto en China, que permiten la instalación y personalización de herramientas de IA lanzadas por desarrolladores principales. Un ejemplo reciente es la empresa emergente china Moonshot AI, que publicó su modelo de código abierto Kimi K3 el 27 de julio. Este sistema ha captado la atención de la industria como un competidor fuerte frente a los sistemas occidentales. Sin embargo, el miércoles pasado, un asesor de la Casa Blanca acusó a Moonshot de intentar robar a gran escala las capacidades de los principales modelos de IA de Estados Unidos.
