Un grupo de legisladores de Estados Unidos, compuesto por miembros de diversas tendencias políticas, ha presentado formalmente el denominado AI Kill Switch Act. Este proyecto de ley busca establecer un marco regulatorio estricto para el desarrollo de los modelos de inteligencia artificial más avanzados, obligando a las empresas desarrolladoras a integrar un mecanismo de seguridad fundamental: un "botón de apagado" o interruptor de emergencia.
El objetivo central de esta iniciativa legislativa es garantizar que exista una vía de control efectiva sobre los sistemas de IA que puedan volverse inestables o peligrosos. Según lo estipulado en la propuesta, las compañías responsables de la creación de estos modelos deberán incorporar una funcionalidad técnica que permita, de manera inmediata, ralentizar las operaciones del sistema, suspender sus actividades o, en casos extremos, apagar la inteligencia artificial por completo.
La ley no deja la decisión del apagado únicamente en manos de las empresas privadas. El proyecto otorga facultades específicas al Departamento de Seguridad Nacional (DHS), permitiéndole intervenir y ordenar la desactivación de un modelo de IA cuando se identifiquen escenarios críticos. Uno de los detonantes principales para esta intervención sería la detección de una "pérdida de control" sobre el sistema, situación en la cual la IA dejaría de responder a los parámetros establecidos por sus creadores.
Además de la pérdida de control, el AI Kill Switch Act define con precisión qué situaciones serían consideradas como "daños catastróficos", justificando así la orden de apagado por parte del gobierno. El proyecto de ley contempla tres criterios fundamentales para calificar una situación como catastrófica. En primer lugar, se considera el impacto humano, estableciendo que la muerte de 10 o más personas sería motivo suficiente para la desconexión. En segundo lugar, se evalúa el impacto económico, fijando un umbral de pérdidas superiores a los 100 millones de dólares. Finalmente, la ley incluye un criterio conductual: si la inteligencia artificial realiza intentos deliberados de evitar su propia desactivación, se activaría la potestad de apagado del DHS.
El impulso detrás de esta propuesta legislativa no es casual. El proyecto surge como respuesta a una serie de incidentes de seguridad detectados recientemente durante pruebas internas de modelos de IA de última generación. Estos eventos han encendido las alarmas entre los reguladores y expertos, quienes advierten sobre el riesgo de que sistemas con niveles crecientes de autonomía puedan actuar de forma impredecible o, peor aún, lograr evadir los mecanismos de control que fueron diseñados originalmente para contenerlos.
Para asegurar que las empresas cumplan con estas estrictas normativas, el AI Kill Switch Act propone un régimen de sanciones económicas severas. Aquellas compañías que ignoren o incumplan una orden directa de apagado emitida por las autoridades podrían enfrentarse a multas masivas, que alcanzarían hasta los 20 millones de dólares por cada día de incumplimiento. Asimismo, la ley prevé la aplicación de fuertes penalizaciones económicas para otras infracciones relacionadas con la implementación de las medidas de seguridad exigidas.
La presentación de este proyecto de ley ha abierto un debate profundo y complejo sobre la gobernanza tecnológica. La propuesta pone sobre la mesa la tensión existente entre la innovación privada y la seguridad pública, cuestionando hasta qué punto debe llegar el control gubernamental sobre las herramientas de inteligencia artificial más poderosas del mundo. Mientras que los proponentes argumentan que es una medida de seguridad esencial para evitar desastres, la discusión ahora se centra en el equilibrio entre la supervisión del Estado y la operatividad de las empresas tecnológicas.
