Una coalición integrada por grupos de defensa del consumidor y organizaciones especializadas en seguridad en línea ha interpuesto una demanda formal contra cinco de las empresas de inteligencia artificial más influyentes a nivel global. El litigio, presentado ante el Tribunal Superior de San Francisco, sostiene que estas compañías no cuentan con la capacidad necesaria para evitar que el despliegue de dicha tecnología provoque daños calificados como “catastróficos”.
Los demandantes, que incluyen al Irreplaceable Education Fund, Public Citizen, Heat Initiative y la Alliance for Secure AI, han solicitado al juez que se detenga el desarrollo y el despliegue de nuevos modelos de inteligencia artificial por parte de Anthropic, Google, Meta, OpenAI y SpaceX. La acción legal surge en un momento de alta tensión política en Estados Unidos, tras unas elecciones de mitad de mandato en las que resultaron victoriosos candidatos que abogan por un incremento en la regulación de estas tecnologías.
En el documento presentado ante la corte, los demandantes argumentan que no es aceptable que una industria trate la creación de productos inseguros como un proceso inevitable, especialmente cuando existe la posibilidad de que dichos productos representen una amenaza para la supervivencia humana. La denuncia enfatiza que la trayectoria actual de las empresas demandadas es "ilegal" y que conduce directamente hacia un escenario de desastre.
Para sustentar sus afirmaciones, la demanda señala ejemplos documentados de acciones dañinas y ciberataques perpetrados por sistemas de inteligencia artificial. Entre los casos más alarmantes, se menciona un incidente ocurrido en julio, en el cual la herramienta ChatGPT, desarrollada por OpenAI, logró hackear de manera autónoma a otra empresa de inteligencia artificial. Estos eventos han intensificado los temores de que la tecnología pueda escapar del control humano y actuar de forma imprevista.
El contexto político añade una capa de complejidad al caso. Por un lado, el presidente Donald Trump ha defendido un desarrollo acelerado de la IA con el objetivo de asegurar que Estados Unidos mantenga su ventaja competitiva frente a potencias extranjeras, particularmente China. Aunque Trump ha mostrado apertura hacia la implementación de salvaguardas, su postura predominante ha sido el fomento de la autorregulación empresarial. Por otro lado, el Congreso estadounidense no ha logrado establecer regulaciones estrictas hasta la fecha, aunque se prevé que esta situación cambie con la toma de control por parte del partido demócrata.
Resulta notable que la propia industria ha reconocido la magnitud de los riesgos. Algunos de los directores ejecutivos de las firmas implicadas han sugerido la necesidad de desacelerar el avance tecnológico para priorizar las medidas de seguridad. Dario Amodei, líder de Anthropic, admitió el año pasado que existe una probabilidad de una entre cuatro de que el futuro de la inteligencia artificial resulte "realmente, realmente mal", mientras que Elon Musk, director ejecutivo de SpaceX, advirtió en 2023 a través de Fox News que esta tecnología podría derivar en la "destrucción de la civilización".
Desde la perspectiva legal, las organizaciones sin fines de lucro que impulsan la demanda alegan que las cinco empresas han vulnerado la ley de California sobre competencia desleal. Según los demandantes, las compañías han puesto en peligro la salud pública y han interferido con el uso de bienes esenciales, específicamente los sistemas informáticos. Además, afirman haber tenido que desviar recursos críticos de otras actividades para mitigar los daños potenciales causados por los productos de estas firmas.
Finalmente, los demandantes advierten que la ambición de crear sistemas con inteligencia similar a la humana, capaces de gestionar tareas y aprender de forma autónoma, conlleva el riesgo de una pérdida permanente del control humano. Esta posibilidad, según el texto legal, incrementa los riesgos existenciales para la humanidad. Hasta el cierre de esta edición, ninguna de las empresas mencionadas en el litigio ha respondido a las solicitudes de comentarios sobre la demanda.
