El desarrollo de la inteligencia artificial ha entrado en una fase de intensa controversia, donde convergen advertencias sobre el fin de la humanidad, intereses geopolíticos y disputas económicas. Recientemente, Dario Amodei, CEO de Anthropic y una de las figuras centrales en la carrera tecnológica, ha hecho un llamado público para implementar una desaceleración deliberada en el avance de la IA. En un ensayo publicado en su sitio web, Amodei advirtió que la velocidad del desarrollo podría superar la capacidad de los seres humanos para gestionar estos sistemas.
Según Amodei, si la IA no se controla, podría rebasar la comprensión humana, por lo que aboga porque su desarrollo se realice con extremo cuidado, cuestionando incluso si debería continuar en el ritmo actual. Esta postura se alinea con advertencias más drásticas, como la de Jacob Coxon, un exingeniero que trabajó tanto en OpenAI como en Anthropic. Coxon afirmó a través de redes sociales que quienes desarrollan la tecnología creen sinceramente que la IA podría causar la extinción humana antes de que termine la década.
Aunque no existe una certeza sobre el mecanismo exacto que podría llevar a este escenario, el argumento central es que la IA aumenta su inteligencia constantemente y pronto podrá automejorarse, superando el ingenio humano. Esto podría derivar en consecuencias catastróficas, que van desde el hackeo de armas nucleares o la liberación de virus devastadores, hasta la creación de una sociedad mediocre donde la insatisfacción laboral sea la norma.
Este clima de alarma ha impulsado a legisladores como el senador Bernie Sanders a tomar medidas concretas. Sanders ha anunciado un proyecto de ley para prohibir la superinteligencia artificial, calificando de irresponsable que la sociedad permita que las grandes empresas tecnológicas sigan avanzando en productos cuyos resultados podrían ser catastróficos y fuera de control.
Sin embargo, no existe un consenso sobre las motivaciones detrás de estos llamados a la regulación. David Sacks, inversionista tecnológico y copresidente del Consejo de Asesores en Ciencia y Tecnología del presidente Donald Trump, sostiene una visión opuesta. Sacks sugiere que las advertencias sobre el riesgo existencial podrían ser parte de una campaña de "catastrofistas", posiblemente influenciada por China, para frenar la innovación en Estados Unidos.
Sacks argumenta que empresas como Anthropic y OpenAI, que piden públicamente la intervención gubernamental, podrían estar buscando crear un "duopolio en el mercado de vanguardia". Según esta perspectiva, al solicitar regulaciones que solo los laboratorios líderes podrían ayudar a definir, estas compañías asegurarían el control del mercado y limitarían la competencia, centralizando el poder de la IA en unas pocas manos. Para Sacks, el verdadero peligro no es la IA en sí, sino la pérdida de una innovación descentralizada y accesible.
Por su parte, el presidente Donald Trump ha desestimado las preocupaciones sobre las consecuencias finales de la IA, asegurando que se plantean cosas que no ocurrirán. Trump ha centrado su postura en la competencia estratégica con China, afirmando que quien gane la carrera de la IA, ganará en general. Para el mandatario, mantener la sofisticación tecnológica de Estados Unidos es la prioridad, aunque reconoce la posibilidad de establecer salvaguardas.
En el ámbito de la defensa, el secretario de Defensa, Pete Hegseth, ha señalado que la IA no toma decisiones letales, aunque se reconoce que la ley no impone límites explícitos sobre su uso en la denominada cadena de ataque.
Mientras algunos comparan esta situación con la carrera armamentista nuclear de la Guerra Fría y sugieren la necesidad de tratados internacionales de no proliferación, la realidad política actual hace difícil imaginar que potencias como Estados Unidos o China participen en tales iniciativas.
Finalmente, existe una brecha entre los temores existenciales de las élites tecnológicas y las preocupaciones de la ciudadanía común. Para muchos estadounidenses, la amenaza no es el fin del mundo, sino la expansión física de los centros de datos. Estos proyectos generan rechazo debido a su impacto en la calidad del agua, el aumento de las facturas de energía y la desaparición de tierras agrícolas, uniendo a personas de diversas tendencias políticas en una oposición populista contra la infraestructura material de la IA.
