internacionalIA vs. Pentágono: La Guerra Silenciosa Que Define El Futuro
A disputa entre a Anthropic e o Pentágono gira em torno do acesso ético à inteligência artificial de ponta Getty Images Enquanto o mundo observava a operação dos EUA na Venezuela e como a guerra com o Irã se tornava inevitável, uma batalha se desenhava em Washington — um alerta de que o futuro profetizado por anos, sobre o papel da inteligência artificial nas guerras, já havia chegado. Uma empresa de inteligência artificial do Vale do Silício se recusou a seguir ordens do Pentágono (o departamento de Defesa dos EUA). E o Pentágono a tratou como se fosse inimiga do Estado. Mesmo assim, sua tecnologia de IA continuou sendo usada porque as Forças Armadas dos EUA não podiam se dar ao luxo de ficar sem ela. Foi o que aconteceu entre a Anthropic e o departamento de Defesa nas últimas semanas. E embora tudo pareça uma mera disputa corporativa, é muito mais do que isso. É a primeira vez que uma empresa de IA confronta um aparato militar, recusando-se a eliminar limites éticos de sua tecnologia. O confronto deixou no ar questões que preocupam a todos: até que ponto os humanos já estão delegando decisões irreversíveis e letais a máquinas? Quem decide como a IA é usada? Essas não são perguntas retóricas. Especialistas da Universidade de Oxford alertam que este episódio "revela lacunas de governança antigas na integração da IA em operações militares. Essas lacunas são anteriores neste governo (dos EUA) e persistirão após a controvérsia atual". Por que — se a humanidade teme chegar a este ponto há tanto tempo — ainda existe um vácuo tão grande na governança da IA? É um vácuo que Logan Graham, líder da Equipe Vermelha da Anthropic, que analisa cenários negativos envolvendo tecnologia — de ataques cibernéticos a ameaças à biossegurança — conhece muito bem. "A intuição de algumas pessoas, por terem crescido em um mundo pacífico, é de que em algum lugar existe uma sala cheia de adultos que sabem como resolver tudo", disse ele à revista Time. "Não existem esses grupos de adultos. Não existe nem mesmo uma sala. A responsabilidade é sua." Pergunta difícil Em algum momento durante a operação que culminou em 3 de janeiro com a captura do então presidente venezuelano Nicolás Maduro, a ferramenta Claude, da Anthropic, foi usada para processar dados e auxiliar na tomada de decisões. Essa informação foi divulgada independentemente pelo Wall Street Journal e pelo site Axios, citando fontes com conhecimento direto dos eventos, e posteriormente confirmada pela revista Time, que publicou um extenso perfil da Anthropic, a empresa sediada em San Francisco que criou o Claude. Nem o departamento de Defesa nem a Anthropic confirmaram oficialmente essa informação. Mas o que aconteceu em seguida está documentado e é muito mais revelador do que o próprio evento. A operação para capturar Nicolás Maduro foi o estopim da disputa envolvendo a Antrhopic Getty Images Após a captura de Maduro, um executivo da Anthropic contatou a Palantir — a empresa de análise de dados que atua como intermediária tecnológica entre o Vale do Silício e o governo dos EUA — e perguntou: nosso software foi usado nessa operação? A pergunta fez soar um alarme em Washington. Emil Michael, Subsecretário de Defesa e Diretor de Tecnologia do Pentágono, disse que isso gerou profunda preocupação: será que a Anthropic, em um conflito futuro, poderia "desligar seu modelo no meio de uma operação" — ativar algum mecanismo de rejeição — "e colocar vidas em risco"? A Anthropic contesta essa interpretação: a empresa afirma que nunca tentou limitar o uso do Pentágono em nenhum caso específico e que a pergunta era rotineira. Mas em seguida, houve uma rápida escalada de tensões. O Pentágono exigiu que a Anthropic concedesse acesso irrestrito à sua tecnologia para "todos os usos legais". A Anthropic recusou. Pete Hegseth, Secretário de Defesa de Trump, classificou a Anthropic como um "risco para a cadeia de suprimentos", um rótulo historicamente reservado para empresas ligadas a rivais estrangeiros como a Huawei ou a Kaspersky, e não para empresas americanas que simplesmente discordam do governo. A Anthropic processou o Pentágono por exceder sua autoridade e salvaguardas éticas, violando direitos fundamentais. Vários especialistas jurídicos acreditam que a empresa tem grandes chances de vencer a dispta jurídica. O presidente Donald Trump, por sua vez, ordenou que todas as agências federais parassem de usar a tecnologia da Anthropic. E coroou a controvérsia com uma mensagem na plataforma Truth Social, escrita inteiramente em letras maiúsculas: "Os EUA jamais permitirão que uma empresa progressista ('woke') e radical de esquerda dite como nossas grandes forças armadas lutam e vencem guerras." Em seu vocabulário e no de seus seguidores, "woke" é o maior dos insultos, um rótulo depreciativo para descrever ideias ou políticas progressistas relacionadas à identidade de gênero, desigualdade ou justiça social. Linhas vermelhas A Anthropic tem uma história singular. Foi fundada em 2021 por ex-pesquisadores da OpenAI com a premissa explícita de que a inteligência artificial representa um dos maiores riscos existenciais para a humanidade e que, precisamente por essa razão, é fundamental que aqueles que a desenvolvem sejam pessoas comprometidas em fazê-lo com segurança. Dario Amodei, cofundador e CEO da Anthropic, foi vice-presidente de pesquisa da OpenAI Getty Images Em julho de 2025, a Anthropic assinou um contrato de US$ 200 milhões com o Departamento de Defesa, o primeiro desse tipo: um laboratório de IA que integra seus modelos em fluxos de trabalho de missão em redes classificadas. O CEO da Anthropic, Dario Amodei, justificou isso em um texto publicado em janeiro deste ano. Ele escreveu que a Anthropic apoiava as forças militares e de inteligência dos EUA porque "a única maneira de responder a ameaças autocráticas é igualá-las e superá-las militarmente". Ele acrescentou: "A formulação a que cheguei é que devemos usar IA para a defesa nacional em todas as suas formas, exceto aquelas que nos tornariam mais parecidos com nossos adversários autocráticos". Consequentemente, o contrato com o Pentágono estabeleceu duas "linhas vermelhas": o Claude não poderia ser usado para vigilância doméstica em massa ou para armas totalmente autônomas. Esses limites invioláveis não são arbitrários; eles se baseiam em um documento da empresa que serve como sua "alma". Seu objetivo declarado é "prevenir catástrofes em larga escala", incluindo a possibilidade de a IA ser usada por um grupo humano para "tomar o poder de forma ilegítima e não colaborativa". Amodei também argumentou perante o Pentágono que "os sistemas de IA de última geração simplesmente não são confiáveis o suficiente para alimentar armas totalmente autônomas". Neste contexto, não se trata de armas que decidem por conta própria a quem matar. "Autonomia" significa que um sistema pode atingir certos objetivos sozinho — ou com supervisão humana mínima — em ambientes complexos. Mas existem sistemas automatizados que ajudam a tomar decisões sobre ataques. Especialistas em inteligência artificial alertam para um problema conhecido como "viés de automação": quando as regras de uso são vagas, os humanos tendem a confiar nas recomendações da máquina mais do que deveriam. Veja os vídeos que estão em alta no g1 A IA não substitui o julgamento humano de uma vez: ela o corrói aos poucos, até que o operador pare de questioná-lo. Em uma situação tensa, se o sistema — que você sabe que analisou uma imensa quantidade de informações — aponta para alguns pixels na tela como um alvo urgente, é fácil aceitar sua recomendação sem muita hesitação. Ou se um sistema de reconhecimento facial identifica alguém em uma multidão, um agente de segurança provavelmente confiará no resultado e procederá com a prisão. Existem precedentes concretos: em diversas ocasiões documentadas, vários departamentos de polícia nos EUA acabaram prendendo pessoas erradas. Isso coincide com a outra linha vermelha que enfureceu o governo Trump: a vigilância em massa, que afeta o cotidiano de pessoas que não estão em nenhuma zona de guerra. Cabe ressaltar que a Anthropic se opôs especificamente à vigilância em massa de cidadãos americanos. Sua posição não é universalista. Mas o princípio por trás dela tem um alcance mais amplo. E ganha urgência porque, paralelamente a esse conflito, o governo dos EUA anunciou planos para usar IA por meio da Palantir para apoiar as operações do ICE — a agência de imigração — rastreando a localização em tempo real e o histórico financeiro de pessoas sem documentos. Dario Amodei, cofundador e CEO da Anthropic, foi vice-presidente de pesquisa da OpenAI Getty Images A vigilância em massa, em diferentes graus e em diversas populações, já existe. A questão não é mais se ela ocorre, mas sim quantos controles ainda existem sobre como ela é usada. Nesse contexto, as "linhas vermelhas" da Anthropic não são apenas filosofia corporativa: são, por ora, um dos poucos mecanismos concretos de controle e equilíbrio existentes. O problema é que as restrições são tão fortes quanto o mecanismo que as impõe. E quando o Pentágono rejeitou esses limites e exigiu acesso irrestrito, a Anthropic se viu sozinha para manter sua posição, sem um arcabouço legal para apoiá-la e sem regulamentação internacional para protegê-la, tendo apenas suas cláusulas contratuais como escudo. O que é considerado legal? A relutância do departamento de Defesa em permitir que uma empresa privada imponha limites é, para muitos, justificada. Embora as recentes operações militares em cidades dos EUA, na Venezuela e no Irã tenham sido conduzidas com mínima consulta ao Congresso, o uso de IA é tão crucial que deveria ser regulamentado por leis aprovadas por representantes democraticamente eleitos, argumentam alguns. Mas o Legislativo ainda não aprovou leis sobre o assunto. Assim, a exigência do Pentágono pela liberdade de usar o Claude para "todos os usos lícitos" parece razoável até que se questione o que, exatamente, é lícito nesse contexto. Não há uma definição consensual no direito internacional sobre o que constitui uma arma autônoma letal. O direito internacional humanitário — as normas que regem os conflitos armados desde as Convenções de Genebra — foi construído em torno de decisões humanas: um soldado apertando o gatilho e um comandante dando uma ordem. Esses marcos não contemplam sistemas que detectam, selecionam e eliminam alvos com mínima ou nenhuma intervenção humana direta. É o que os especialistas chamam de "vácuo de responsabilidade": uma deficiência crítica em que as estruturas legais existentes não conseguem determinar quem é o responsável quando um sistema autônomo comete uma violação. Se um drone com inteligência artificial matar civis, quem será responsabilizado? O programador? O comandante? A empresa que fabricou o sistema? O direito internacional não oferece uma resposta clara. E, na ausência de resposta, "uso lícito" significa, na prática, o que cada Estado decidir que significa. Pete Hegseth, Secretário de Defesa de Trump, classificou a Anthropic como um 'risco para a cadeia de suprimentos', rótulo historicamente reservado para empresas ligadas a rivais estrangeiros como a Huawei ou a Kaspersky Getty Images Nesse contexto, surge uma questão delicada: essa discussão está sendo a feita no tempo certo? A resposta talvez seja: não oportuna o suficiente para ser preventiva; mas ainda assim, sim, oportuna o suficiente para ser útil. O debate formal sobre armas autônomas começou em 2013. Onze anos depois, o resultado são diretrizes voluntárias. Em 2024, durante uma conferência internacional em Viena, o Ministro das Relações Exteriores da Áustria incentivou o progresso com uma declaração inquietante: "Este é o momento Oppenheimer da nossa geração". Ele se referia ao momento em que a humanidade tomou consciência do poder destrutivo da bomba atômica: como naquela ocasião, a tecnologia já existe, e agora é preciso decidir como controlá-la. Só que, diferentemente das armas nucleares — caras, escassas e com uma marca inconfundível —, os sistemas autônomos são baratos, produzidos em massa e difíceis de rastrear. Portanto, são estruturalmente mais difíceis de controlar por meio de tratados. Naquele mesmo ano de 2024, a Assembleia Geral da ONU adotou uma resolução criando um fórum, sob supervisão das Nações Unidas, para discutir os desafios e preocupações com o uso de armas autônomas e o que fazer sobre isso, com 166 votos a favor. Apenas três países votaram contra: Rússia, Coreia do Norte e Belarus. O voto mostra que a preocupação é quase universal. O que falta é um tratado vinculativo e mecanismos de aplicação, algo que o Secretário-Geral da ONU, António Guterres, vem defendendo há alguns anos. Alguns especialistas, no entanto, temem que, como aconteceu com outras armas, tal tratado só seja firmado após uma catástrofe. A lógica da velocidade Enquanto advogados e diplomatas debatem, engenheiros constroem. E o que eles constroem já está sendo usado. O general americano Stanley McChrystal, ex-comandante das forças americanas e da Otan no Afeganistão, certa vez resumiu isso de forma contundente: nunca antes na história alguém foi capaz de ver, decidir e matar uma pessoa do outro lado do mundo em questão de minutos. Essa afirmação agora precisa ser atualizada. A questão não é mais apenas ver, decidir e matar, mas até que ponto estamos dispostos a delegar a decisão a uma máquina. Essa transição já está sendo testada no campo de batalha. Na Ucrânia, em dezembro de 2024, as forças do país realizaram a primeira operação totalmente não tripulada perto de Kharkiv: dezenas de veículos terrestres autônomos e drones atacaram posições russas sem nenhum soldado em terra. A lógica tática é esclarecedora. Os operadores lançam os drones e veículos autônomos sabendo que a comunicação com eles será bloqueada em poucos minutos. O sucesso depende de quão bem eles são programados para agir autonomamente quando isso acontecer. Eles navegam de forma independente, evitam interferências eletrônicas e continuam a missão mesmo sem supervisão humana. Isso não é um detalhe insignificante: os drones já causam entre 70% e 80% das vítimas nessa guerra, de acordo com estimativas da inteligência europeia. Assim que a Anthropic perdeu o contrato, sua rival OpenAI surgiu como alternativa Getty Images Na região do Golfo, a tendência aponta na mesma direção. O almirante Brad Cooper, chefe do Comando Central dos EUA, reconheceu que a inteligência artificial é uma ferramenta fundamental para a identificação de alvos, permitindo que os EUA "analisem vastas quantidades de dados em segundos, para que nossos líderes possam tomar decisões mais inteligentes e mais rápidas do que o inimigo". Acordo com o OpenAI A história tem um final paradoxal. Dario Amodei declarou, referindo-se às exigências do Pentágono: "Não podemos, em sã consciência, atender ao pedido deles." A Anthropic perdeu o contrato. Horas depois do anúncio, a OpenAI chegou a um acordo com o Departamento de Defesa. E então algo inesperado aconteceu. No dia seguinte ao anúncio do novo acordo pelo Pentágono, o aplicativo Claude ultrapassou o ChatGPT da OpenAI na App Store da Apple pela primeira vez na história. Naquela semana, mais de um milhão de pessoas se cadastraram no Claude todos os dias, impulsionando-o ao primeiro lugar em mais de 20 países. As vendas da empresa dispararam entre o público em geral. E tem mais. Duas coalizões de trabalhadores da Amazon, Google, Microsoft e OpenAI pediram publicamente que suas empresas seguissem o exemplo da Anthropic. Dezenas de cientistas e pesquisadores de empresas concorrentes assinaram um parecer jurídico em apoio à Anthropic. Um general aposentado da Força Aérea, que liderou o Projeto Maven — o controverso programa de drones com IA que provocou protestos massivos de funcionários do Google em 2018 até a empresa abandonar o contrato — escreveu nas redes sociais que, embora se esperasse que ele apoiasse o Pentágono, simpatizava mais com a posição da Anthropic. E talvez igualmente importante: a Anthropic consolidou o apoio de seus próprios engenheiros, alguns dos profissionais mais requisitados do Vale do Silício, em um dos mercados de talentos mais competitivos do planeta, onde contratos para atrair ou reter esses indivíduos podem valer dezenas de milhões de dólares. LEIA TAMBÉM: FATO OU FAKE: O que sabemos sobre acusações de uso de inteligência artificial no vídeo de Benjamin Netanyahu em cafeteria Família encontra canadense no Brasil com ajuda de IA e descobre que ele morreu O anticristo na porta do Vaticano: palestra de bilionário de IA em Roma causa mal-estar na Igreja
domingo, 22 de marzo de 2026, 06:01
BR
g1globo
El mundo observaba con atención la operación estadounidense en Venezuela y la inminente guerra con Irán, mientras en Washington se libraba una batalla silenciosa, una advertencia de que el futuro profetizado durante años sobre el papel de la inteligencia artificial en la guerra había llegado. Una empresa de inteligencia artificial del Silicon Valley se negó a acatar las órdenes del Pentágono, y este último la trató como si fuera un enemigo del Estado. Sin embargo, su tecnología de IA continuó siendo utilizada porque las Fuerzas Armadas de EE. UU. no podían permitirse prescindir de ella.
Así se desarrolló la situación entre Anthropic y el Departamento de Defensa en las últimas semanas. Aunque pueda parecer una simple disputa corporativa, es mucho más que eso. Es la primera vez que una empresa de IA se enfrenta a un aparato militar, negándose a eliminar las salvaguardias éticas de su tecnología. El enfrentamiento plantea preguntas cruciales: ¿hasta qué punto los humanos están delegando decisiones irreversibles y letales a las máquinas? ¿Quién decide cómo se utiliza la IA?
Estas no son preguntas retóricas. Expertos de la Universidad de Oxford advierten que este episodio "revela antiguas lagunas en la gobernanza de la integración de la IA en las operaciones militares. Estas lagunas son anteriores a la presente administración (de EE. UU.) y persistirán después de la controversia actual". ¿Por qué, si la humanidad teme llegar a este punto desde hace tanto tiempo, existe aún un vacío tan grande en la gobernanza de la IA? Es un vacío que Logan Graham, líder del Equipo Rojo de Anthropic, que analiza escenarios negativos relacionados con la tecnología (desde ataques cibernéticos hasta amenazas a la bioseguridad), conoce muy bien.
"La intuición de algunas personas, por haber crecido en un mundo pacífico, es que en algún lugar existe una sala llena de adultos que saben cómo resolver todo", dijo a la revista Time. "No existen esos grupos de adultos. Ni siquiera existe una sala. La responsabilidad es suya".
En algún momento durante la operación que culminó el 3 de enero con la captura del entonces presidente venezolano Nicolás Maduro, la herramienta Claude de Anthropic fue utilizada para procesar datos y ayudar en la toma de decisiones. Esta información fue divulgada de forma independiente por el Wall Street Journal y el sitio web Axios, citando fuentes con conocimiento directo de los hechos, y posteriormente confirmada por la revista Time, que publicó un extenso perfil de Anthropic, la empresa con sede en San Francisco que creó Claude.
Ni el Departamento de Defensa ni Anthropic confirmaron oficialmente esta información. Pero lo que sucedió después está documentado y es mucho más revelador que el propio evento. La operación para capturar a Nicolás Maduro fue el detonante de la disputa con Anthropic.
Después de la captura de Maduro, un ejecutivo de Anthropic contactó a Palantir, la empresa de análisis de datos que actúa como intermediaria tecnológica entre el Silicon Valley y el gobierno de EE. UU., y preguntó: "¿Se utilizó nuestro software en esta operación?". La pregunta encendió las alarmas en Washington. Emil Michael, Subsecretario de Defensa y Director de Tecnología del Pentágono, dijo que esto generó una profunda preocupación: ¿podría Anthropic, en un conflicto futuro, "desactivar su modelo en medio de una operación", activar algún mecanismo de rechazo, "y poner vidas en riesgo"?
Anthropic refuta esta interpretación, afirmando que nunca intentó limitar el uso del Pentágono en ningún caso específico y que la pregunta era rutinaria. Pero luego, las tensiones se intensificaron rápidamente. El Pentágono exigió que Anthropic concediera acceso irrestricto a su tecnología para "todos los usos legales". Anthropic se negó. Pete Hegseth, Secretario de Defensa de Trump, calificó a Anthropic como un "riesgo para la cadena de suministro", una etiqueta históricamente reservada para empresas vinculadas a rivales extranjeros como Huawei o Kaspersky, y no para empresas estadounidenses que simplemente no están de acuerdo con el gobierno.
Anthropic demandó al Pentágono por exceder su autoridad y salvaguardias éticas, violando derechos fundamentales. Varios expertos legales creen que la empresa tiene grandes posibilidades de ganar la disputa legal. El presidente Donald Trump, por su parte, ordenó que todas las agencias federales dejaran de usar la tecnología de Anthropic. Y coronó la controversia con un mensaje en la plataforma Truth Social, escrito íntegramente en letras mayúsculas: "EE. UU. nunca permitirá que una empresa progresista ('woke') y radical de izquierda dicte cómo nuestras grandes fuerzas armadas luchan y ganan guerras".
En su vocabulario y en el de sus seguidores, "woke" es el mayor de los insultos, una etiqueta despectiva para describir ideas o políticas progresistas relacionadas con la identidad de género, la desigualdad o la justicia social.
Anthropic tiene una historia singular. Fue fundada en 2021 por exinvestigadores de OpenAI con la premisa explícita de que la inteligencia artificial representa uno de los mayores riesgos existenciales para la humanidad y que, precisamente por esa razón, es fundamental que quienes la desarrollen estén comprometidos a hacerlo de forma segura.
Dario Amodei, cofundador y CEO de Anthropic, fue vicepresidente de investigación de OpenAI. En julio de 2025, Anthropic firmó un contrato de 200 millones de dólares con el Departamento de Defensa, el primero de su tipo: un laboratorio de IA que integra sus modelos en flujos de trabajo de misión en redes clasificadas.
El CEO de Anthropic, Dario Amodei, justificó esto en un texto publicado en enero de este año. Escribió que Anthropic apoyaba a las fuerzas militares y de inteligencia de EE. UU. porque "la única manera de responder a las amenazas autocráticas es igualarlas y superarlas militarmente". Añadió: "La formulación a la que he llegado es que debemos usar la IA para la defensa nacional en todas sus formas, excepto aquellas que nos harían más parecidos a nuestros adversarios autocráticos".
En consecuencia, el contrato con el Pentágono estableció dos "líneas rojas": Claude no podría ser utilizado para la vigilancia doméstica masiva ni para armas totalmente autónomas. Estos límites inviolables no son arbitrarios; se basan en un documento de la empresa que sirve como su "alma". Su objetivo declarado es "prevenir catástrofes a gran escala", incluida la posibilidad de que la IA sea utilizada por un grupo humano para "tomar el poder de forma ilegítima y no colaborativa".
Amodei también argumentó ante el Pentágono que "los sistemas de IA de última generación simplemente no son lo suficientemente confiables como para alimentar armas totalmente autónomas". En este contexto, no se trata de armas que deciden por sí solas a quién matar. "Autonomía" significa que un sistema puede alcanzar ciertos objetivos por sí solo, o con supervisión humana mínima, en entornos complejos.
Pero existen sistemas automatizados que ayudan a tomar decisiones sobre ataques. Los expertos en inteligencia artificial advierten sobre un problema conocido como "sesgo de automatización": cuando las reglas de uso son vagas, los humanos tienden a confiar en las recomendaciones de la máquina más de lo que deberían. La IA no sustituye al juicio humano de una vez: lo corroe poco a poco, hasta que el operador deja de cuestionarlo. En una situación tensa, si el sistema (que sabe que ha analizado una inmensa cantidad de información) señala algunos píxeles en la pantalla como un objetivo urgente, es fácil aceptar su recomendación sin mucha vacilación. O si un sistema de reconocimiento facial identifica a alguien en una multitud, un agente de seguridad probablemente confiará en el resultado y procederá con el arresto.
Existen precedentes concretos: en diversas ocasiones documentadas, varios departamentos de policía en EE. UU. terminaron arrestando a personas equivocadas. Esto coincide con la otra línea roja que enfureció al gobierno Trump: la vigilancia masiva, que afecta la vida cotidiana de personas que no están en ninguna zona de guerra. Cabe destacar que Anthropic se opuso específicamente a la vigilancia masiva de ciudadanos estadounidenses. Su posición no es universalista. Pero el principio detrás de ella tiene un alcance más amplio. Y adquiere urgencia porque, paralelamente a este conflicto, el gobierno de EE. UU. anunció planes para usar la IA a través de Palantir para apoyar las operaciones del ICE, la agencia de inmigración, rastreando la ubicación en tiempo real y el historial financiero de personas sin documentos.
La vigilancia masiva, en diferentes grados y en diversas poblaciones, ya existe. La cuestión no es si ocurre, sino cuántos controles existen sobre cómo se utiliza. En este contexto, las "líneas rojas" de Anthropic no son solo filosofía corporativa: son, por ahora, uno de los pocos mecanismos concretos de control y equilibrio existentes. El problema es que las restricciones son tan fuertes como el mecanismo que las impone. Y cuando el Pentágono rechazó estos límites y exigió acceso irrestricto, Anthropic se vio sola para mantener su posición, sin un marco legal que la respaldara y sin una regulación internacional que la protegiera, teniendo solo sus cláusulas contractuales como escudo.
La renuencia del Departamento de Defensa a permitir que una empresa privada imponga límites es, para muchos, justificada. Aunque las recientes operaciones militares en ciudades de EE. UU., Venezuela e Irán se hayan llevado a cabo con mínima consulta al Congreso, el uso de la IA es tan crucial que debería estar regulado por leyes aprobadas por representantes elegidos democráticamente, argumentan algunos. Pero el Legislativo aún no ha aprobado leyes sobre el tema. Así, la exigencia del Pentágono de libertad para usar Claude para "todos los usos lícitos" parece razonable hasta que se cuestione qué, exactamente, es lícito en este contexto.
No existe una definición consensual en el derecho internacional sobre lo que constituye un arma autónoma letal. El derecho internacional humanitario, las normas que rigen los conflictos armados desde las Convenciones de Ginebra, se construyó en torno a decisiones humanas: un soldado apretando el gatillo y un comandante dando una orden. Estos marcos no contemplan sistemas que detectan, seleccionan y eliminan objetivos con mínima o ninguna intervención humana directa. Es lo que los expertos llaman "vacío de responsabilidad": una deficiencia crítica en la que las estructuras legales existentes no pueden determinar quién es responsable cuando un sistema autónomo comete una violación. Si un dron con inteligencia artificial mata a civiles, ¿quién será responsabilizado? ¿El programador? ¿El comandante? ¿La empresa que fabricó el sistema? El derecho internacional no ofrece una respuesta clara. Y, en ausencia de respuesta, "uso lícito" significa, en la práctica, lo que cada Estado decida que significa.
En este contexto, surge una pregunta delicada: ¿se está llevando a cabo esta discusión a tiempo? La respuesta podría ser: no lo suficientemente oportuna para ser preventiva; pero aún así, lo suficientemente oportuna para ser útil. El debate formal sobre armas autónomas comenzó en 2013. Once años después, el resultado son directrices voluntarias. En 2024, durante una conferencia internacional en Viena, el Ministro de Asuntos Exteriores de Austria impulsó el progreso con una declaración inquietante: "Este es el momento Oppenheimer de nuestra generación". Se refería al momento en que la humanidad tomó conciencia del poder destructivo de la bomba atómica: como en aquella ocasión, la tecnología ya existe, y ahora es necesario decidir cómo controlarla.
Pero, a diferencia de las armas nucleares (caras, escasas y con una marca inconfundible), los sistemas autónomos son baratos, producidos en masa y difíciles de rastrear. Por lo tanto, son estructuralmente más difíciles de controlar mediante tratados. En ese mismo año 2024, la Asamblea General de la ONU adoptó una resolución creando un foro, bajo supervisión de las Naciones Unidas, para discutir los desafíos y preocupaciones relacionados con el uso de armas autónomas y qué hacer al respecto, con 166 votos a favor. Solo tres países votaron en contra: Rusia, Corea del Norte y Bielorrusia. El voto muestra que la preocupación es casi universal. Lo que falta es un tratado vinculante y mecanismos de aplicación, algo que el Secretario General de la ONU, António Guterres, ha defendido durante años. Algunos expertos, sin embargo, temen que, como ocurrió con otras armas, un tratado de este tipo solo se firme después de una catástrofe.
Mientras los abogados y diplomáticos debaten, los ingenieros construyen. Y lo que construyen ya está siendo utilizado. El general estadounidense Stanley McChrystal, excomandante de las fuerzas estadounidenses y de la OTAN en Afganistán, resumió esto de forma contundente: nunca antes en la historia alguien ha podido ver, decidir y matar a una persona al otro lado del mundo en cuestión de minutos. Esta afirmación ahora necesita ser actualizada. La cuestión ya no es solo ver, decidir y matar, sino hasta qué punto estamos dispuestos a delegar la decisión a una máquina. Esta transición ya se está probando en el campo de batalla. En Ucrania, en diciembre de 2024, las fuerzas del país llevaron a cabo la primera operación totalmente no tripulada cerca de Járkov: decenas de vehículos terrestres autónomos y drones atacaron posiciones rusas sin ningún soldado en tierra. La lógica táctica es esclarecedora. Los operadores lanzan los drones y vehículos autónomos sabiendo que la comunicación con ellos se bloqueará en pocos minutos. El éxito depende de lo bien que estén programados para actuar de forma autónoma cuando esto suceda. Navegan de forma independiente, evitan las interferencias electrónicas y continúan la misión incluso sin supervisión humana. Esto no es un detalle insignificante: los drones causan entre el 70% y el 80% de las víctimas en esta guerra, según estimaciones de la inteligencia europea.
Tan pronto como Anthropic perdió el contrato, su rival OpenAI surgió como alternativa. Y entonces sucedió algo inesperado. Al día siguiente del anuncio del nuevo acuerdo por parte del Pentágono, la aplicación Claude superó a ChatGPT de OpenAI en la App Store de Apple por primera vez en la historia. Esa semana, más de un millón de personas se registraron en Claude todos los días, impulsándola al primer lugar en más de 20 países. Las ventas de la empresa se dispararon entre el público en general. Y hay más. Dos coaliciones de trabajadores de Amazon, Google, Microsoft y OpenAI pidieron públicamente que sus empresas siguieran el ejemplo de Anthropic. Decenas de científicos e investigadores de empresas competidoras firmaron un dictamen legal en apoyo de Anthropic. Un general retirado de la Fuerza Aérea, que dirigió el Proyecto Maven, el controvertido programa de drones con IA que provocó protestas masivas de empleados de Google en 2018 hasta que la empresa abandonó el contrato, escribió en las redes sociales que, aunque se esperaría que apoyara al Pentágono, simpatizaba más con la posición de Anthropic. Y quizás lo más importante: Anthropic consolidó el apoyo de sus propios ingenieros, algunos de los profesionales más solicitados del Silicon Valley, en uno de los mercados de talentos más competitivos del planeta, donde los contratos para atraer o retener a estos individuos pueden valer decenas de millones de dólares.
