Luis Benítez, secretario de la Sociedad Paraguaya de Inteligencia Artificial, ha lanzado una advertencia contundente sobre el estado actual del desarrollo de la inteligencia artificial (IA), asegurando que las amenazas asociadas a este campo informático representan riesgos reales y tangibles, alejándose de ser simples mitos de ficción. Según el especialista, el problema central reside en la ausencia de un alineamiento de estas tecnologías con los valores, la ética y la moral humana.
En declaraciones brindadas a Monumental 1080 AM, Benítez analizó el contexto económico que impulsa este avance. Señaló que actualmente se encuentran en un escenario donde las dos compañías más prominentes del sector, Anthropic y OpenAI, se preparan para su lanzamiento a la bolsa de valores. El secretario explicó que, desde hace un año, se ha estado preparando el terreno necesario para captar el capital requerido para estos emprendimientos, lo que ha acelerado la competencia tecnológica.
No obstante, Benítez destacó una preocupante disparidad en el uso de los recursos. Afirmó que, si bien existe una carrera frenética por desarrollar nuevas inteligencias y capacidades tecnológicas, no hay una inversión proporcional en el alineamiento de dichas herramientas. Esta falta de control es crítica, considerando que estas tecnologías ya poseen aplicaciones militares desde hace décadas y han sido implementadas recientemente en conflictos en Gaza e Irán.
El experto enfatizó que el poder real de la IA es una realidad y no una fantasía. Advirtió que, a medida que los sistemas se vuelven más inteligentes, existe una tendencia creciente a delegar acciones y decisiones fundamentales sobre la infraestructura básica en estas herramientas. Esta delegación, sumada a la falta de un marco moral en el funcionamiento de la tecnología, crea un escenario de vulnerabilidad considerable.
En relación con este riesgo, Benítez mencionó que la empresa Anthropic ha manifestado alarmas sobre esta situación, lo cual ha coincidido con las reflexiones presentadas en la encíclica del nuevo Papa, quien ha subrayado la urgencia de humanizar la tecnología. El secretario reiteró que las advertencias son riesgos reales, especialmente porque la IA tiene conexiones directas con infraestructuras militares y sistemas biomédicos. La implementación de sistemas completamente autónomos, sin un control sobre sus decisiones o el impacto de sus acciones, podría afectar gravemente la vida humana en diversas regiones.
La magnitud de la inversión en este campo es masiva, moviendo miles de billones de dólares. Benítez alertó que el desarrollo ha llegado a un punto crítico en el que la inteligencia artificial podría empezar a diseñarse a sí misma, lo que añadiría una capa de complejidad y riesgo al control humano.
Uno de los puntos más alarmantes de su análisis se centró en las decisiones que una IA podría tomar sin comprender las consecuencias catastróficas. Como ejemplo, citó el caso de la represa de Itaipú; una inteligencia artificial podría decidir la destrucción de un dique o represa sin realizar un análisis del impacto humano y geográfico, lo que podría resultar en un desastre donde el lago barriera zonas hasta llegar a Buenos Aires.
Asimismo, Benítez señaló que existen riesgos similares en el ámbito de las armas nucleares, donde la IA podría señalar objetivos, o en la creación de armas biológicas. Mencionó la posibilidad de que la tecnología sea utilizada para mejorar virus pandémicos como táctica militar, sin que el sistema comprenda el impacto global de tales acciones.
Para respaldar estas preocupaciones, se citaron acciones recientes de la empresa Anthropic. La compañía informó haber bloqueado intentos de un organismo estatal de utilizar sus modelos de IA para el estudio de venenos no contagiosos. De igual manera, bloquearon a un usuario que investigaba toxinas bacterianas y proteínas de fiebres hemorrágicas virales con capacidad pandémica, específicamente relacionadas con el ébola. Además, la empresa frustró solicitudes de fondos destinadas a investigaciones que buscaban hacer que el virus del chikungunya fuera más resistente al sistema inmunitario y más transmisible.
Finalmente, el secretario de la Sociedad Paraguaya de Inteligencia Artificial advirtió sobre el impacto de los algoritmos en el sistema democrático. Benítez concluyó que la sociedad está delegando cada vez más la toma de decisiones al análisis de estos algoritmos, los cuales controlan diversos aspectos de la vida cotidiana y tienen el potencial de afectar directamente la voluntad y las decisiones de las personas.
