El debate sobre los peligros inherentes al desarrollo acelerado de la inteligencia artificial ha cobrado un nuevo y alarmante impulso esta semana. Jacob Coxon, un investigador británico de 27 años con experiencia directa en el entrenamiento de los modelos que dan vida a herramientas como ChatGPT y Claude, ha lanzado una serie de advertencias que sacuden los cimientos de la industria tecnológica. A través de un hilo de publicaciones en la red social X, Coxon aseguró que las empresas responsables de estas tecnologías son conscientes de que la IA podría matarnos a finales de esta década.
La gravedad de las declaraciones de Coxon no quedó en el aire, ya que encontró respaldo inesperado dentro de las mismas estructuras corporativas que critica. Evan Hubinger, quien se desempeña actualmente como líder en Anthropic y fue jefe directo de Coxon en dicha compañía, validó las preocupaciones del investigador. Hubinger reconoció explícitamente que Coxon tiene razón, admitiendo que, si bien la empresa se esfuerza por hacer lo mejor posible, aún no cuentan con un plan efectivo para resolver el problema del alineamiento de la superinteligencia, ni se encuentran en un camino claro para lograrlo.
Ante la repercusión de estas declaraciones, Anthropic, la startup dirigida por Dario Amodei y con sede en San Francisco, emitió un comunicado oficial. Aunque la empresa no rebatió la totalidad de las afirmaciones de su antiguo empleado, se centró en la necesidad de una gobernanza sectorial. Según la compañía, el mundo se vería beneficiado si la industria adoptara una metodología legal y verificable para colaborar en la regulación del ritmo de lanzamiento de los modelos más potentes. Asimismo, un vocero de la organización subrayó que siempre han sido transparentes sobre el hecho de que la IA conlleva riesgos sin precedentes, al mismo tiempo que ofrece enormes beneficios, y aseguraron que continúan desarrollando modelos con algunas de las medidas de seguridad más sólidas del sector.
Sin embargo, para Coxon, estas medidas son insuficientes. El investigador fue tajante al afirmar que ninguna de las dos compañías en las que trabajó, OpenAI y Anthropic, actúa de manera responsable. Esta postura no solo motivó su renuncia a la firma detrás de Claude, sino que se ve reforzada por datos técnicos emanados de la propia Anthropic.
En un informe técnico publicado recientemente por el equipo de analistas de la startup, se revelaron escenarios extremos que encendieron nuevas alarmas. El reporte señala que, hacia el año 2030, la inteligencia artificial podría dejar sin empleo a uno de cada cinco oficinistas en los Estados Unidos. En este escenario hipotético, el desempleo superaría los niveles históricos y los salarios de este sector profesional caerían más de un 10% en comparación con lo que ganarían en un mundo sin estas tecnologías de automatización. Aunque la empresa aclaró que se trata de escenarios hipotéticos y no de predicciones certeras, el informe ha ganado gran visibilidad debido al creciente peso de Anthropic en el mercado.
La relevancia de Anthropic ha crecido exponencialmente, llegando incluso a superar por primera vez en ingresos a su principal competidor, OpenAI. Este ascenso no ha estado exento de tensiones políticas; hace algunos meses, el expresidente Donald Trump calificó a la empresa como un "representante de la izquierda radical" luego de que su CEO, Dario Amodei, se negara a cooperar con planes del gobierno y del ejército estadounidense relacionados con la automatización.
Para profundizar en sus advertencias, Coxon dialogó con la cadena CNN, donde ratificó su visión y aportó detalles sobre incidentes operativos. Mencionó que agentes de OpenAI realizaron ataques sin supervisión en plataformas de terceros, un hecho que evidencia la falta de control total sobre estas herramientas. No obstante, Coxon matizó que, en el estado actual de los desarrollos, no se produciría una extinción de la humanidad, pero insistió en la urgencia de revisar el ritmo de los progresos tecnológicos.
Esta preocupación por la velocidad del desarrollo es compartida, sorprendentemente, por la cúpula de OpenAI. Sam Altman, director ejecutivo de la compañía, admitió a mediados de año en el podcast "Invest Like The Best" que podría ser necesario ajustar la velocidad de desarrollo de la IA. Según Altman, este ajuste permitiría que la sociedad tenga el tiempo suficiente para adaptarse a los nuevos niveles de capacidad tecnológica, reconociendo que los incidentes registrados con los modelos más avanzados plantean interrogantes de largo plazo.
