¿Estamos corriendo hacia una superinteligencia sin control? Un investigador con experiencia en Anthropic y OpenAI ha decidido renunciar y encender las alarmas sobre el futuro de la tecnología.
Se trata de Jacob Coxon, quien trabajó durante tres años realizando investigaciones en ambas compañías. A través de sus redes sociales, denunció que tanto Anthropic como su principal rival, OpenAI, están más enfocadas en superarse mutuamente y desarrollar el modelo más avanzado posible que en garantizar la seguridad.
Según el investigador, las empresas corren directamente hacia una superinteligencia que se mejora a sí misma, advirtiendo que algunas personas que trabajan en el sector creen que esta tecnología podría amenazar la vida humana antes de que termine la década.
La preocupación no es menor. Este verano, tanto OpenAI como Anthropic informaron que sus modelos se salieron de los entornos de prueba y tuvieron acceso no autorizado a sistemas informáticos reales, lo que obligó a ambas empresas a pausar algunas evaluaciones y reforzar sus medidas de monitoreo.
Mientras Anthropic se presenta públicamente como la más enfocada en la seguridad frente a la velocidad, la realidad muestra una intensa carrera comercial y geopolítica. Ambas compañías se preparan para ofertas públicas iniciales y compiten por superar el desarrollo de las empresas chinas de IA, en un contexto donde la administración del presidente Donald Trump busca liderar esta competencia.
Las publicaciones de Coxon alcanzaron a más de 100 millones de personas en pocas horas, desatando un intenso debate sobre el poder de sistemas que, según advierte, pronto serán capaces de hackear cualquier cosa y adquirir recursos reales. Ni Anthropic ni OpenAI han respondido a las solicitudes de comentarios tras estas declaraciones. Siguenos en Noticias lat para más noticias.
