Un prestigioso bufete de abogados de Wall Street, Sullivan & Cromwell, se vio obligado a disculparse formalmente ante un tribunal federal tras presentar un documento con errores generados por inteligencia artificial. El incidente, revelado por The New York Times, plantea serias dudas sobre la fiabilidad del uso de estas herramientas en el sistema legal estadounidense.
La disculpa fue dirigida al juez Martin Glenn del Tribunal de Quiebras de Estados Unidos en Manhattan, después de que abogados de la contraparte detectaran “alucinaciones” de IA, es decir, información inventada por sistemas automatizados. Andrew Dietderich, socio del bufete, admitió en una carta del 18 de abril la gravedad de la situación, lamentando profundamente lo ocurrido.
El documento contenía cerca de tres docenas de errores, incluyendo citas a pasajes inexistentes en fallos judiciales reales. El caso en el que se presentó el documento está relacionado con Prince Group, un conglomerado camboyano cuyo fundador enfrenta acusaciones de operar una red de estafa global. Sullivan & Cromwell representa al grupo designado para supervisar los activos de la compañía, que se declaró en bancarrota en Manhattan el 8 de abril.
Dietderich reconoció que no se siguieron los protocolos internos de la firma para el uso de la IA, recordando la importancia de “no confiar en nada y verificarlo todo”. La firma asegura haber revisado todos los documentos del caso y afirma que las alucinaciones se limitaron a una única presentación judicial.
Este incidente se suma a las crecientes preocupaciones sobre el uso de la inteligencia artificial en el ámbito legal, donde su capacidad para generar contenido erróneo pero plausible ha generado advertencias por parte de la Asociación de Abogados de Estados Unidos sobre la necesidad de extremar las precauciones. El caso subraya la importancia de la supervisión humana y la verificación exhaustiva de la información generada por IA en procesos legales.
Suscríbete a Noticias lat para más noticias.