Un abogado de alto rango de la firma Sullivan & Cromwell se disculpó ante un juez tras presentar un documento judicial plagado de errores, incluyendo citas y fuentes legales inexistentes, generadas por inteligencia artificial. Andrew Dietderich, codirector de la división de reestructuración, admitió que la firma cuenta con medidas de seguridad para prevenir este tipo de incidentes, pero que estas no se siguieron en la elaboración del documento en cuestión. La parte contraria, Boies Schiller Flexner, fue quien detectó los más de 40 errores, detallados en una carta de tres páginas.
Dietderich atribuyó los fallos a alucinaciones de las herramientas de IA, que fabrican citas de casos, citan erróneamente a las autoridades o generan fuentes legales inexistentes . Este incidente, aunque no es el primero en el ámbito legal, es particularmente llamativo dado el prestigio de Sullivan & Cromwell, una firma de élite de Wall Street cuyos socios cobran alrededor de US$ 2.000 la hora por casos de bancarrota.
El caso pone de manifiesto una brecha en la utilidad de la IA generativa. Tras la euforia inicial con el lanzamiento de ChatGPT, se ha hecho evidente que la IA es más efectiva para tareas deterministas, como la programación, donde existen respuestas correctas o incorrectas. En contraste, trabajos de oficina que requieren juicios de valor, como la creación de eslóganes o la selección de jurisprudencia, se desarrollan en zonas grises donde no existe una única respuesta correcta.
La programación, al ser determinista, permite verificar si el software funciona o no. En cambio, en áreas como el marketing o el derecho, la IA puede ofrecer sugerencias, pero la decisión final depende de la interpretación y el criterio humano. Esta distinción es crucial, ya que las empresas tecnológicas y los inversores están apostando fuertemente por la IA, a menudo basándose en la experiencia de los primeros usuarios, que no representan la realidad del mercado laboral en su conjunto.
El inversor Paul Kedrosky señaló que las estimaciones de demanda de IA se basan en la experiencia de programadores, cuyo trabajo es excepcionalmente extenso y requiere una gran potencia de procesamiento. La mayoría de las aplicaciones de IA para profesionales, en cambio, son más concisas, buscando resumir información o identificar puntos clave.
Este episodio plantea interrogantes sobre la promesa de una revolución de la IA. Si bien la IA puede ser útil para abogados, investigadores y periodistas, aún no está lista para reemplazar completamente el juicio humano. La IA generativa, impulsada por modelos de lenguaje grandes (LLM), podría ser una herramienta valiosa, pero su capacidad para generar información precisa y confiable sigue siendo limitada.
El incidente de Sullivan & Cromwell recuerda a otros casos de expectativas no cumplidas en el ámbito de la IA. El sistema de conducción totalmente autónoma de Tesla, por ejemplo, aún no ha alcanzado el nivel de autonomía prometido por Elon Musk hace una década. A pesar de ello, Tesla continúa vendiendo el sistema basándose en la idea de que funciona, aunque requiera la asistencia humana.
La IA podría ser una amenaza para ciertos trabajos, o simplemente una herramienta que ayuda a los humanos a ser más eficientes. La pregunta clave es si la IA puede procesar la vasta cantidad de información legal existente y reemplazar a abogados y asistentes legales. A la luz de la metedura de pata de Sullivan & Cromwell, parece que los LLM aún no están preparados para representar a humanos ante un tribunal.
En definitiva, la IA tiene el potencial de transformar el mundo laboral, pero su implementación requiere cautela y una comprensión clara de sus limitaciones. La experiencia de Sullivan & Cromwell sirve como una advertencia sobre los riesgos de confiar ciegamente en la IA sin una verificación humana adecuada. La IA puede ser una herramienta poderosa, pero no es una solución mágica. Su éxito depende de la colaboración entre humanos y máquinas, y de la capacidad de reconocer cuándo la IA necesita la asistencia humana para evitar el desastre. La promesa de la IA aún no se ha cumplido por completo, y es posible que tarde más tiempo del esperado en materializarse.
