Google elimina resúmenes de IA por contener errores peligrosos sobre salud

Google ha comenzado a eliminar algunos de sus resúmenes producidos con Inteligencia Artificial porque los errores e inexactitudes que presentan podrían suponer un riesgo para la salud de los usuarios. Una investigación de The Guardian ha revelado que estos resúmenes escritos con IA generativa pueden contener información falsa o incompleta, especialmente en temas relacionados con la salud.

Estos resúmenes de IA buscan ofrecer respuestas claras y precisas a los usuarios cuando realizan una búsqueda, apareciendo en la parte superior de los resultados. Sin embargo, en el caso de los datos referentes a la salud, no siempre eran correctos.

El diario británico menciona un caso en el que el buscador proporcionó información errónea sobre la disfunción hepática, lo que podría llevar a personas que sufren esta patología a pensar que no tienen ningún problema. Según los expertos consultados, la IA generativa de Google no tiene en cuenta aspectos cruciales de los pacientes, como la edad, la estatura o el sexo, lo que también podría inducir a creer que se presentan síntomas de una enfermedad cuando no es así.

Entre otros resúmenes eliminados, se encuentran las respuestas a preguntas como "¿cuál es el rango normal de los análisis de sangre del hígado?" o "¿cuál es el rango normal de las pruebas de función hepática?".

En respuesta a la investigación de The Guardian, una portavoz de Google señaló que no van a realizar "comentarios sobre eliminaciones individuales en la búsqueda", pero que "en los casos en los que los resúmenes de IA omiten parte del contexto, trabajamos para realizar mejoras generales y también tomamos medidas de acuerdo con nuestras políticas cuando lo consideramos oportuno".

Esta decisión de Google de eliminar resúmenes de IA que puedan poner en riesgo la salud de los usuarios refleja la creciente preocupación por los posibles efectos negativos de la inteligencia artificial, especialmente en ámbitos sensibles como la medicina. A medida que estas tecnologías avanzan, las empresas deberán implementar mecanismos de control y supervisión más estrictos para garantizar la seguridad y la precisión de la información proporcionada a los usuarios.