Un grupo de investigadores de la Universidad de Harvard y el Hospital Brigham and Women's de Boston han descubierto que los modelos de inteligencia artificial (IA) utilizados para el diagnóstico del cáncer a partir de muestras patológicas presentan sesgos que pueden disminuir su eficacia, especialmente en ciertos grupos poblacionales. Sin embargo, también han desarrollado una herramienta llamada FAIR-Path que logra reducir en un 88% estas deficiencias.
El estudio, publicado en la revista Cell Reports Medicine, reveló que los cuatro modelos de IA más populares para el análisis patológico del cáncer mostraron un rendimiento desigual en la detección y diferenciación de tumores en función del género, la raza y la edad de los pacientes.
Por ejemplo, los modelos presentaban dificultades para diferenciar los subtipos de cáncer de pulmón en pacientes hombres afroamericanos, o los subtipos de tumor de mama en pacientes más jóvenes. Incluso, en algunos casos, los modelos tenían deficiencias para detectar ciertos tipos de cáncer, como el de mama, riñón, tiroides y estómago, en determinados grupos poblacionales.
Según Kun-Hsing Yu, investigador en informática biomédica y patología en Harvard y en el Hospital Brigham and Women s, estos sesgos se deben a que los modelos de IA logran extraer información demográfica de las diapositivas de patología y se basan en patrones poblacionales sesgados para realizar los diagnósticos.
Para solucionar este problema, los investigadores desarrollaron FAIR-Path, una herramienta basada en el aprendizaje automático contrastivo que enseña a los modelos de IA a enfatizar las diferencias entre los tipos de cáncer y restar importancia a las diferencias entre grupos poblacionales. Con la aplicación de FAIR-Path, las deficiencias diagnósticas se redujeron en torno al 88%.
"El hallazgo es alentador porque sugiere que el sesgo puede reducirse incluso sin entrenar los modelos con datos completamente justos y representativos", afirma Yu. El equipo de investigadores está colaborando con instituciones de todo el mundo para analizar el alcance del sesgo en la IA patológica y explorar formas de ampliar FAIR-Path a entornos con tamaños de muestra limitados.
El objetivo final es crear modelos de IA para el análisis patológico más justos e imparciales que puedan mejorar la atención oncológica, especialmente en aquellos grupos poblacionales que actualmente se ven más afectados por los sesgos de estos sistemas.
