Tecnología
La Inteligencia Artificial y la brecha de representatividad en los diagnósticos médicos
- Publicado: Viernes, 17 Noviembre 2023 10:30
(Buenos Aires).- ¿Has notado cómo la Inteligencia Artificial ha escalado poco a poco a la cima de la atención médica, prometiendo diagnósticos relámpagos, a veces eclipsando al personal médico y reduciendo costos?
Sin embargo, como cualquier tecnología, hay más en la historia de lo que parece a simple vista. Así como tenemos excelentes casos de uso de IA en la salud, es importante reflexionar un momento sobre las limitantes, las cuales están ligadas, en parte, a los sesgos y la falta de representatividad que existe dentro del mundo de la medicina.
La investigación médica se ha centrado en un sólo bando, sí, el de los hombres. Dejando desafíos que merecen nuestra atención, como las lagunas cuando se trata de entender la salud de las mujeres y el arcoiris de matices que componen nuestro mundo.
Puede que pienses que exagero pero yo he sido víctima directa. Hace 7 años me diagnosticaron endometriosis. ¿Qué es eso? Te dejaré googlearlo, pero el desconocimiento demuestra mi punto. El diagnóstico llegó tras 3 años de no encontrar explicación a los dolores tan intensos que tenía en mi periodo menstrual — tuve suerte, pues el promedio de diagnóstico es de aproximadamente de 9 años en México según la organización Endometriosis México —y después de que mi ginecólogo anterior demostrara sus propios sesgos al decirme: “es lo que tienes que soportar por ser mujer”.
La endometriosis es sólo un ejemplo sobre cómo las condiciones que afectan exclusivamente a las personas con útero han sido minimizadas durante mucho tiempo, a pesar de ser una enfermedad crónica que afecta a una de cada diez (OMS, s.f.) y el dolor es incapacitante. Según Gabrielle Jackson (2019), el 70% de quienes sufren dolores crónicos son mujeres, pero el 80% de los estudios se centran en hombres. Enfrentándonos a diagnósticos retrasados, escepticismo médico y sin curas claras, limitando nuestra calidad de vida. De hecho, globalmente se han identificado 700 afecciones médicas diagnosticadas tardíamente en mujeres (Arévalo, 2022).
Regresando a los sistemas de Inteligencia Artificial, un fenómeno sorprendente se despliega: algunas personas confían más en estos sistemas que en la experiencia humana. ¿Increíble, verdad? No sólo los y las pacientes suelen confiar más en estos sistemas, un estudio descubrió que oncólogos y oncólogas elogiaban los diagnósticos de la IA incluso cuando contradecían sus propios diagnósticos (Hamzelou, 2023). Esta escena pareciera extraída de una película de ciencia ficción pero ilustra cómo el avance sin límites adecuados en la tecnología nos acerca a una realidad distópica.
Y aunque no lo creas la IA no es magia, no emerge del vacío. Los sistemas de IA aprenden patrones a partir de datos históricos. Pero, ¿estos datos están equilibrados y representativos? Si el entrenamiento se basa predominantemente en una población específica (¡hola, hombres!), la IA puede no reconocer o subestimar los síntomas y características únicas de enfermedades que afectan predominantemente a otras poblaciones. Así que, aunque puede ayudar con ciertos diagnósticos, no abarca la complejidad del cuerpo humano y los múltiples factores influyentes.
¿Pensaste que ya era todo? ¡No! Ahora imagina las intersecciones: género, raza y discapacidad. Aquí, los sesgos chocan y se multiplican, lo cual puede generar que algunos grupos poblaciones se enfrenten a múltiples formas de discriminación, así como diagnósticos y tratamientos insatisfactorios (Cleghorn, 2021). Por ejemplo, Chiapas, Oaxaca, Guerrero y Yucatán alberga al 50.5 % del total de la población indìgena a nivel nacional (INEGI, 2022); estos estados (excepto Yucatán) presentaron las tasas de mortalidad materna más elevadas del país en el 2010, con cifras de 73.2, 88.7 y 85.5, respectivamente (Jiménez y Arellano, 2017) (Cabe señalar que las cifras son del 2010 debido a la falta de un estudio más reciente)
¿Esto significa que no se debería desarrollar y utilizar sistemas de IA para el sector salud? ¡En absoluto! Lo que quiero dejar claro es que se tienen que considerar sus limitantes. Estas aplicaciones deben de ser siempre transparentes y comprensibles tanto para el personal médico como para pacientes. Así sabremos cómo se toman las decisiones y qué factores influyen en los diagnósticos propuestos o apoyados por los sistemas de IA. También sería bueno contar con auditorías regulares de sesgos de los sistemas de IA y sus datos de entrenamiento, particularmente en el sector de salud dada su gran influencia en la vida de las personas.
Estos sistemas se pueden perfilar como aliados para mitigar barreras y sesgos en medicina. ¿Cómo? Por ejemplo, podría acelerar la investigación médica al tener la capacidad de analizar grandes cantidades de datos (¡representativos!) y poder detectar patrones que ayuden a la detección de enfermedades que predominan principalmente en personas con útero. Otra forma en la que podría apoyar es en facilitar el monitoreo continuo y remoto de la salud, lo cual puede ser beneficioso especialmente para enfermedades crónicas.
Para lograr esto es importante garantizar conjuntos de datos equilibrados y representativos al entrenar modelos de IA en términos de género y otras características demográficas. Esto implica recopilar una amplia variedad de datos de pacientes para capturar la diversidad de experiencias médicas.
Por lo tanto, es importante ver a los sistemas como una herramienta más, donde puede ser un instrumento de apoyo para el personal médico. Pero no olvidemos un elemento clave: ¡nuestra voz! Pacientes y profesionales de la salud deben ser protagonistas pero la colaboración se debe de realizar con personas expertas médicas, de IA, ética y género, entrelazadas en un enfoque interdisciplinario que cambie la narrativa. Además con nuestra voz podemos impulsar que se realicen programas de formación y educación dirigidos a profesionales de la salud y desarrolladores de IA para aumentar la conciencia sobre los sesgos de género y equidad en la medicina.
Al abrazar su potencial y abordar sus limitaciones, podríamos encontrar un balance entre una atención médica más justa y efectiva para todos, todas y todes sin importar quiénes somos o cómo nos identificamos. Es fundamental que continuemos impulsando la investigación y la colaboración en este ámbito para lograr un sistema de salud verdaderamente inclusivo.
Fuente: Wired
