La integración de la inteligencia artificial (IA) en la práctica clínica, a través de innovadoras herramientas de diagnóstico y pronóstico, representa una oportunidad sin precedentes para transformar y optimizar la atención sanitaria global. No obstante, resulta fundamental y absolutamente necesario asegurar que sus algoritmos se desarrollen de manera intrínsecamente equitativa y justa para todos los individuos. La promesa de la inteligencia artificial debe ir de la mano con la garantía de una implementación ética y consciente de sus potenciales repercusiones sociales.
Los Riesgos Inherentes al Sesgo Algorítmico
Porque, tal y como advierte enfáticamente la Organización Mundial de la Salud, la inteligencia artificial tiene la preocupante capacidad de reproducir e incluso amplificar sesgos preexistentes, tanto en los datos utilizados para su entrenamiento como en los equipos de desarrollo que la conciben. Este fenómeno constituye un riesgo epidemiológico emergente de consideración. Un ejemplo paradigmático y alarmante de esta problemática se observa en diversos algoritmos de gestión sanitaria que exhiben sesgos raciales, infravalorando sistemáticamente las necesidades de poblaciones minoritarias. Consecuentemente, si los algoritmos epidemiológicos son diseñados por equipos intrínsecamente homogéneos, existe un riesgo significativo de agravar las desigualdades ya existentes. Esto, sin lugar a dudas, se traduce en una gestión poco igualitaria y eficiente de los recursos sanitarios, afectando a la calidad de la atención.
La Invisibilidad Crítica de los Datos Femeninos en Salud
Uno de los principales y más complejos desafíos reside en los datos históricos que se emplean para el entrenamiento de estos sistemas. En el ámbito de la salud, ha sido una práctica desafortunada y extendida el uso del «varón blanco estándar» como perfil clínico de referencia. Esta aproximación metodológica, lamentablemente, invisibiliza de manera sistemática los síntomas, las necesidades y las particularidades fisiológicas inherentes a las mujeres.
Por lo tanto, cuando un algoritmo se adiestra con datos que son inherentemente no representativos de la diversidad poblacional, su capacidad predictiva se vuelve, por fuerza, menos precisa y fiable para los grupos infrarrepresentados. Investigaciones recientes y muy relevantes revelan que hasta un 31 % de los estudios sobre inteligencia artificial en salud omiten por completo la variable de género en sus conjuntos de datos. Esta persistente invisibilidad distorsiona gravemente la planificación de políticas sanitarias y las estrategias de prevención y tratamiento, lo que impacta directamente en la salud de las mujeres.
El Sesgo de Género y sus Múltiples Ramificaciones
El sesgo de género algorítmico es un desafío multifacético que afecta a diversos y cruciales ámbitos, demostrando su amplio impacto:
- Salud Pública y Atención Clínica: Algunos sistemas de inteligencia artificial muestran un rendimiento claramente inferior en mujeres, lo que es especialmente preocupante en el diagnóstico, la predicción y la detección temprana de enfermedades cardiovasculares. Además, modelos sofisticados como GPT-4 pueden evaluar de forma diferente el riesgo de enfermedad coronaria en las mujeres, lo que lleva a diagnósticos erróneos. Si las organizaciones adoptan herramientas inherentemente sesgadas para estandarizar protocolos, las guías clínicas resultantes automatizarán y perpetuarán estas desigualdades a gran escala, afectando gravemente la atención médica.
- Representación Profesional y Estereotipos: La inteligencia artificial generativa, de forma preocupante, refuerza estereotipos de género arraigados. Por ejemplo, estos sistemas representan a hombres como médicos especialistas en un abrumador 82 % de las imágenes que generan, a pesar de que solo ocupan el 47 % de dichos cargos en la realidad. Las mujeres, en consecuencia, son excluidas por sistema de determinadas especialidades como urología o traumatología, lo que crea un «techo de cristal algorítmico» donde la autoridad médica se vuelve visualmente masculina. Esto valida los sesgos a nivel institucional, lo que es problemático.
Repercusiones Profundas para la Epidemiología y la Salud Pública
Desde la perspectiva de la salud pública, el sesgo de género en la inteligencia artificial plantea los siguientes desafíos estructurales, que requieren atención urgente:
- Vigilancia Epidemiológica Comprometida: Los sistemas de vigilancia basados en inteligencia artificial pueden generar estimaciones sesgadas de prevalencia e incidencia en mujeres si los algoritmos están entrenados con datos no representativos. Esto compromete la precisión.
- Inequidad en Recursos Sanitarios: Algoritmos que predicen el riesgo de hospitalización pueden subestimar las necesidades reales de las mujeres, materializándose en un menor acceso a cuidados intensivos y la perpetuación de inequidades en la asignación de recursos esenciales.
- Ineficacia Preventiva Generalizada: Los modelos de estratificación de riesgo pueden fallar dramáticamente al identificar a mujeres en situación de vulnerabilidad en cribados de cáncer o prevención cardiovascular, dejando así a una parte significativa de la población desprotegida y vulnerable.
- Perpetuación de Determinantes Sociales Adversos: El sesgo en los sistemas de inteligencia artificial aplicados al empleo o las finanzas perpetúa la precariedad laboral y la pobreza, factores de riesgo sólidamente establecidos para el desarrollo de enfermedades crónicas. Es una cadena de eventos perjudicial.
- Erosión de la Confianza en el Sistema: Diagnósticos menos precisos y retrasos inadmisibles en la atención médica erosionan significativamente la confianza de las mujeres en el sistema sanitario. Esto tiene consecuencias directas en la adherencia a los tratamientos y la participación en programas de salud pública, afectando negativamente los resultados.
Desarrollo de la IA
En definitiva, la inteligencia artificial posee un vasto potencial para transformar positivamente la salud global, pero su desarrollo debe ser intrínsecamente inclusivo, ético y basado en evidencia epidemiológica sólida para evitar el sesgo de género. Desde la salud pública, tenemos la ineludible responsabilidad de guiar este desarrollo tecnológico para reducir, y no amplificar, la brecha de género existente.
Fuente: The Conversation
Ver más: La Cantidad de Sueño Esencial para Cada Edad: Clave para una Salud Óptima
