Cuando el sesgo se llama «limitación»: el caso que confirma por qué existe Salud Negra

Un reportaje reciente de Civio documenta algo que desde nuestro proyecto Salud Negra llevamos meses nombrando desde otro lugar, con otro lenguaje, con otra urgencia. La Autonomía vasca invirtió casi 1,6 millones de euros en un algoritmo llamado Quantus Skin, diseñado para diagnosticar el riesgo de cáncer de piel. Los resultados muestran que el algoritmo pasa por alto uno de cada tres melanomas reales. La razón es que el sistema se entrenó con imágenes recopiladas principalmente por hospitales occidentales, donde la mayoría corresponden a pacientes con pieles claras, y se probó finalmente con 513 pacientes de un hospital madrileño, todos ellos blancos. El propio director de la empresa que comercializa el producto lo confirma sin complejos. El conjunto de datos incluye imágenes «de varones y de mujeres caucásicas», y evita explícitamente pronunciarse sobre minorías étnicas porque, dice, la herramienta «la utiliza el País Vasco».

Aquí está el primer desenmascaramiento necesario. Un profesional de la salud construye una herramienta clínica excluyendo deliberadamente a una parte de la población, y después describe esa exclusión con el lenguaje neutro de la «limitación». No hay neutralidad posible en una decisión que determina quién es diagnosticado a tiempo y quién no.

El segundo caso es todavía más sangrante. Un especialista sevillano explica que su equipo tuvo que descartar del entrenamiento el melanoma acral lentiginoso, el subtipo más frecuente en población negra y el que le costó la vida a Bob Marley a los 36 años. El motivo, según sus propias palabras, es que reunir suficientes casos en su hospital llevaría «50 años». La conclusión que extrae de esto no es una pregunta sobre la representatividad de sus fuentes de datos. Es una resignación administrativa. Lo llama «una limitación».

Esa misma lógica se articula como principio general cuando el especialista defiende que cada centro debe entrenar según «su entorno», de modo que si el 90% de la población de referencia es blanca, ahí debe concentrarse el entrenamiento. El razonamiento se presenta como prudencia metodológica. Es racismo con vocabulario técnico. Ningún hospital de España tiene a la población negra como mayoría local, de modo que aplicar sistemáticamente ese criterio garantiza que las pacientes negras nunca sean el centro de ningún entrenamiento, en ningún hospital, en ningún momento. No es una omisión que nadie decidió. Es una exclusión racial que se reproduce indefinidamente precisamente porque nunca nadie tiene que asumirla como lo que es.

El patrón no es exclusivo de este algoritmo. El reportaje recoge que un sistema de reconocimiento de lesiones cutáneas de una empresa sueca redujo su precisión del 70% al 17% cuando se aplicó a personas con piel oscura. La evidencia disponible confirma que este tipo de algoritmos funciona peor en personas negras. La causa no está en fallos técnicos. Está en la falta de diversidad en los datos de entrenamiento. Una revisión citada en el propio artículo constató que solo el 12% de los estudios sobre IA en medicina analiza si existen sesgos, y que en la mayoría de los casos detectados el sesgo es racial. La consecuencia clínica es medible. Las personas con piel oscura mueren más por melanoma que las personas blancas, incluso siendo un cáncer menos frecuente entre ellas.

Este es exactamente el terreno donde opera Salud Negra. No se trata de pedir inclusión como gesto simbólico. Se trata de intervenir en el punto exacto donde una decisión racista, tomada por quienes tienen el poder de definir qué cuenta como dato válido, se convierte en una diferencia real de supervivencia para las mujeres negras. Salud Negra no es un proyecto de comunicación ni un gesto de representación. Es un proyecto para salvar vidas. Sostenerlo es negarse a que nuestros cuerpos sigan siendo la «limitación» que alguien decide no resolver.

---