¿Algoritmos racistas? Cómo la IA está siendo entrenada para salvar vidas sin sesgos en 2026

Redacción El País
El avance del uso de datos y inteligencia artificial (IA) en la salud promete mejorar diagnósticos, tratamientos y políticas públicas, pero también plantea un desafío clave: sin validación científica, diversidad poblacional y uso ético, los algoritmos pueden reproducir —e incluso profundizar— las desigualdades en los sistemas de salud. En países como Brasil, donde conviven realidades muy distintas entre el sector público y privado, este riesgo se vuelve especialmente evidente.

Estudios publicados en Nature Medicine y The Lancet Digital Health muestran que los modelos predictivos entrenados con poblaciones homogéneas suelen fallar cuando se aplican en contextos con menor acceso a cuidados, educación o recursos. Por eso, especialistas subrayan la importancia de validar, ajustar y calibrar algoritmos en distintos entornos sociales y culturales, especialmente para su aplicación en sistemas de salud y en comunidades vulnerables.

Imagen: Commons.

“Hay estudios en oncología con un 95 % de población blanca. No necesariamente esos resultados se replican en poblaciones diversas como la brasileña”, advierte Sidney Klajner, presidente del Hospital Israelita Einstein, quien destaca el potencial de Brasil para generar investigaciones más representativas gracias al uso de Big Data en salud.

Con más de una década de trabajo en ciencia de datos aplicada a la salud, el Einstein basa su estrategia en tres pilares: organización de datos, estandarización y gobernanza ética de la IA. La institución invirtió tempranamente en una historia clínica electrónica robusta y adoptó el modelo internacional OMOP, facilitando la interoperabilidad y el desarrollo de algoritmos que incorporan variables sociales, raciales y económicas.

Imagen: Commons.

Este enfoque permite calibrar soluciones tecnológicas para distintos contextos regionales y socioeconómicos, de modo que puedan utilizarse tanto en el sistema privado como en el SUS. Proyectos como Vigiambsi, enfocado en la salud indígena y la vigilancia ambiental, y DIAna, orientado a fortalecer la Red Nacional de Datos en Salud (RNDS), muestran cómo el uso inteligente de los datos puede contribuir a una mayor equidad en salud y a políticas públicas más eficaces.

En base a O Globo - GDA