Un estudio en Nature revela que la inteligencia artificial médica compromete más la privacidad de pacientes con enfermedades raras y grupos minoritarios.
🧬 El problema
Los sistemas de IA entrenados con datos médicos exponen la identidad de algunos pacientes. El riesgo no es igual para todos: quienes padecen enfermedades raras, pertenecen a minorías raciales o a grupos infrarrepresentados afrontan un peligro desproporcionado.
🎯 Hallazgos clave
Ciertos pacientes pueden ser identificados con una precisión cercana al 100%, incluso cuando las métricas globales indican riesgo bajo. Sus registros contienen información más distintiva, lo que facilita que los modelos los distingan. Además, cuanto más grande y potente es el modelo, mayor es la proporción de pacientes vulnerables.
🔓 ¿Qué revela un ataque?
No se accede al historial completo, sino que se averigua si una persona participó en el entrenamiento del modelo. Eso puede bastar para inferir diagnósticos sensibles: cáncer, enfermedades genéticas latentes, trastornos mentales o asistencia a clínicas especializadas.
«Si un atacante descubre que un paciente formó parte del conjunto de entrenamiento, puede inferir que tiene cáncer»
— Moritz Knolle, autor principal del estudio
🔄 Consecuencias sociales
Si los grupos minoritarios perciben que los modelos funcionan peor para ellos y que sus datos están más expuestos, podrían negarse a participar en futuras bases de datos. Esto empeoraría su infrarrepresentación y perpetuaría desigualdades sanitarias.
🛡️ Medidas propuestas
Los autores recomiendan evaluaciones de privacidad individualizadas, privacidad diferencial, controles de acceso más estrictos y análisis caso por caso para determinar riesgos reales.
🏥 Control público
Estos sistemas deben permanecer bajo la supervisión de los servicios públicos de salud, asegurando que su uso responda a fines asistenciales y no a intereses comerciales. Solo así se protegerá a los colectivos más vulnerables y se mantendrá la confianza de la ciudadanía.
💡 Conclusión
La IA médica avanza, pero la privacidad no es un derecho uniforme. Proteger a los más vulnerables debe ser prioritario, y para ello es imprescindible que estos sistemas estén controlados por el interés público, no por el beneficio económico.
