La privacidad en los modelos de inteligencia artificial sanitaria no se iguala para todos. Un estudio publicado en Nature destaca que algunos grupos de pacientes enfrentan mayores riesgos para su información personal cuando sus datos son utilizados para entrenar sistemas médicos basados en IA. Los investigadores sugieren implementar medidas de protección para los pacientes con mayor vulnerabilidad.
Según el análisis, los datos empleados para entrenar sistemas de inteligencia artificial médica podrían revelar la identidad de ciertos participantes, especialmente aquellos con enfermedades raras y otros grupos infrarrepresentados. El estudio, realizado por un equipo de la Universidad Técnica de Múnich, el Imperial College de Londres y otras instituciones, se centra en los riesgos individuales a través del análisis de siete conjuntos de datos clínicos reales.
Los autores examinan ataques de inferencia de pertenencia (MIA), técnicas que buscan determinar si un participante específico formó parte del conjunto de entrenamiento. A diferencia de evaluaciones previas, que consideraban riesgos a nivel grupal, esta investigación analiza la exposición individual.
Los resultados muestran que algunos pacientes pueden ser identificados con altísima precisión, contrariamente a lo que indicarían las métricas promedio. Moritz Knolle, autor principal del estudio, destaca: “Nos sorprendió el resultado al principio. Vimos que muchos de los participantes en mayor riesgo pertenecían a colectivos infrarrepresentados en los datos de entrenamiento”.
Entre estos grupos se encuentran personas con enfermedades raras, pacientes de minorías raciales y individuos socioeconómicamente menos representados. La información detallada en sus registros clínicos contribuye a que sean distinguibles del resto.
Estos hallazgos tienen repercusiones sociales significativas. Las personas pertenecientes a estos colectivos podrían sentirse menos dispuestas a participar en futuras bases de datos médicas, lo cual puede perpetuar desigualdades sanitarias existentes y afectar la representación en los conjuntos de entrenamiento.
Knolle destaca que el riesgo de estos ataques aumenta con la especificidad del grupo utilizado para entrenar el modelo. “Los modelos más grandes presentan riesgos mayores”, subraya, reflejando preocupaciones sobre el uso de sistemas cada vez más potentes en el desarrollo de IA.
Para mitigar estos riesgos, los investigadores recomiendan evaluaciones de privacidad individual y medidas como la diferencial privacy, que limita información extraída a nivel de participante. También sugieren controles más estrictos sobre el acceso a los modelos de inteligencia artificial.
About the Author
