Los sesgos de género y sexo convierten la inteligencia artificial en un arma de doble filo

01 Junio 2020

El estudio, promovido por la organización sin ánimo de lucro The Women’s Brain Project y por el programa Bioinfo4Women del BSC, ha sido publicado hoy en Nature Digital Medicine.

La aplicación de las nuevas tecnologías, en particular de la inteligencia artificial (IA) al sector biomédico conducirá a una mejor comprensión de las enfermedades y los medicamentos y allanará el camino para su prevención, diagnóstico y tratamiento personalizado.

El éxito de la medicina de precisión depende, en gran parte, de los retos y el uso apropiado de la IA y las nuevas tecnologías, como la robótica, los biomarcadores digitales, el tratamiento del lenguaje natural, entre otras. No obstante, para que los ambiciosos objetivos que se plantean se puedan cumplir es imprescindible tener presentes, entre otros, los riesgos de no considerar adecuadamente las diferencias de género y sexo de los individuos que se reflejan tanto en las características clínicas de las enfermedades como en la respuesta a los fármacos.

Así se desprende del estudio liderado por Davide Cirillo, investigador del grupo Computational Biology liderado por Alfonso Valencia, director del departamento de ciencias de la Vida en el Barcelona Supercomputing Center - Centro Nacional de Supercomputación (BSC); María José Rementería, responsable del grupo Social Link Analytics del BSC, y Silvina Catuara-Solarz, de Telefónica Innovation Alpha Health. El estudio ha sido promovido por la organización sin ánimo de lucro The Women’s Brain Project y por el programa Bioinfo4Women del BSC.

En el texto, que se ha publicado hoy en Nature Digital Medicine, también han participado científicos de otros centros como la Universitat Oberta Catalunya (UOC), el Programa de Investigación en Informática Biomédica (GRIB) y el Interactive Robots and Media Laboratory (IRML), entre otros. El estudio se enmarca dentro de las actividades científicas que se desarrollan en el programa Bioinfo4Women (B4W), del BSC.

El artículo investiga los sesgos de sexo y género tanto en los datos que se emplean para entrenar los algoritmos como en su desarrollo y posterior uso, a la vez que hace un llamamiento a investigadores y programadores para que sean conscientes del problema y erradiquen los sesgos que de manera inconsciente se introducen en las aplicaciones biomédicas. “Si los programadores no plasmamos correctamente las diferencias entre individuos en nuestros algoritmos, la inteligencia artificial no sólo no nos ayudará a conseguir los retos que plantea la medicina de precisión, sino que además puede amplificar y consolidar los sesgos”, comenta Davide Cirillo.

En el texto, los autores plantean la necesidad de desarrollar herramientas que permitan la detección de sesgos, la validación de los datos y algoritmos y el entendimiento de las razones que ha llevado a un algoritmo a alcanzar las conclusiones y diagnóstico finales, de forma que se obtengan resultados que incidan directamente en el bienestar de la población.

Los investigadores implicados en este análisis alertan sobre la necesidad de que los agentes sociales, los gobiernos y la sociedad en general se impliquen en abordar las cuestiones éticas asociadas a cada etapa del desarrollo tecnológico.

 

Artículo: Sex and gender differences and biases in artificial intelligence for biomedicine and healthcare

DOI: 10.1038/s41746-020-0288-5