Un estudio realizado desde Jerez demuestra que sistemas de reconocimiento facial discriminan a personas con Síndrome de Down

Jerez/La fundación Eticas Tech, con sede en Barcelona, que realiza análisis éticos del desarrollo tecnológico, está desarrollando un proyecto en Jerez en el que, en base a la premisa de que se están implantando sistemas de reconocimiento facial en muchos contextos, "entendemos que es importante que estos funcionen con todas las personas de esta sociedad igual", apunta el ingeniero jerezano Miguel Azores, coordinador de la iniciativa.

Partiendo de este objetivo, desde Eticas se han centrado para su proyecto en las personas con Síndrome de Down, "que tienen rasgos faciales característicos para los que probablemente estos sistemas no estuviesen lo suficientemente entrenados". Desde esta premisa, se hizo una primera parte del estudio con 60 imágenes de personas con Síndrome de Down, que estaban en Internet, analizando el algoritmo de reconocimiento facial abierto más utilizado. "Y, efectivamente, los datos daban que sí tenía un rango de error mayor que con las personas que no tienen estos rasgos. Y, de hecho, se equivocaba más a la hora de clasificar entre hombres y mujeres o a la mayoría de ellos los identificaba como personas asiáticas", explica Miguel. Después, dieron el paso a analizar "en qué sitios se aplicaban este tipo de algoritmos para poder señalar qué fallos hay".

Espacios como fronteras, aeropuertos, dispositivos de vigilancia y en un sistema de una conocida compañía aseguradora por el que a través del reconocimiento facial determina la edad, si eres fumador o no y el índice de masa corporal. "Nosotros hemos puesto a prueba este algoritmo con 20 personas con Síndrome de Down de Cedown Jerez para ver qué comportamiento tiene y demostrar que, según nuestra premisa, quizás es necesario seguir entrenando estos algoritmos antes de implantarlos en determinados lugares de nuestra sociedad".

Inmersos en el estudio de esta segunda etapa, Miguel, que es jerezano, tiró de su tierra y, para ello, de Cedown, con una metodología de trabajo de forma presencial con entrevistas durante dos semanas en las que se tomaban los datos de forma anónima y se hacía el proceso de reconocimiento facial de esta aseguradora para procesar y recopilar toda la información. "Hay que destacar que es el primer estudio en España que se centra en cómo afecta el reconocimiento facial a grupos históricamente discriminados y es en Jerez desde donde se está liderando, que muchas veces se infravalora la capacidad tecnológica que podemos tener aquí".

"No podemos -añade- hablar de que se demuestre, sino que estamos en camino de demostrarlo. La primera parte del estudio sí que apunta que se está discriminando a las personas con Síndrome de Down por el algoritmo más utilizado del mundo. Ahora vamos a comprobar si en el resto de sitios en los que se está implantando es así. Como fundación, no nos encargamos de decir si la inteligencia artificial está bien o mal, sino de señalar qué problemas hay en estos algoritmos que se van a implantar, que tienen que tener en cuenta a todas las personas de nuestra sociedad".

Los resultados de la segunda parte del estudio se publicarán en septiembre. "A partir de entonces se llevarán a cabo medidas de alcance político para señalar que este problema existe y que es una cosa a la que nos tenemos que enfrentar. Nosotros trabajamos mucho en proyectos europeos y de la Comunidad Económica Europea y este tipo de iniciativas nos lleva a que sean tenidos en cuenta dentro de la normativa europea".

Desde Cedown

Cuando la Fundación Eticas se puso en contacto con Cedown, "nos pareció una propuesta muy interesante e importante porque colaboramos con todo tipo de investigaciones que tienen que ver con el Síndrome de Down y con mejorar su calidad de vida. Cuando nos explicó Miguel en qué consistía y cómo podía perjudicar la inteligencia artificial y los reconocimientos faciales a estas personas por el mero hecho de tener unos rasgos diferentes, pues nos pareció importantísimo y que por supuesto que queríamos colaborar con ellos", señala Macarena Gea, coordinadora técnica de Cedown.

Y de Jerez al mundo. Un estudio realizado por un jerezano, con la colaboración de Cedown Jerez y a cuyos 20 participantes Eticas les regaló un vale por una camiseta de la también jerezana 'Gloria Vendimia'. "Nosotros, encantados. Todo lo que sea -concluye Gea- colaborar con investigaciones que mejoren la calidad de vida de las personas con Síndrome de Down, pues estaremos ahí en todo".