En una investigación se ha comprobado que tres programas de análisis facial comerciales de compañías tecnológicas importantes son buenos reconociendo el género de hombres con piel clara pero sorprendentemente deficientes para reconocerlo en mujeres de piel oscura.

Los tres programas investigados son sistemas de análisis facial de uso general, que podrían emplearse para emparejar caras en fotos diferentes así como para evaluar características como el género, la edad y el estado de ánimo.

En los experimentos realizados por el equipo de Joy Buolamwini, del Instituto Tecnológico de Massachusetts (MIT), en Cambridge, y Timnit Gebru, de la Universidad de Stanford y ahora en Microsoft Research, todas estas entidades en Estados Unidos, se constató que las tasas de error de los tres programas a la hora de determinar el género en hombres de piel clara nunca eran peores que un 0,8 por ciento. Para mujeres de piel  oscura, en cambio, las tasas de error se dispararon, hasta más del 20 por ciento en un caso y hasta más del 34 por ciento en los otros dos.

Lo encontrado plantea preguntas sobre el grado de validez en la forma actual de adiestrar y evaluar a los sistemas informáticos conocidos como redes neurales para que aprendan a efectuar tareas computacionales buscando patrones en enormes conjuntos de datos.

Joy Buolamwini. (Foto: Bryce Vickmark)

Por ejemplo, según las conclusiones de los autores del estudio, los investigadores de una gran compañía tecnológica estadounidense declararon una tasa de acierto de más del 97 por ciento para un sistema de reconocimiento de caras que habían diseñado. Sin embargo, el conjunto de personas del que se extrajeron los datos utilizados para valorar su rendimiento tenía más de un 77 por ciento de varones y más de un 83 por ciento de blancos.