Una investigación del Media Lab del MIT (Massachusetts Institute of Technology) confirmó lo que muchos expertos y algunos usuarios sospechaban: la tecnología de reconocimiento facial tiene ‘preferencias’ raciales y de género. Esto es debido a que los sistemas están parcializados por las bases de datos que tienen y por las circunstancias en las que se hacen los algoritmos.
Así lo afirma una investigación dirigida por Joy Buolamwini, del MIT. La investigadora fabricó una base de datos de 1270 caras, en la cual utilizó caras de políticos. Los rostros se escogieron de acuerdo el ranking de semejanza de género de su país, es decir, según el número de mujeres en trabajos públicos. Buolamwini después probó la exactitud de tres sistemas de Face ID: uno de Microsoft, uno de IBM y uno de una compañía china, Megvii.
Las pruebas revelaron fallas en la identificación de géneros dependiendo del color de piel de la persona. Por un lado, el género se identificó de manera errónea en menos de 1% de los hombres de piel clara y falló hasta el 7% de las mujeres de piel clara. Por otro lado, los sistemas fallaron más del 12% en hombres de piel oscura y más del 35% en mujeres del mismo color.
En general, los hombres se clasificaron con más exactitud que las mujeres y las personas de piel más clara se identificaron con mayor exactitud que las personas de piel oscura, explica Buolamwini en el artículo de su estudio. Y, sobre todos los casos, los tres sistemas tuvieron un desempeño fatal en las mujeres de piel oscura.
De acuerdo a The Verge, no es la primera vez que se confirma la parcialización de la tecnología Face ID. En varias ocasiones, los usuarios de raza negra o asiáticos se han quejado y han hecho denuncias de que sus dispositivos no tienen la misma función para sus caras. No obstante, este estudio almacena más evidencia para la necesidad de mejorar los métodos cuando se trate de construir los sistemas de Face ID.
Normalmente, los sistemas de reconocimiento facial se deben crear con bases de datos más diversas y más todavía, deben haber personas de diferentes etnias que fabriquen y ejecuten estas tecnologías. Así, los algoritmos podrán reconocer con precisión a las personas sin importar su raza o género.