A pesar de lo novedosa que resulta, la tecnología de reconocimiento de rostro aún no ha sido perfeccionada y en ocasiones ciertas fallas en sus algoritmos pueden traer resultados inesperados. Y Google ha descubierto esto de la peor manera posible, cuando su nueva aplicación Google Photos etiquetó a dos afroamericanos con la palabra «gorilas».
El desafortunado error fue descubierto por Jackie Alcine un programador de Nueva York quien es una de las personas que aparecen en la imagen. Y lo peor es que Google Photos no solo etiquetó una foto sino toda una colección en la que aparecen Alcine y su amiga. El programador decidió compartir la imagen en Twitter, iniciado la polémica entre los usuarios que señalaron que Google es racista por permitir que este tipo de incidentes sucedan.
https://twitter.com/jackyalcine/status/615329515909156865/photo/1
Como era de esperarse, Google respondió de manera inmediata ofreciendo una disculpa pública. Yonatan Zunger, ejecutivo de Google, contactó personalmente a Alcine para disculparse y tratar de comprobar el origen del delicado error. Posteriormente Zunger comentó que el error ocurrió debido problema con el algoritmo de la aplicación a la hora de fijar los ajustes de iluminación, contraste y tonalidad de piel en las fotografías. Alcine señaló que tiene sus reservas acerca de lo sucedido. «Me pregunto que tipo de imágenes estarán utilizando en sus base de datos para que arrojen estos resultados.»
No se trata de la primera vez -y posiblemente no sea la última- que Google Photos etiqueta imágenes de manera errónea. En el pasado aparecieron fotografías de gente de raza blanca bajo las etiquetas de «perros» y «focas». También han aparecido imágenes de perros bajo la clasificación «caballos». Zunger aseguró que el mecanismo Google Photos está enfocado en aprender a reconocer estos errores y comprender la forma en como los usuarios eliminan o reclasifican las etiquetas. La compañía agregó: «Todavía hay claramente mucho trabajo que hacer con el etiquetado automático de las imágenes y estamos viendo la manera de prevenir que este tipo de errores se repitan en el futuro.»