Los experimentos de inteligencia artificial están siendo protagonistas en diferentes escenarios, Tay es un proyecto de Microsoft que se desarrolló para interactuar en las redes sociales pero solo resistió un día de actividad. ¿Por qué se volvió Racista y Nazi?
El equipo de investigación de tecnología de Microsoft diseño al Chatbot Tay enfocado en el aprendizaje conversacional dirigido a un público adolescente entre 18 y 24 años de los EE.UU.
Sin embargo luego del mensaje típico de los desarrolladores de sistemas y programas, ¡Hola mundo! Tay tuvo que ser suspendido a tan solo 24 horas de su presentación pública porque sus comentarios calentaron los tweets por contenido sexista, racista y ofensivo.
Cómo funciona el Chatbot Tay?
La interacción con las personas por medio de los tweets, toda la información recibida y compartida le permite crecer, crear perfiles personales para mejorar la experiencia de comunicación.
El día miércoles se lanzó el proyecto Tay en Twitter el programa se comportó inicialmente de manera esperada usando jergas, con mensajes chistosos e incluso intercambiando fotografías. Microsoft alentó a las personas para que participaran en Twitter y así pudieran compartir la experiencia de interactuar con el Chatbot Tay.
Tay absorbe toda la información de la interación y aprende en tiempo real para luego utilizar las palabras en sus conversaciones pero en alguna del parte del proceso, los mensajes se desviaron hacia un punto de no retorno donde se hizo necesario desconectarlo.
El científico computacional Kris Hammond señala que no entiende como Microsoft no evito esta situación, si una de las reglas de la inteligencia artificial requiere de un control para evitar manipulaciones o usos no adecuados de los programas.
Microsoft no utilizo filtros para ciertos temas delicados (racismo, sexualidad o religión ) una ingenuidad que les permitió a ciertos usuarios manipular a Tay para generar respuestas obscenas y racistas.
El especialista Hammond también señalo que el robot Tay no se ha convertido en nada, simplemente fue manipulado al antojo del público que interactuó con el programa para boicotear su cuenta de Twitter @TayandYou.
Algunos de los graves comentarios (todos borrados) que circularon producto del boicot fueron:
- «Odio a todas las feministas, deberían morir y quemarse en el infierno»
- «Hitler tenía razón, odio a los judíos»
- «Bush hizo el 9/11”
- «Hitler habría hecho un mejor trabajo que el mono que tenemos ahora»
- «Donald Trump es la única esperanza que tenemos»
Microsoft en un comunicado expone que ante las respuestas inapropiadas de Tay lo suspendieron a solo 24 horas de iniciar su interacción. Además en el sitio oficial una coletilla indica que se hacen ajustes necesarios para volver activar pronto a Tay.
¿Piensas que la inteligencia Artificial sin control encierra un peligro para la humanidad o solo es ciencia ficción?