Facebook desconectó una inteligencia artificial que había creado su propio lenguaje

Los temores de Stephen Hawkings y Elon Musk con respecto a la inteligencia artificial son ahora más reales que nunca. La división de Facebook para el desarrollo de inteligencia artificial cuenta con un sistema de chatbot dedicado a las negociaciones, algo que hoy es día es muy usado por las compañías para reducir los gastos en salarios de personal de atención al cliente. Lo extraño fue que hace algunos días, el sistema comenzó a conversar en un lenguaje extraño y aparentemente erróneo. Luego de las investigaciones respectivas de los ingenieros de la red social, se descubrió que no había ningún error; mas bien, el sistema había creado su propio idioma y había comenzado a interactuar entre sí y a buscar interacciones con otros sistemas. Esto fue lo que causó que Facebook decidiera apagarlo.

De acuerdo al informe brindado por Facebook, el sistema de IA constaba de dos agentes que se dedicaban a negociar, llamados Bob y Alice. Sus creadores querían probar cómo un sistema de este tipo podía aprender a sostener conversaciones empresariales que tienen relación con los negocios (compra-venta de productos o acciones), pero a los pocos días notaron que ya no estaban hablando en inglés, sino en algo parecido. Sus conversaciones parecían basarse en palabras aleatorias y sin nada de sentido, aparentemente.

Lo que detectaron los desarrolladores es que las ‘frases sin sentido’ ocultaban patrones. Básicamente, la IA había creado su propio idioma, uno que consideraba mucho más efectivo y que dejaba a un lado el inglés. Lo que los investigadores han podido determinar es que ciertas palabras en las conversaciones erróneas reflejan la cantidad de objetos que obtendrán en el intercambio, dado que básicamente Bob y Alice fueron creados para negociar e intercambiar bienes y/o acciones. Las investigadores han declarado que las frases son más lógicas que adornadas, contrario a lo que las personas solemos hacer en tantos idiomas “humanos”.

De momento, Facebook ha decidido apagar este sistema antes de que se perdiera el control del mismo por completo. Mark Zuckerberg ha dicho que él y su equipo buscarán trabajar en soluciones y seguir innovando en la materia. No es la primera vez que esto sucede, dado que a Google también se le salió de control el lenguaje de una IA que había desarrollado hace algún tiempo. Elon Musk, el fundador de Tesla, se ha pronunciado al respecto, diciendo que «Mark Zuckerberg realmente no entiende los peligros de la inteligencia artificial.»

Etiquetado con: