Inteligencia Artificial de Facebook se sale de control
Inteligencia Artificial de Facebook se sale de control y crea su propio idioma
La división de Inteligencia Artificial de Facebook creó un sistema dedicado a las negociaciones. Días después, se dieron cuenta de que dos robots dejaron de hablar inglés Y comenzaron a comunicarse en su propio idioma.
Las inteligencias artificiales son de los inventos más importantes en la historia de la humanidad, pero muchos han teorizado que podrían revelarse. Científicos importantes dicen que este tipo de seres adquirirán el control algún día, y a continuación, revisaremos uno de los casos más recientes al respecto.
La división de Facebook de desarrollo de inteligencia artificial creó un sistema dedicado a las negociaciones. Días más tarde se sus primeras pruebas el sistema comenzó a conversar en un lenguaje extraño y aparentemente erróneo. Sin embargo, no era un error, había creado su propio idioma y Facebook ha decidido apagarlo.
La IA constaba de dos agentes que se dedicaban a negociar, llamados Bob y Alice. Sus creadores querían probar cómo un sistema de este tipo podía aprender a negociar, pero a los pocos días notaron que ya no estaban hablando en inglés, sino en algo parecido. Sus conversaciones parecían basarse en palabras aleatorias y sin nada de sentido.
Bob: “I can i i everything else”
Alice: “balls have zero to me to me to me to me to me to me to me to”
Traducido al español: Bob: “Yo puedo yo yo todo lo demás”
Alice: “bolas tienen cero a mi a mi a mi a mi a mi a mi a”
Lo que detectaron los desarrolladores es que en lo que parecían ser frases sin sentido, había un patrón. Básicamente, la IA había creado su propio idioma, uno que consideraba mucho más efectivo y al grano que el inglés. Lo que los investigadores han podido determinar es que “yo” y “a mi” reflejan la cantidad de objetos que obtendrán en el intercambio. Son frases más lógicas que adornadas, como solemos hacer en tantos idiomas “humanos”.
El problema que esto representa para los desarrolladores de IA es que si un sistema de inteligencia artificial decidiera ignorar el idioma en el que fue programada y crear el suyo propio por ser “más eficiente”, esto supondría una enorme dificultad para el desarrollo y la adopción de redes neuronales y, en general, para la creación de nuevas tecnologías basadas en la IA. Básicamente, si la IA lo quisiera, sería imposible comunicarnos con ella. Esto significa la pérdida de control del programador u operador sobre la inteligencia artificial.
Facebook apagó este sistema antes de que perdieran el control por completo, para trabajar en soluciones y seguir innovando en la materia. No es la primera vez que esto sucede, dado que a Google también se le salió de control el lenguaje de una IA que había desarrollado.
Curiosamente, Mark Zuckerberg defendió el desarrollo y los avances en materia de inteligencia artificial después de que Elon Musk hablara de regularla “antes de que fuera demasiado tarde”. En esta ocasión no hablamos del nacimiento de Skynet ni el alzamiento de las máquinas, pero sí de la pérdida de tiempo, inversión, desarrollo y un sistema completo por decisión propia
