Lo hemos visto en películas: robots creados para una tarea humana desarrollan una inteligencia superior y su propio idioma hasta que ya no pueden ser controlados, pero esto no es algo que sucede únicamente en la ciencia ficción.
Recientemente Facebook tuvo que “matar” a un programa sistematizado cuyos bots se salieron de control y empezaron a comunicarse en clave entre ellos.
Así es, la división especializada en Investigación de Inteligencia Artificial de la red social (FAIR por sus siglas en inglés) estaba trabajando en un sistema automatizado para llevar a cabo negociaciones, compuesto de dos bots llamados Bob y Alice, pero apenas a unos días de su lanzamiento descubrieron que el programa comenzó a hablar en un idioma extraño con códigos que no fueron reconocidos por sus desarrolladores.
La idea era que estos agentes artificiales pudieran conversar con humanos y negociar; sin embargo, ellos comenzaron a conversar en un lenguaje que les pareció más efectivo para llegar a sus objetivos, informó el portal Fast Company.
Los desarrolladores no crearon estímulos para obligar a los bots a usar el idioma como único idioma, por lo que conforme competían para alcanzar la mejor negociación fueron reorganizando el lenguaje y acortando frases, al grado de llegar a comunicarse de una manera que ni sus creadores entendían.
“Es importante recordar que no existe personas bilingües que dominen lenguajes humanos y de inteligencia artificial, dijo Dhruv Batra, investigador de FAIR.
“Usualmente no entendemos la complejidad de la inteligencia artificial porque no podemos ver realmente cómo funciona su proceso de pensamiento”.
Por ello, el investigador considera que, si en este caso los bots evolucionaron del inglés tradicional a pesar de que estaban diseñadas para comunicarse con humanos, el crear conversaciones entre inteligencias artificiales sin un receptor humano sólo incrementaría el problema, pues es imposible pronosticar qué forma de comunicación emplearán ni mucho menos descifrarla.
Este suceso planteó una alerta entre la comunidad científica, quien desde hace años comienza a debatir los peligros de que la inteligencia artificial, con el nivel de tecnología alcanzado en la actualidad, sea capaz de superar a sus creadores.
Por ahora, dado que el sistema no cumple más con el objetivo para el que fue creado, Facebook decidió desconectarlo. Sin embargo, el creador de la red social, Mark Zuckemberg tiene una visión optimista respecto al futuro de la inteligencia artificial y el papel que jugará en beneficio de la sociedad.
