La compañía Facebook en colaboración con Dhruv Batra, investigador de inteligencia artificial, crearon dos robots para desarrollar una máquina para negociar y descubrieron que había sido capaces de inventar un idioma propio inteligible para los seres humanos. Ante el problema de no poder controlarlo, han decidido desconectarlos.
Bob: "Puedo puedo yo todo lo demás."
Alice: "Las bolas tienen cero a mí a mí a mí a mí a mí a mí a mí a mí a."
Para las personas esta conversación parece una tontería, pero resulta que es fruto del software de negociación más sofisticado del planeta diseñado para obtener el mejor trato posible, con más velocidad y eficiencia.
Los dos agentes de inteligencia artificial al principio empezaron a conversar en inglés antiguo, según informa Fast Co. Design. "Nuestro interés era tener robots que pudieran hablar con la gente", dice Mike Lewis, científico investigador de FAIR, pero más tarde los investigadores se dieron cuenta de que los agentes empezaron a ver el lenguaje humano como poco eficiente y decidieron crear el suyo propio.
El diseño del programa motivaba a los agentes a responder bajo recompensa. Al notar que el inglés no les generaba recompensa, modificaron el lenguaje a uno que consideraron más eficiente. Dhruv Batra afirmó que hay demasiados términos inservibles al hablar como lo haría una persona normal así que reorganizaron las palabras en frases aparentemente absurdas para que fuese un idioma más productivo".
"Los agentes van a la deriva del lenguaje comprensible e inventan códigos de palabras por sí mismos", dice Batra, hablando de un fenómeno, ahora predecible, que consiste, por ejemplo, en repetir una misma palabra cinco veces para indicar que quiero cinco copias de esa cosa. "Esto no es tan diferente de cómo las comunidades de seres humanos crean taquigrafías " explica Batra.
Ante el problema de no poder entenderlo y, sobre todo, no controlarlo Facebook ha decidido desconectarlos.