Почему на самом деле Facebook отключил роботов, придумавших собственный язык

В Facebook приняли решение отключить одну из своих систем искусственного интеллекта из-за того, что она перестала использовать английский язык и начала применять для передачи информации между ботами свой собственный, непонятный человеку, пестрят заголовки СМИ. Сообщалось, что систему отключили, а в будущем решили перепрограммировать, запретив использовать непонятные фразы.

Но, что же произошло на самом деле? В Facebook задались целью создать чатботов, которые могли бы общаться с людьми. Разработчики начали с того, что придумали простую игру с заданием разделить предметы (шляпы, мячи, книги) между двумя командами. 

Ботов научили играть в эту игры в два этапа. Сначала компьютер слушал общение между людьми во время игры, а затем ему позволили, используя метод проб и ошибок, технику обучения с подкреплением (reinforcement learning, один из способов машинного обучения, в ходе которого испытуемая система обучается, взаимодействуя с некоторой средой) улучшить свою тактику. 

И как раз во время этой игры, используя технику обучения с подкреплением, боты перестали общаться между собой на понятном языке. Точнее, слова были понятными, а вот фразы — напротив. Выглядело это примерно так:

• Bob: i can i i everything else . . . . . . . . . . . . . . (я могу я я все остальное . . . . . . . . . . . . . .)
• Alice: balls have zero to me to me to me to me to me to me to me to me to (мячи для меня имеют ноль для меня для меня для меня для меня)

Напомним, что целью команды Facebook было создание ботов, способных играть и общаться с человеком. И именно поэтому им пришлось переписать алгоритм, чтобы удостовериться, что люди их поймут. Собственно это и стало причиной громких заголовков в прессе.

Напомним, апокалиптические прогнозы, связанные с искусственным интеллектом снова стали модными, как и во времена появления картин «Терминатор» и «Терминатор 2».

Об угрозе со стороны умных компьютеров заявляет, например, создатель Tesla и SpaceX Илон Маск (Elon Musk).

Источник новости: TechTimes