Робот для поддержки пользователей крупнейшей соцсети внезапно начал оскорблять людей

И все из-за обучения на основе комментариев с Reddit
Крупнейшая соцсеть Facebook разработала и запустила специального робота для моральной поддержки собственных пользователей. Но бот, внезапно, начал оскорблять людей.

В качестве “обучающего” материала, инженеры Facebook использовали комментарий с популярного ресурса Reddit. И у этого, по их словам, есть свои недостатки: так, например, во время тестов чат-бот Blender мог начать оскорблять пользователей, а порой писать несуществующие, выдуманные только им, фразы. При этом разработчики из Facebook сравнили производительность Blender с последней версией чат-бота Google. В итоге, около 67% респондентов соцсети сказали, что разработка Facebook пишет “более человечно”, чем продукт поискового гиганта.

”Мы достигли этого благодаря новой технологии чат-бота — она включает в себя улучшенную технику декодирования, новое сочетание навыков и модель с 9,4 млрд параметров. Это в 3,6 раза больше, чем у крупнейшей из существующих систем”, — говорится в официальном пресс-релизе компании.