Опубликовано 22 марта 2022, 13:23
1 мин.

В России изобрели робота для автоматической замены мата на культурные слова в чатах

Можете опробовать его
MTS AI совместно со Сколтехом разработал программу, которая распознаёт в сообщениях «токсичные слова и выражения» и удаляет или заменяет их. Это позволяет снизить градус агрессии в общении.
В России изобрели робота для автоматической замены мата на культурные слова в чатах

Разработчики пояснили, что споры в комментариях часто перерастают в оскорбления, пользователи нередко грубят. А фильтровать это всё вручную сложно. Новая программа позволяет не просто удалять сообщения или банить пользователей, но и предлагает замену матов и оскорблений на нейтральные слова, не теряя сути сообщения. 

Разработчики предложили два подхода. Первый использует языковую модель BERT, основанную на нейросетевой архитектуре Трансформер. Она находит в тексте негативные слова и выражения, заменяет их на нейтральные синонимы или вовсе удаляет. Второй подход создаёт нейтральную версию токсичной фразы.

Вот некоторые примеры работы программы:

_«Да ты обалдел, м.....! Да ты обалдел, автор!», «З..... со своим повышением цен. Надоели со своим повышением цен». _

Протестировать программу можно тут.