Наука и технологии
13 октября 2019 в 15:12

Алгоритмы начали наказывать за расизм даже афроамериканцев

Ошибочно клеймят твиты со сленговыми выражениями
Оказалось, что алгоритмы Twitter чаще помечают как «расистские» твиты, написанные людьми афроамериканского происхождения. Дело в том, что они используют особые сленговые выражения, которые сами не считают оскорбительными. А вот программа думает по-другому.

Об этом рассказали исследователи из США. Проще говоря, они обнаружили, что алгоритмы чаще маркируют как оскорбительные твиты темнокожих людей. Корень проблемы заключается в сленге, который используют афроамериканцы. Афроамериканский диалект, на котором часто говорят члены городских сообществ в США, наполнен жаргонными выражениями и оскорблениями. Например, афроамериканцы могут называть друг друга nigga, но если это сделает кто-то другой, то поступок сочтут оскорбительным.

Исследователи проанализировали 124 779 твитов, которые Perspective API классифицировал как оскорбительные. Этот API представляет собой специальный сервис, который позволяет оценить «токсичность» сообщений в сети. В итоге инструмент по ошибке посчитал оскорбительными 46% твитов на афроамериканском диалекте, которые на самом деле не имели цели кого-то обидеть. А вот для твитов на обычном английской языке вероятность ошибок составила лишь 6%.