Наука и технологии
11 апреля 2019, 10:22

Тысячи людей из Amazon подслушивают разговоры пользователей с умными колонками

Не только искусственный, но и естественный интеллект

Как оказалось, работа голосового помощника Amazon Alexa обеспечивается не только системой искусственного интеллекта, но и «тысячами» живых сотрудников, которые прослушивают запросы к помощнику и анализируют его ответы. Об этом рассказывается в расследовании издания Bloomberg.

Amazon поясняет в «ответах на часто задаваемые вопросы» что со временем помощник совершенствуется и чем больше запросов он выполняет, тем точнее и корректнее его работа.

Однако компания не уточняет в FAQ по Alexa, что один из немногих и часто лучший способ улучшить Alexa — это посадить живых людей прослушивать записанные голосовые запросы. Именно это и было обнаружено Bloomberg. Более того, «обучением с учителем», как прозвали данный алгоритм, занимается целая армия сотрудников Amazon. «Тысячи» по данным Bloomberg. В таких масштабах идёт найм сотрудников, чтобы система лучше понимала пользователей.

Конечно, присутствие людей в обучении Alexa упоминается в специальной документации на продукты Amazon, но мало кто из пользователей читает подобное. В результате, пользователи не подозревают, что их болтовню с умной колонкой могут прослушать живые люди. Конечно, это наносит серьёзный удар по безопасности и конфиденциальности. Кроме того, если оператор слышит признаки уголовных преступлений, то Amazon сотрудничает с властями.