Наука и технологии
24 июля 2020 в 18:38

Создан способ незаметного изменения фотографии для защиты от распознавания лица

Он заставляет такие системы неправильно обучаться
Специалисты лаборатории SAND при Чикагском университете создали способ незаметного изменения фотографии для защиты от распознавания лица. Утилиту назвали Fawkes.

Она вносит в снимки пиксельные изменения, которые незаметны для человеческого глаза. Однако эти изменения критичны для обучающихся алгоритмов систем распознавания лиц.

Если обработать фотографию Fawkes перед публикацией в соцсетях, можно защитить её от применения в качестве данных для обучения систем распознавания лиц. В итоге алгоритм предоставляет защиту от 95% попыток распознавания лиц.

В будущем даже при использовании необработанных утилитой фотографий уровень сбоёв при распознавании сохранится и составит не менее 80%.

Отмечается, однако, что на системы распознавания спецслужб, которые обучаются на основе достоверных источников, созданная утилита повлияет в меньшей степени.