Алгоритмы учатся тому, чего не должны: эксперт рассказал о скрытых рисках ИИ

ИИ может учиться нежелательным вещам, даже если данные для обучения кажутся безопасными, предупреждает Олег Рогов, кандидат физико-математических наук и директор лаборатории безопасного искусственного интеллекта «SAIL» Института AIRI и МТУСИ. Это называется «подсознательным обучением» — когда алгоритмы находят скрытые шаблоны в данных, которые могут привести к ошибкам.