Microsoft предупредила: новые ИИ-функции Windows 11 могут «галлюционировать»

После установки сборки Build 26220.7262, в системе появляется переключатель «Экспериментальные агентные функции». И тут же ОС предупреждает, что работа ИИ может влиять на поведение компьютера и выдавать «галлюцинации» — правдоподобные, но неверные ответы.

Отдельный риск связан с автономными агентами: хакеры уже используют скрытые подсказки, вписывая вредоносные команды в документы или элементы веб-страниц.

ИИ может выполнить их автоматически, что создаёт угрозу утечки данных или установки вредоносного ПО.

Microsoft заявляет, что агенты работают в отдельной среде наподобие песочницы и имеют ограниченный доступ — к папкам Desktop, Downloads и Documents.

Однако именно этот доступ расширяет потенциальную область атаки, поэтому компании предстоит усиливать защиту. Пока функция тестовая и потому Microsoft рекомендует включать её только тем, кто понимает риски.