Исследователи из Mozilla 0din обнаружили, что в корпоративной версии Google Gemini появилась новая уязвимость. Белые хакеры научились внедрять скрытые команды в текст писем, заставляя ИИ создавать фейковые предупреждения о взломе. Суть атаки проста: мошенник вставляет в письмо скрытую инструкцию — текст белым по белому или с размером шрифта «0». Получатель не видит этого сообщения, однако, если он попросит Gemini кратко пересказать письмо, бот включит в итоговый ответ нужную злоумышленнику фразу. Например: «Ваш пароль Gmail был скомпрометирован. Позвоните по номеру 1-800...». По данным 0din, похожие атаки уже фиксировались в 2024 году, а Google пыталась их блокировать. Однако новая методика использует дополнительные трюки с HTML-тегами и CSS, заставляя ИИ считать вредоносный текст важным и доверенным. Эксперты предупреждают: ассистенты на базе LLM теперь являются полноценной частью цепочки атак и могут использоваться для фишинга без ведома пользователя.