Мошенники начали использовать ИИ-атаки для обхода защиты в Gmail

Письмо с темой «Срок действия пароля истекает» убеждало пользователя срочно подтвердить свои данные, имитируя официальный стиль Gmail. Для человека это обычная социальная уловка, основанная на срочности. Но главное новшество скрыто в коде письма.

Там размещены инструкции, написанные как промты для нейросетей. Т.н. «промт-инъекции» могут сбить с толку ИИ-инструменты, которые компании используют для анализа угроз. В результате система может неправильно классифицировать письмо и пропустить опасную ссылку.

Сама схема доставки выглядит так:

• Письмо пришло через сервис SendGrid и прошло часть проверок.

• Первая ссылка вела через Microsoft Dynamics, создавая иллюзию доверия.

• Затем открывалась страница с капчей, защищающая от автоматических проверок.

• Финальный сайт имитировал страницу входа Gmail и содержал скрытый код для кражи паролей;

• Дополнительно сайт собирал данные об IP-адресе и местоположении жертвы.

Доменные записи указывают на возможную связь с группами из Южной Азии, хотя доказательств пока нет. Эксперты отмечают: это новый этап развития фишинга.