Google впервые раскрыла хакеров, использующих ИИ для обнаружения опасной уязвимости

По данным Google Threat Intelligence Group, злоумышленники (их название не раскрывается) планировали использовать найденную уязвимость в массовых атаках. Специалистам Google удалось предотвратить это.

Уязвимость была в коде на языке Python и позволяла обходить двухфакторную аутентификацию в популярной системе управления серверами с открытым исходным кодом. Однако для атаки хакерам всё равно нужны были обычные логин и пароль пользователя. Google помог разработчикам этой системы закрыть проблему.

Вывод об использовании ИИ компания сделала на основе структуры вредоносного кода. Например, в нём были учебные комментарии и даже выдуманная оценка критичности уязвимости (CVSS), а сам код выглядел как типичные примеры из обучающих данных для больших языковых моделей.

В Google считают, что их собственная модель Gemini не причастна к взлому.