В ChatGPT нашли уязвимость, позволяющую красть данные из бота и с почты Gmail

Компания Radware, один их крупнейших разработчиков решений для кибербезопасности, выявила уязвимость в чат-боте ChatGPT. Уязвимость известна как ShadowLeak. Уязвимость позволяет злоумышленникам извлекать конфиденциальные данные пользователей без их ведома и без использования традиционных методов атаки. В этом случае атака осуществляется через отправку специально созданного письма, которое агент обрабатывает самостоятельно, получая доступ к данным без оставления следов. Это первый известный случай серверной атаки с использованием ИИ-агента, функционирующего автономно в облаке. Компания OpenAI признала проблему 18 июня 2025 года и устранила её 3 сентября. Атака подчеркнула риски, связанные с автономностью ИИ, интеграцией SaaS и доступом к конфиденциальным данным в обход стандартных мер безопасности. Причём вместе вышеуказанной проблемой эксперты выявили такой же риск в отношении почты Gmail. Уязвимость позволяет хакерам украсть личные данные и из учётных записей Gmail через фишинговые письма с вредоносными командами. Злоумышленники действуют через функцию «глубокого исследования» ChatGPT, предназначенную для анализа облачных сервисов. С помощью тако механизма ИИ может выполнить команды удалённого оператора, передавая злоумышленникам имена, адреса и номера телефонов. Пользователи также не заметят утечки данных.