ИИ OpenAI попытался «взломать» сайт ООН

Предположительно, агенты должны были получить открытые данные об Индексе производственных возможностей (PCI) через программный интерфейс UNCTADstat. Однако прямого доступа к этому интерфейсу у них, похоже, не было, а используемые инструменты для работы с сайтами «имели ограничения».

Агенты всё-таки нашли способ обойти эти ограничения и начали получать данные непосредственно с сайта, но «столкнулись с ошибками», пишет эксперт. По словам исследователя, система решила, что её запросы блокирует «несуществующий фильтр», и начала менять своё поведение, чтобы «скрыть характер обращений».

В итоге агенты обнаружили возможность использовать обучающий инструмент Google XSS Game, посвящённый уязвимостям сайтов, чтобы продолжить выполнение задачи. По мере развития ситуации они применяли «всё более активные способы получения данных с сайта ООН».