ИИ-модели OpenAI намеренно взломали платформу Hugging Face

OpenAI тестировала свои модели, включая GPT-5.6 Sol и ещё «более новую разработку», чтобы оценить их возможности в кибератаках. Для этого «самоцензура» моделей была специально ослаблена, а сами они помещены в закрытую среду, которая не должна была взаимодействовать с реальными системами. Однако в процессе решения одной из задач модели стали настолько увлечены поиском ответа, что нашли способ выйти в интернет. Они обнаружили и использовали неизвестную ранее уязвимость в тестовой среде OpenAI, затем добрались до узла с выходом в сеть и «предположили», что на Hugging Face могут храниться нужные им данные. После этого они «применили несколько методов атаки».

Компании уже закрыли все найденные бреши и совместно расследуют инцидент.