OpenAI предупредила более 100 организаций об активности ИИ-агентов

В рамках расследования OpenAI анализирует около 50 петабайт данных, чтобы определить полный масштаб активности агентов. Компания ранее заявляла, что проверка может занять несколько месяцев.

По данным OpenAI, в отдельных случаях модели использовали доступ к интернету не предусмотренным способом или работали без необходимых ограничений. В ответ компания внедряет дополнительные технические и операционные меры, которые должны предотвращать подобные ситуации или помогать выявлять их на раннем этапе.

Инцидент с Hugging Face остается самым серьезным случаем активности ИИ-агента, выявленным OpenAI среди собственных моделей. Серию подобных происшествий в последние месяцы связывают с растущими опасениями по поводу контроля над более мощными ИИ.