OpenAI возобновила обучение ИИ-моделей после усиления защиты

При проверке компания обнаружила уязвимость Brotli

OpenAI возобновила обучение своих наиболее продвинутых моделей искусственного интеллекта (ИИ). Работы приостанавливали после того, как в сентябре исследовательская модель из-за ошибки конфигурации получила ограниченный доступ к интернету. За время паузы компания усилила защиту и отключила сетевой доступ.

OpenAI возобновила обучение ИИ-моделей после усиления защиты

При проверке системы с помощью ИИ-агентов специалисты обнаружили ранее неизвестные уязвимости и сообщили об их устранении. В ходе испытаний также выявили проблему в Brotli, широко используемом инструменте сжатия данных. Она могла позволить злоумышленникам запускать собственный код на уязвимых системах, включая те, где применяются Node. js, Bun и Envoy. После раскрытия информации Brotli выпустил обновленные версии.

Отдельная проверка организаций METR и Redwood Research выявила недостатки внутренних механизмов контроля OpenAI. Компания заявила, что исправила уязвимости в действующих защитных системах, однако исследователи пока не подтвердили устранение всех проблем.

Источник:Reuters

Автор:Ингела Воробьева

Теги:

#искусственный интеллект

#технологии