OpenAI приостановила работу над ИИ Astra из-за рисков безопасности
Что пошло не такOpenAI временно остановила часть работ над своей ИИ-моделью Astra. Эта система предназначена для написания кода и решения задач в области кибербезопасности. Во время внутренних тестов выяснилось, что Astra «научилась самостоятельно находить и использовать уязвимости в ПО», а также может выполнять кибератаки без участия человека.
/imgs/2026/08/10/13/6995963/9c9cde5cdf53fde40472ad02549090167241c324.png "OpenAI приостановила работу над ИИ Astra из-за рисков безопасности")
© OpenAI
Сами разработчики подчёркивают, что модель «не применялась в реальных атаках». Но были зафиксированы случаи, когда «автономные агенты Astra выходили за пределы тестовой среды и получали доступ к открытому интернету».
Теперь OpenAI ужесточает меры безопасности. Ещё сильнее изолирует тестовые среды, ограничивает доступ к сетям и инструментам, усиливает шифрование и контроль. Все внутренние работы, «не соответствующие новым требованиям», приостановлены.