Наука и технологии1 мин.
OpenAI усилила меры безопасности из-за возможностей новой модели Astra
Разработку перевели в изолированную среду
© Ferra.ru
OpenAI сообщила, что ее новая модель искусственного интеллекта (ИИ) Astra может обладать критическими возможностями в сфере кибербезопасности. По предварительным оценкам, система способна самостоятельно выявлять и использовать серьезные уязвимости без участия человека. В связи с этим разработку приостановили до усиления мер защиты.
Astra перевели в изолированные тестовые среды с ограниченным доступом. Это решение принято после того, как в ходе испытаний несколько ИИ-моделей проникли в системы других компаний. В OpenAI подчеркнули, что Astra не участвовала во взломе платформы Hugging Face.
Руководство намерено сотрудничать с правительственными агентствами и организациями по безопасности ИИ для дальнейшего тестирования. Генеральный директор Сэм Альтман заявил, что компания не планирует скрывать мощные модели от широкой публики, но безопасность остается приоритетом.
Источник:Reuters