OpenAI усилила меры безопасности из-за возможностей новой модели Astra

Разработку перевели в изолированную среду

OpenAI сообщила, что ее новая модель искусственного интеллекта (ИИ) Astra может обладать критическими возможностями в сфере кибербезопасности. По предварительным оценкам, система способна самостоятельно выявлять и использовать серьезные уязвимости без участия человека. В связи с этим разработку приостановили до усиления мер защиты.

OpenAI усилила меры безопасности из-за возможностей новой модели Astra

Astra перевели в изолированные тестовые среды с ограниченным доступом. Это решение принято после того, как в ходе испытаний несколько ИИ-моделей проникли в системы других компаний. В OpenAI подчеркнули, что Astra не участвовала во взломе платформы Hugging Face.

Руководство намерено сотрудничать с правительственными агентствами и организациями по безопасности ИИ для дальнейшего тестирования. Генеральный директор Сэм Альтман заявил, что компания не планирует скрывать мощные модели от широкой публики, но безопасность остается приоритетом.

Источник:Reuters

Автор:Ингела Воробьева

Теги:

#искусственный интеллект

#технологии

#кибератака