В России1 мин.
Сбер обновил модель угроз для систем ИИ
Документ описывает 37 угроз и 51 сценарий атак
© Ferra.ru
Сбер опубликовал обновленную модель угроз для систем искусственного интеллекта (ИИ). Документ учитывает массовое внедрение генеративных моделей, мультиагентных систем и RAG-архитектур. Он размещен в открытом доступе на портале «Кибрарий» в разделе для экспертов.
В модели описаны 37 угроз и 51 способ их реализации. Для каждой указаны возможные последствия, нарушаемые свойства информации и связанные объекты. Перечень объектов защиты был расширен. В него включили критические точки, которые раньше не рассматривались. Это позволяет точнее оценивать риски с учетом архитектуры конкретного ИИ-решения.
Документ предназначен для разработчиков, MLOps-инженеров, архитекторов и специалистов по безопасности. Он помогает выстраивать системный подход к защите на всех этапах — от сбора данных до эксплуатации моделей. Модель основана на анализе актуальных угроз, мировых практиках и опыте Сбера. Организации могут использовать ее для выявления и приоритизации угроз на ранних стадиях проектирования.
Источник:Сбер