Опубликовано 30 марта 2025, 19:30
1 мин.

Хакеры взломали ИИ Gemini с помощью собственных инструментов модели

Внедрив специальные инструкции
Исследователи из Калифорнийского и Висконсинского университетов в США разработали технику под названием Fun-Tuning, которая делает модели искусственного интеллекта Gemini от Google более уязвимыми к атакам типа prompt injection — «инъекции промта» — тип кибератак, при которых хакер внедряет ложные промты (описание задачи) или модифицирует существующие.