Ученые выявили уязвимость в «железе», которая раскрывает данные для обучения ИИ

Уязвимость связана с ускорителями машинного обучения, которые повышают производительность ИИ-моделей и снижают энергопотребление. Атака работает через наблюдение за временем выполнения функций на аппаратуре и не требует прямого доступа к памяти. Это позволяет определять, использовались ли конкретные данные для обучения системы, и раскрывать другие приватные сведения.

Особенность GATEBLEED в том, что она использует явления, связанные с энергосбережением на чипах, называемые power gating. Разные участки ускорителя включаются или выключаются в зависимости от нагрузки, что создаёт измеримые колебания времени работы и становится каналом утечки данных. Уязвимость усиливается при использовании глубоких нейросетей и сложных архитектур типа Mixtures of Experts.

Традиционные методы защиты, основанные на шифровании или контроле мощности, здесь неэффективны. Исправление проблемы требует аппаратного редизайна, что займёт годы, а временные меры снижают производительность и увеличивают энергопотребление.