Вирусы научились внедрять даже в искусственные нейронные сети
Сама нейросеть не потеряет при этом в точности предсказанийНовое исследование показало, что искусственные нейронные сети могут стать следующим полигоном для вредоносного ПО, если станут более распространены.
Авторы новой статьи сообщили, что вредоносы могут быть внедрены прямо в искусственные нейроны, из которых состоят модели машинного обучения. Заражённая нейронная сеть даже сможет нормально выполнять поставленные задачи.
Исследователи внедрили вредонос в реальную модель — AlexNet. Даже с изменениями она показывала ту же точность, что и прежде — около 93,1%. Таким образом, модель весом 178 МБ может содержать до 36,9 МБ вредоносной части.
Для таких атак злоумышленнику необходимо будет спроектировать нейронную сеть. Он может ввести в неё больше нейронов, чтобы внедрить вредонос. Затем злоумышленнику нужно обучить сеть с помощью подготовленного набора данных, чтобы получить работающую модель. После этого хакер внедряет вредоносную программу.
Автор:Ксения Мурашева