Ученые: нужно готовиться к миру, где ИИ не заслуживает доверия

Искусственный интеллект (ИИ) становится все более распространенным в нашей повседневной жизни: от чат-ботов, помогающих нам планировать поездки, до виртуальных помощников, предоставляющих нам информацию по сложным вопросам. Однако вопрос о том, заслуживают ли эти инструменты ИИ доверия, стал вызывать беспокойство. Это связано с тем, что технология, как правило, принадлежит и контролируется крупными технологическими компаниями, которые используют ее для собственной выгоды и прибыли. Чтобы ИИ действительно стал нашим помощником, он должен находиться под нашим контролем, и мы должны иметь возможность доверять ему. Это означает, что технология должна быть прозрачной, и мы должны понимать, как она работает. Однако создание надежного ИИ потребует системных изменений, считают эксперты. Чтобы быть надежной и заслуживающей доверия, система ИИ должна быть управляемой пользователем, то есть пользователь должен иметь возможность контролировать данные, используемые для обучения и точной настройки системы. Кроме того, модель должна иметь возможность работать на собственных электронных устройствах пользователя или в облачном сервисе, который он контролирует. Исследователи нашли множество способов обмануть чат-ботов и заставить их нарушить контроль безопасности, что подчеркивает необходимость жесткого ограничения возможностей ИИ. Поскольку ИИ все больше входит в нашу жизнь, нам важно понимать его риски и ограничения, чтобы в полной мере воспользоваться его преимуществами, и быть готовыми к тому, что в ближайшее время искусственный интеллект не сможет «заслужить» нашего полного доверия.