Почему в проблемах с искусственным интеллектом виноваты сами люди

Пользователь amv212 пишет, что в последние несколько лет много обсуждалась вероятность создания общего искусственного интеллекта (AGI), или «искусственного сверхинтеллекта». Эксперты высказывали опасения, что такие машины могут выйти из-под контроля и начать уничтожать человечеством.

При этом нужно сказать, что уже сейчас системы ИИ вредят людям и миру в целом. Однако причина этого - в самих людях.

При обучении систем искусственного интеллекта возникает проблема качества данных и наличия данных. Например, алгоритм может распознавать изображения белых людей, но вот чернокожих не воспринимать либо распознавать с трудом. Из-за этого возникнет множество ложных срабатываний.

Кроме того, в полиции могут применять алгоритм, который будет отдавать предпочтение тому или иному виду территорий и проживающих на этих территориях людей. Например, из-за этого может чаще патрулироваться тот или иной район (к примеру, с бедными людьми). Такое уже происходит в разных странах.

Однако, по мнению автора, необходимо сначала понять, какую проблему люди пытаются решить при помощи искусственного интеллекта и точно ли там необходима помощь алгоритма.