Стоит ли относиться к искусственному интеллекту, как ко всемогущему Джинну из бутылки

Известный писатель-фантаст Тед Чианг недавно написал статью для New Yorker, в которой предложил интересную метафору для понимания рисков, связанных с искусственным интеллектом (ИИ). Он считает, что нельзя относиться к ИИ, как ко «всемогущему Джинну из бутылки», вместо этого Чианг предлагает сравнить ИИ с консалтинговой фирмой по вопросам управления, проводя параллели с гигантом индустрии McKinsey & Company. Как McKinsey нанимают для различных целей, так и системы искусственного интеллекта выполняют различные функции. Сходство между ними очевидно. Например, платформы социальных сетей используют машинное обучение для поддержания активности пользователей, а компания Purdue Pharma прибегла к помощи McKinsey, чтобы максимизировать продажи препарата OxyContin во время опиоидного кризиса. И искусственный интеллект, и McKinsey обещают экономически эффективные альтернативы человеческому труду, способствуя таким практикам, как массовые увольнения и эрозия среднего класса. Чианг подчеркивает, что такие компании как McKinsey, предлагают уход от ответственности, позволяя руководителям дистанцироваться от спорных решений, утверждая, что они следуют советам независимых экспертов. Аналогичным образом, компании, использующие ИИ, часто уходят от ответственности, ссылаясь на алгоритмические результаты, несмотря на то, что они «заказывали и контролировали» алгоритмы.