Опубликовано 18 сентября 2022, 11:06
1 мин.

Учёные: управлять настоящим искусственным интеллектом будет невозможно

Но такого пока нет и в помине
Идея уничтожения человечества искусственным интеллектом обсуждается уже давно. Учёные поделились своим мнение о том, сможет ли человечество контролировать по-настоящему высокоуровневый компьютерный сверхразум.
Учёные: управлять настоящим искусственным интеллектом будет невозможно

Загвоздка в том, что для управления настоящим искусственным интеллектом, находящимся далеко за пределами человеческого понимания, потребуется симуляция этого сверхразума, которую мы сможем анализировать (и контролировать). Но если мы не в состоянии это понять, создать такую ​​симуляцию невозможно.

В этом случае люди не смогут устанавливать для ИИ ограничительны правила, такие как «не причинять вреда людям». Впрочем, пока человечество неспособно создать такой искусственный интеллект, но остаётся неясным, в какой момент этот порог будет преодолён.