Anthropic предложила приостановить развитие ИИ из-за рисков потери контроля

Компания отмечает, что автономность выполнения задач в ИИ удваивается примерно каждые четыре месяца, а отрасль приближается к этапу рекурсивного самоулучшения, когда системы начинают совершенствовать себя без участия человека.

В организации считают, что пауза возможна только при договоренности ведущих лабораторий и наличии правил ее запуска и отмены, тогда как одностороннее замедление не решит проблему. Регулирование в США остается ограниченным, а недавний указ предполагает добровольное тестирование моделей на кибербезопасность перед выпуском.

Anthropic позиционирует себя как разработчика с акцентом на безопасность, но продолжает выпуск более мощных моделей.