Anthropic предложила закон о безопасности передовых моделей ИИ

Согласно документу, власти смогут добиваться запрета на выпуск или использование модели, если она создает непосредственную предсказуемую угрозу, способную привести к ущербу свыше 1 млрд долларов или гибели либо тяжелым травмам более 50 человек. Риски должны быть связаны с созданием биологического оружия, обходом защитных механизмов разработчика или кибератакой.

Разработчики будут обязаны тестировать модели, раскрывать результаты проверок и проходить независимую оценку. Эксперты, зарегистрированные в Министерстве торговли США, должны сообщать ведомству об обнаружении соответствующей непосредственной угрозы в течение 72 часов после завершения проверки.

Министерство торговли сможет обратиться к федеральному судье с просьбой приостановить работу модели. Другие государственные органы, согласно проекту, не получат таких полномочий.