Amazon предупреждал власти США о рисках новых моделей Anthropic

Anthropic ранее заявляла, что модель Mythos могла иметь повышенные возможности в сфере поиска уязвимостей, поэтому ее массовый запуск был отложен. Позже компания представила Fable с дополнительными защитными механизмами для кибербезопасности.

После запроса американских властей Anthropic отключила доступ к обеим моделям по всему миру. Причиной стал возможный способ обхода защиты, который мог позволить применять ИИ для анализа программных слабых мест.

Amazon не подтвердил детали обсуждений с правительством, но отметил, что крупные поставщики облачных услуг регулярно участвуют в разговорах о безопасности технологий. Ряд экспертов раскритиковал ограничения, поскольку они затронули не только потенциальных противников США, но и партнерские страны.