Глава Anthropic призвал ИИ-компании замедлить развитие моделей

Амодеи отметил две причины для такого подхода. Первая связана со способностью ИИ совершенствовать собственные возможности. Второй фактор, по его словам, это недавний инцидент с агентами OpenAI и Hugging Face.

При этом замедление не должно означать остановку обучения моделей или технического прогресса. Речь идет о том, чтобы компании успевали проверять системы, а независимые специалисты могли оценивать их безопасность.

Anthropic намерена предоставить сторонним экспертам полный доступ для проверки практик безопасности и расследования инцидентов. Для более широких мер, считает Амодеи, потребуется сотрудничество компаний и государств.

Ранее о возможном замедлении разработки передовых ИИ-моделей говорил глава OpenAI Сэм Альтман.