Anthropic всё-таки выпустила мощный ИИ для поиска уязвимостей в ПО
Но с ограничениямиAnthropic давеча представила две новые мощные ИИ-модели: Claude Fable 5 и Claude Mythos 5. Раньше компания опасалась выпускать Mythos 5, потому что эта модель «слишком хорошо умеет находить ошибки в программном коде». Им могут воспользоваться хакеры. Anthropic всё же нашла компромисс.
© Anthropic
Обе модели внутри устроены одинаково и могут решать «сложные аналитические задачи»: писать код, анализировать изображения и разрабатывать стратегии выполнения задания.
Хоть Fable 5 и предназначена для обычных пользователей, в неё встроены специальные защитные механизмы, которые блокируют попытки использовать модель для «хакерских атак, поиска опасных уязвимостей, создания ядовитых химических веществ или биологического оружия».
Mythos 5 — это та же самая модель, но без большинства защитных ограничений. Она, как и прежде, не будет доступна всем желающим. Anthropic планирует давать к ней доступ только «проверенным специалистам по кибербезопасности».