Опубликовано 27 апреля 2023, 12:30
1 мин.

«Кастрация» или забота? Nvidia выпустила новый набор инструментов для ИИ

Общаться с ними будет «безопаснее»
Nvidia выпустила набор инструментов с открытым исходным кодом под названием NeMo Guardrails для обеспечения «точности, уместности, соответствия теме и безопасности» текста и речи, генерируемых искусственным интеллектом (ИИ).
«Кастрация» или забота? Nvidia выпустила новый набор инструментов для ИИ

© Ferra.ru

Набор инструментов направлен на предотвращение того, чтобы такие модели, как GPT-4, отклонялись от темы, предоставляли неточную информацию или использовали токсичные выражения, а также на обеспечение других мер безопасности.

NeMo можно использовать для создания правил с помощью нескольких строк кода, не позволяя приложениям ИИ отклоняться от курса или устанавливать соединения с "небезопасными" внешними источниками.

Разработчики также могут использовать его для ограничения приложения, чтобы оно не выходило за заранее установленные рамки. Однако Nvidia признает, что инструментарий не идеален и не сможет уловить все.