Сбер открыл библиотеку SIRIN для проверки фактов в ответах ИИ

Инструмент анализирует как ответ модели целиком, так и отдельные фрагменты текста, указывая участки с ошибками или неподтверждёнными сведениями. Также SIRIN позволяет заранее оценить, достаточно ли у ИИ-агента информации для подготовки ответа, — это даёт возможность не только выявлять ошибки, но и предотвращать их, запрашивая дополнительные данные или отказываясь от формирования неподтверждённого ответа.

В основе библиотеки — исследования Сбера в области детекции галлюцинаций. Учёные из команды исполнительного директора по исследованию данных Центра практического ИИ Максима Макаренко разработали метамодели, позволяющие повысить точность обнаружения ошибок почти на 30%, используя для обучения всего 250 примеров.

«Для повышения надёжности работы моделей мы представили библиотеку SIRIN, которая анализирует обоснованность их ответов. Этот подход уже показал свою эффективность внутри компании в сервисах для работы с клиентами. Мы приняли решение открыть SIRIN для всех компаний, чтобы способствовать развитию рынка. Библиотека доступна всем желающим для использования в своих проектах», — привела пресс-служба слова старшего управляющего директора, директора по AI-трансформации Сбербанка Сергея Рябова.