В России1 мин.
В России предложили новый способ обучения ИИ логическим рассуждениям
Метод позволяет сократить расходы на улучшение языковых моделей
© Ferra.ru
Исследователи из Лаборатории искусственного интеллекта T-Bank AI Research разработали новый подход к обучению больших языковых моделей. Метод развивает способность к логическим рассуждениям без дорогостоящего изменения миллионов параметров модели.
Вместо перестройки всей архитектуры ИИ ученые предложили использовать компактные векторы-настройки. Эти подсказки усиливают правильные логические шаги в уже предобученной модели, аналогично регуляторам громкости.
Тестирование на моделях показало эффективность подхода. При сохранении качества работы систем удалось сократить количество изменяемых параметров с миллионов до сотен тысяч. Расход памяти уменьшился с гигабайтов до сотен килобайт, а некоторые этапы обучения ускорились на порядки.
Метод также обеспечивает прозрачность процесса рассуждений ИИ, что позволяет изучать и целенаправленно улучшать логические способности моделей.
Источник:ТАСС