Российские разработчики заметили ошибки на стыке работы разных ИИ-систем

«Известия» сообщают, что российские разработчики столкнулись с новым типом ошибок нейросетей — «галлюцинациями взаимодействия». Сбои происходят не внутри одной модели, а когда несколько ИИ-систем обмениваются данными. Например, при заказе билетов через помощника, который обращается к внешнему сервису с другой языковой моделью. В результате пользователь получает неверный заказ, неправильный платёж или зависшую операцию.