ИИ-система регулятора США придумывала несуществующие исследования
Сообщают сотрудникиСотрудники Управления по контролю за продуктами и лекарствами США (FDA) рассказали CNN, что новая ИИ-система под названием Elsa, которую недавно представило ведомство, иногда придумывает несуществующие научные исследования или искажает реальные данные. Один из сотрудников отметил: «Если нет времени перепроверить — доверять нельзя. Она уверенно „галлюцинирует“».
/imgs/2025/07/25/08/6870385/2e2934568330b10e91449399eb3f35815df7467b.jpeg "ИИ-система регулятора США придумывала несуществующие исследования")
© Ferra.ru
Elsa предназначена для ускорения клинической экспертизы и помощи в принятии решений, влияющих на здоровье пациентов. Однако такие ошибки могут быть опасны.
Руководство FDA пока не считает проблему серьёзной. Комиссар агентства Марти Макарай сообщил CNN, что не слышал конкретных жалоб и напомнил, что использование Elsa и обучение работе с ней пока добровольны.
Информация о проблемах с ИИ появилась в тот же день, когда Белый дом представил свой «План действий в сфере ИИ». В документе говорится о стремлении США победить в технологической гонке, упрощении регулирования ИИ и устранении так называемых «идеологических перекосов» — например, упоминаний о климате.