В США все чаще находят ошибки ИИ в судебных решениях

Ранее скандалы затрагивали в основном юристов, которые ссылались на несуществующие дела. Теперь же к генеративным моделям обращаются и судьи, что уже привело к публикации решений с «галлюцинациями» ИИ.

Например, федеральный судья в Нью-Джерси был вынужден переписать постановление, а в Миссисипи судья отказался объяснять происхождение ошибок в своём решении.

Некоторые, как судья Ксавьер Родригес, используют ИИ для вспомогательных задач — составления таймлайнов или вопросов адвокатам — избегая применения в вопросах, требующих суждения.

Другие, например судья Эллисон Годдард, применяют ChatGPT и Claude для структурирования документов, но осторожно относятся к уголовным делам.

Эксперты предупреждают: ошибка судьи, в отличие от ошибки адвоката, фактически становится законом и её сложно отменить. При неконтролируемом использовании ИИ подобные промахи могут подорвать доверие к судебной системе.