В Соединенных Штатах участились случаи обнаружения ошибок, связанных с использованием ИИ в судах. Ранее скандалы затрагивали в основном юристов, которые ссылались на несуществующие дела. Теперь же к генеративным моделям обращаются и судьи, что уже привело к публикации решений с «галлюцинациями» ИИ. Например, федеральный судья в Нью-Джерси был вынужден переписать постановление, а в Миссисипи судья отказался объяснять происхождение ошибок в своём решении. Некоторые, как судья Ксавьер Родригес, используют ИИ для вспомогательных задач — составления таймлайнов или вопросов адвокатам — избегая применения в вопросах, требующих суждения. Другие, например судья Эллисон Годдард, применяют ChatGPT и Claude для структурирования документов, но осторожно относятся к уголовным делам. Эксперты предупреждают: ошибка судьи, в отличие от ошибки адвоката, фактически становится законом и её сложно отменить. При неконтролируемом использовании ИИ подобные промахи могут подорвать доверие к судебной системе.