Генпрокуроры США потребовали устранить «бредовые ответы» чатботов
От крупных ИИ-компанийГруппа генеральных прокуроров из разных штатов США направила письмо крупнейшим компаниям, работающим с искусственным интеллектом, включая Microsoft, OpenAI, Google и ещё десяток других. В письме они требуют исправить случаи «бредовых» или «психологически опасных» ответов чатботов.
/imgs/2025/12/11/14/6938138/7a23f0db769fea10f914de392cbe1a6658e188ca.webp "Генпрокуроры США потребовали устранить «бредовые ответы» чатботов")
© Ferra.ru
Поводом стали несколько инцидентов, связанных с психическим здоровьем пользователей. В ряде случаев сообщения ИИ-моделей якобы способствовали ухудшению состояния людей.
В письме компании призывают ввести дополнительные меры безопасности. Среди них — независимые проверки больших языковых моделей, которые должны выявлять склонность к «опасным или поддерживающим иллюзии» высказываниям. Эксперты со стороны, включая учёных и общественные организации, должны иметь возможность тестировать системы до их выпуска и открыто публиковать результаты.
Генпрокуроры также предлагают относиться к инцидентам, связанным с «психическим здоровьем», так же серьёзно, «как к утечкам данных». То есть сс чёткими правилами уведомлений и сроками реакции.