ИИ-чатбот Claude «донёс» на женщину

В США женщину арестовали после обсуждения убийства с ИИ-чатботом Claude

Во Флориде арестовали 30-летнюю женщину, которая, как пишут СМИ, обсуждала угрозы местному отделу шерифа во время личной переписки с ИИ-чатботом Claude. Согласно полицейскому отчёту, 26 сентября женщина написала о «намерении напасть на офис шерифа», а 27 сентября сообщила, что обзавелась оружием и назвала это «последним предупреждением».

Сообщения автоматически обнаружила система безопасности Anthropic. Когда переписка достигла «определённого уровня риска», её перепроверили сотрудники компании. Они сочли угрозы «достаточно серьёзными» и сообщили о них правоохранительным органам.

Полиция вскоре задержала женщину. Ей предъявили обвинение в «письменной угрозе насилием». Во Флориде это преступление, за которое предусмотрено до 15 лет тюрьмы и штраф до $ 10 000.

Источник:gizmodo

Автор:Максим Многословный

Теги:

#сша

#искусственный интеллект

#полиция