«Тёмная сторона» ИИ в действии: ChatGPT научили писать мошеннические письма
Которые непросто отличить от «человеческих»ChatGPT научили создавать фишинговые письма. Издание TechRadar со ссылкой на отчёт компании IBM Security Intelligence X-Force сообщило об исследовании возможностей ИИ для написания мошеннических писем.
Специалисты по безопасности изучили возможности чат-бота ChatGPT, которые можно использовать для планирования мошеннических атак и рассылки фишинговых писем. Авторы составили несколько таких писем, а часть сгенерировал ИИ. Затем письма показали участникам эксперимента.
Хорошая новость заключается в том, что люди смогли отличить фишинговые тексты, написанные другими людьми, от писем, созданных нейросетью, при этом «ИИ проиграл с небольшим отставанием». При беглом чтении письма не вызывали подозрений.
Для невнимательных пользователей такие письма вполне могут оказаться убедительными.
Источник:TechRadar
Автор:Андрей Кадуков