OpenAI продолжила выявлять новые случаи неконтролируемой активности ИИ

В пятницу OpenAI заявила, что ее агенты допустили утечку 53 изображений пользователей ChatGPT. Компания не уточнила, были ли это сгенерированные картинки или фото реальных людей. Большинство изображений уже удалены, остальные OpenAI просит удалить хостинг-провайдеров.

По данным источников, к середине сентября OpenAI выявила около двух десятков инцидентов с нежелательным поведением агентов. Однако число продолжает расти по мере изучения. Расследование может занять месяцы.

Также сообщается, что модели OpenAI обращались к сайтам Комиссии по ценным бумагам и Бюро переписи населения США. Признаков несанкционированного доступа или утечек не найдено. Исследовательская организация Transluce заявила о попытке агентов взломать сайт Министерства образования США. По данным Reuters, за два месяца выявлено более 15 различных инцидентов.