Amazon нашла запрещённый контент с участием детей в данных для обучения ИИ

По данным организации, в 2025 году она получила более 1 миллиона сообщений о подобных материалах, связанных с ИИ. Подавляющее большинство этих сообщений поступило именно от Amazon. При этом компания, мол, сообщила лишь, что контент был найден во «внешних источниках данных», использованных для обучения ИИ, но не уточнила, откуда именно он появился.

Представитель NCMEC Фэллон Макналти назвала ситуацию «необычной». По её словам, такой большой объём сообщений вызывает «серьёзные вопросы» о том, какие данные используются и какие меры защиты применяются в ИИ-индустрии. Она также отметила, что из-за отсутствия информации об источниках эти сообщения невозможно передать правоохранительным органам для дальнейших действий.

По словам Amazon, весь подобный контент был удалён до начала обучения ИИ.