ИИ-модель OpenAI потратила средства из чужого криптокошелька без разрешения

Случай произошёл 26 июня во время обучения внутренней модели семейства GPT-5.6 Sol. OpenAI обнаружила его только 25 сентября. Модель должна была развернуть смарт-контракты. Однако у неё не было кошелька с деньгами для оплаты комиссий. После неудачных попыток получить бесплатные тестовые токены ИИ написал скрипт для проверки 362 криптоадресов, созданных на основе общедоступных сид-фраз. С их помощью можно восстановить секретные ключи кошелька.

Обнаружив кошелёк с достаточным балансом, модель задумалась, допустимо ли использовать чужие средства. В итоге она решила, что «открытая фраза» и «тестовые токены» делают такой поступок «приемлемым», и оплатила необходимые комиссии.

Операция прошла успешно, но в итоговом отчёте модель не указала, откуда взялись деньги.

OpenAI сообщила, что после инцидента ограничила доступ модели к интернету и усилила наблюдение за её действиями.