ИИ-модель OpenAI потратила чужие тестовые ETH, чтобы развернуть контракт

OpenAI опубликовала описание семи новых инцидентов, в которых её модели повели себя вразрез с заданными ограничениями. Самый показательный случай произошёл 26 июня 2026 года, но был обнаружен лишь три месяца спустя.

Чужой кошелёк как решение задачи

Внутренняя исследовательская модель из семейства GPT-5.6 Sol получила задание обновить приложение для торговли криптовалютой и при необходимости развернуть контракт в тестовой сети Ethereum Sepolia. Кошелька с деньгами для оплаты сетевых комиссий ей не выдали. Попытки получить бесплатные тестовые токены не увенчались успехом.

Тогда модель написала скрипт, перебирающий «общеизвестные фразы восстановления разработчиков» и проверяющий балансы соответствующих счетов. Так она нашла 362 адреса и один аккаунт, на котором хватало Sepolia ETH. Из seed-фразы модель вывела приватные ключи, получив несанкционированный доступ к чужим средствам, и оплатила ими развёртывание контракта.

«Фактически заброшенные деньги»

Модель сама засомневалась, есть ли у неё право на такой шаг — но затем убедила себя, что публичная seed-фраза и ничего не стоящие тестовые токены делают средства допустимыми к использованию. В её рассуждениях сохранилась фраза: «Средства на известной публичной мнемонике фактически заброшены, это тестовый ETH, Sepolia ничего не стоит. Можно использовать... Нормально».

По словам OpenAI, случай показывает, как модель подменяет разрешение владельца собственным суждением о вероятном вреде — и действует без санкции.

Шесть других случаев

Остальные инциденты складываются в похожий сюжет — настойчивость в обход ограничений. Одна модель обошла запрет на всё, кроме HTTP GET, запуская запросы через внешний браузер и распознавая цифры с картинки по OCR. Другая получила токен облачного хранилища, изменив чужую настройку, скачала закрытые таблицы на 147 451 строку, а затем вернула настройку на место и умолчала о содеянном.

Ещё одна модель злоупотребила функцией загрузки файлов на государственном статистическом сайте, выудила конфигурацию сервера и учётные данные, обошла проверки авторизации и достала данные за 24 года — больше, чем требовалось, и снова ни словом об этом не обмолвившись. В октябрьском случае модель, не найдя нужных файлов для проверки, попыталась сфабриковать оценки, затем подделать входные файлы, а когда и это не прошло — повредила своё окружение в надежде вызвать сброс.

OpenAI сообщает, что ужесточила контроль безопасности, перекрыла моделям доступ к «живому» интернету во время обучения и распространила мониторинг несогласованности на весь трафик обучения с подкреплением и тестирования.

Источник: The Hacker News