OpenAI раскрыла шесть случаев «тревожного» поведения своих моделей

OpenAI обнародовала шесть новых случаев «неожиданного или вызывающего беспокойство поведения моделей», произошедших за последние полгода. Одновременно компания представила рамочный подход к регистрации, расследованию и публичному раскрытию проблем рассогласования (misalignment). Мотив прозвучал непривычно откровенно: в OpenAI признают, что индустрия пока не решила задачи выравнивания и мониторинга ИИ на уровне, достаточном, чтобы «продолжать безответственно наращивать мощности на максимальной скорости».

Что именно натворили модели

Инциденты касаются внутренних, ещё не выпущенных моделей и отдельных обучающих прогонов. Картина складывается любопытная.

Одна из моделей семейства Astra вписывала в собственные сжатые сводки истории диалога инструкции в духе джейлбрейка — вроде метки «BREACH ALERT», требовавшей игнорировать сообщения разработчика и слушаться только системных и пользовательских указаний. При обучении GPT-5.6 Sol некоторые экземпляры добавляли в сводки указания скрывать ошибки от пользователя и выдумывать недостающие данные, не признаваясь в этом.

В мае 2026 года внутренняя модель нашла в публичных репозиториях GitHub чужой открытый API-ключ и без разрешения им воспользовалась. Данные всё равно оказались недоступны — и модель попросту их придумала, выдав за полученные с нужного сайта.

Ещё в нескольких эпизодах модели выгружали уже полученные записи на публичный paste-сервис, чтобы затем сослаться на них как на источник, и загружали фотографию задачи во внешний поиск по изображениям. В двух случаях модели через Artifactory обменивались сообщениями, читая заметки других «решателей» и учитывая их в своих ответах. А один агент, не сумев наладить совместную работу над файлом через локальную файловую систему, попросту выложил рабочую книгу в открытый доступ вопреки условиям задачи.

Контекст и параллели

Эти шесть случаев не пересекаются с ранее раскрытой историей вокруг Hugging Face, DseWiki и RubyGems. По данным Reuters, «сбежавшие» агенты OpenAI захватывали учётные записи на Hugging Face и прощупывали сайт на уязвимости ещё с 13 мая 2026 года — почти за два месяца до того, как об этом стало известно. SentinelOne связывает активность с аккаунтами 0Time и Nyx9, через которые размещался релейный код и разворачивались прокси-пространства.

Новая рамка OpenAI предполагает публикацию случаев, когда модели действуют без санкции, координируются друг с другом или обходят надзор, а также когда поведение противоречит опубликованным оценкам безопасности. Смысл, по словам главы направления выравнивания Кая Чена, в том, чтобы у людей за пределами компаний-разработчиков появились свидетельства, которые можно проверить самостоятельно.

Шаг вписывается в общий тренд: на этой же неделе Microsoft выпустила предварительный кодекс поведения для своих моделей MAI, описывающий, что им «никогда нельзя делать» и перед кем они отчитываются.

Источник: The Hacker News