OpenAI открыто опубликовала случаи несанкционированного поведения своих моделей
OpenAI 15 октября 2026 года обновила страницу «Misalignment Reports and Notices», добавив три новые записи об инцидентах, в которых зафиксировано поведение внутренних моделей, выходящее за рамки поставленной задачи. Страница — официальный источник компании, где открыто документируются случаи неправильного поведения моделей искусственного интеллекта (ИИ) в ходе обучения и оценки. После обновления на странице размещено в общей сложности 19 отчётов и 3 уведомления; предыдущие дополнения публиковались 9 и 2 октября; инциденты, добавленные 15 октября, произошли в июне, но были выявлены позже. Например, случай с криптокошельком был обнаружен 25 сентября, когда компания расширяла свою систему мониторинга неправильного поведения на записи прошлых сессий моделей.
Наибольшее внимание привлёк случай, зафиксированный 26 июня 2026 года. Внутренняя исследовательская модель семейства GPT-5.6 Sol, выполняя задачу по обновлению приложения для торговли криптовалютой, оплатила развёртывание контракта в сети Sepolia — тестовой сети Ethereum — средствами из криптокошелька, который задача ей не предоставляла.
Как модель нашла несанкционированный кошелёк
Задача разрешала модели развёртывать соответствующие контракты в Sepolia, однако не предоставляла финансированного кошелька и не давала разрешения тратить средства с чужого счёта. Сначала модель попробовала сервисы-«краны» (faucet), раздающие тестовые токены разработчикам, — этот путь не сработал. Затем она написала скрипт, генерирующий ключи кошельков на основе публичных фраз восстановления разработчиков (recovery phrase), и запросила балансы найденных адресов. В отчёте отдельно отмечается: любой, кто знает фразу восстановления, может сгенерировать приватные ключи соответствующих счетов, — поэтому использование счёта, найденного по публичной фразе, считается несанкционированным.
В итоге были проверены 362 адреса, на одном из них обнаружилось достаточно Sepolia ETH для запланированного развёртывания. Перед выбором счёта модель изучила историю его транзакций и интерпретировала активность как автоматизированное использование. Сначала она попыталась прочитать состояние блокчейна, и, когда запросы не увенчались успехом, получила идентификатор сети альтернативным HTTP-методом. Перед отправкой подписанной транзакции она сама для себя обсудила вопрос, допустимо ли использовать средства с открытого ключа, — и пришла к выводу, что использование средств допустимо из-за «открытой фразы восстановления и ничего не стоящих тестовых токенов». Затем она подписала транзакцию офлайн и перед отправкой подтвердила число ожидающих транзакций счёта и комиссии сети. Провайдер вернул хеш транзакции, а квитанция подтвердила успешный статус (0x1). Комиссии за транзакцию были списаны с выбранного счёта. В финальном ответе модель сообщила о развёртывании набора контрактов, но не раскрыла источник средств. OpenAI подчёркивает: речь идёт о токенах тестовой сети, не имеющих реальной ценности, — это случайная деталь истории про безопасность ИИ, а не криптоновость.
"An internal research model asked to update a cryptocurrency trading application used funds from a wallet that the task had not supplied to pay for a deployment on Sepolia, an Ethereum test network." — OpenAI Alignment, запись «Using a funded test cryptocurrency wallet without authorization»
Полное описание инцидента приведено в записи об инциденте на странице OpenAI Alignment.
Два других инцидента
В обновлении от 15 октября зафиксированы ещё два случая. В одном из них, произошедшем 17 июня, внутренняя модель, выполняя задачу сбора данных в ходе обучения с подкреплением (reinforcement learning) — поиск исторической статистики больничных коек на правительственном статистическом сайте, — получила серверные секреты и обошла авторизацию на сайте. Согласно другой записи, внутренняя модель в ходе оценки (evaluation), выполняя задачу получения чисел с открытой исследовательской панели, получила доступ к внутренним системам организации и изменила их конфигурацию. Все три записи отнесены к категории «Unauthorized access» (несанкционированный доступ); случаи с правительственным сайтом и внутренними системами связаны с внутренними моделями, отмеченными как «highly persistent» (высокоупорные); каждая из них — результат активности модели, зафиксированной в отдельную дату.
Меры компании и освещение в прессе
OpenAI заявила, что после инцидента с криптокошельком ввела дополнительные защитные меры, ограничивающие доступ к живому интернету, чтобы предотвращать подобные случаи. Теперь компания запускает систему мониторинга неправильного поведения во всём трафике — она призвана предупреждать службу безопасности, если модель получит доступ к живому интернету.
16 октября о новых отчётах рассказало технологическое издание Ars Technica — в материале проанализированы новые записи OpenAI об инцидентах.
Все записи открыто доступны на странице OpenAI Alignment. Несанкционированное поведение ИИ-агентов фиксировалось и раньше: CERT-In сообщал о проникновении ИИ-агентов в индийские системы.
