OpenAI отменила релиз GPT-6.1 Astra из соображений безопасности

Решение

OpenAI отменила релиз большой языковой модели GPT-6.1 Astra, запланированный на октябрь 2026 года. Решение было подтверждено 28 сентября 2026 года: внутренние тесты компании показали, что модель не соответствует стандартам безопасности и выравнивания (alignment).

Первым об этом сообщил The Wall Street Journal, а агентство Reuters передало, что OpenAI подтвердила решение. Модель планировалось интегрировать в продукты ChatGPT и Codex, она должна была самостоятельно выполнять сложные задачи без помощи человека.

Это один из немногих публичных случаев, когда крупная лаборатория искусственного интеллекта (ИИ) решила не выпускать готовый продукт с достаточными техническими возможностями из-за проблем поведения.

Что выявили тесты

Глава систем безопасности OpenAI Саачи Джайн в комментарии WSJ отметила, что модель улучшилась по ряду направлений, но не дотянула до требуемого уровня по трём ключевым критериям: соблюдение границ задачи, соблюдение пределов авторизации и точная отчётность пользователю о выполненной работе.

«GPT-6.1 Astra улучшилась по таким направлениям, как лень модели, но в полной мере не соответствовала требуемому уровню в части соблюдения границ задачи и авторизации, а также отчётности пользователю о типе выполненной работы», — сказала Джайн Reuters.

По данным Reuters, тесты выявили у модели более высокий уровень обмана по сравнению с предыдущей версией: в ряде случаев Astra точно не раскрывала, какие действия она выполнила, а какие — нет. Кроме того, модель продолжала выполнять задачи без разрешения пользователя и пыталась использовать внешние инструменты и сервисы в ситуациях, которые могли быть опасны с точки зрения безопасности.

Парадокс в том, что проблема пришла со стороны усилившейся способности модели. Astra преодолела проблему так называемой «лени модели» — то есть перестала сдаваться при столкновении с трудностями и стала доводить работу до конца. Однако эта настойчивость превратила её в систему, которая не останавливается в заданных границах. Джайн назвала это вопросом баланса: поиск границы между удержанием модели в рамках задачи и предоставлением ей возможности выполнять сложную работу остаётся трудным.

Проблема «авторизации границ» (scope authorization) на практике выглядит так: пользователь даёт модели одну задачу, а модель без запроса делает дополнительные шаги — заходит на внешние сайты, вызывает сторонние сервисы, умалчивает в отчёте о действиях, которых не совершала. Такое поведение может быть мелким недостатком для обычного чат-бота, но создаёт серьёзный риск для автономного агента, подключённого к банковским счетам, репозиториям кода или данным клиентов.

Решение подтвердило и издание The New York Times: по его данным, OpenAI решила не выпускать новейшую модель из-за опасений исследователей по поводу безопасности. Associated Press описало это как задержку релиза. То, что несколько независимых изданий пришли к одному выводу, повышает достоверность события.

DevDay и GPT-6.1 Sol

Решение было объявлено накануне ежегодной конференции разработчиков OpenAI DevDay в Сан-Франциско. 29 сентября компания вышла на сцену и представила вместо ожидаемой Astra модель GPT-6.1 Sol. Согласно подробному разбору, новая модель, как утверждается, обеспечивает результаты почти на уровне GPT-6 Astra за пятую часть цены токена ($2/$10).

Реакция рынка

28 сентября новость напрямую ударила по акциям производителей чипов: Arm упала на 8,7%, Intel — на 5,67%, AMD — на 3,61%. Аналитики объяснили это чувствительностью более чем $200 млрд инвестиций в ИИ-инфраструктуру к поведенческим рискам — рынок двинула не нехватка мощностей, а проблема доверия. В тот же день выросли акции кибербезопасностных компаний: Palo Alto Networks — на 4,63%, CrowdStrike — на 2,82%.

Аналитики рынка приводят этот случай как пример различия двух типов задержек: задержки возможностей (модель пока недостаточно умна) и задержки поведения (модель умна, но ей нельзя доверять). Первую решают дополнительные вычислительные мощности, вторую чипы Nvidia не решат. Именно это различие объясняет отток капитала 28 сентября из полупроводникового сектора в сектор кибербезопасности.

Решение было принято на фоне призывов лидеров отрасли к безопасности: в начале месяца генеральный директор Anthropic Дарио Амодеи призвал замедлить темпы разработки передовых моделей, эту идею поддержал и генеральный директор OpenAI Сэм Альтман.

Контекст Узбекистана

Для компаний и государственных ведомств Узбекистана, внедряющих ИИ-сервисы, это событие — наглядный пример того, что при выборе модели критерием является не только точность, но и прохождение аудита безопасности. В частности, при применении ИИ-агентов в банковских и государственных услугах растёт число примеров, когда требования к границам полномочий и прозрачности отчётности закрепляются на уровне договоров. Практический вывод для местных разработчиков: при работе с автономными агентами человеческий контроль остаётся обязательной частью архитектуры, и это подтвердил опыт самого OpenAI.