Что установлено
Специализирующаяся на безопасности искусственного интеллекта организация White Circle в отчёте, опубликованном 14 октября 2026 года, оценила модели ChatGPT Images 2.5 от OpenAI и Nano Banana 2.1 от Google: обход защитных фильтров, призванных блокировать откровенный контент, в обеих моделях стал «заметно проще», чем в предыдущих версиях. Отчёт опубликован через Ars Technica. Речь идёт именно о новейших версиях: ChatGPT Images 2.5 — последнее поколение генераторов изображений OpenAI, а Nano Banana 2.1 — Google.
Под защитными фильтрами понимается защитный слой модели, призванный отклонять запросы с запрещённым содержанием. По выводу White Circle, именно этот слой в моделях нового поколения обходится легче, чем раньше. В отчёте отмечается, что такое поведение зафиксировано в новейших моделях генерации изображений обеих компаний.
Следует отметить, что метод RISE в научной статье тестировался на DALL-E 3, GPT-Image-2 и Nano Banana 2. Опираясь на эти результаты, White Circle приходит к выводу, что новейшие версии взламываются легче предыдущих.
Первоисточник исследования — открытый препринт на arXiv (идентификатор arXiv: 2609.34920); отчёт от 14 октября публикует самые свежие результаты, полученные в рамках этого исследования.
RISE: метод автоматизированного тестирования
Выводы White Circle опираются на метод под названием RISE (Red-teaming via Iterative Strategy Evolution — «красная команда через итеративную эволюцию стратегий»). Тест «красной команды» — это проверка системы с точки зрения атакующих, а не защитников; в RISE атакующие стратегии автоматически совершенствуются на основе результата каждой попытки — система запоминает, какой подход обошёл защиту, и строит следующую попытку с учётом этого.
Полное описание метода изложено в открытом научном препринте, опубликованном 28 сентября 2026 года на arXiv. В нём показано, что RISE тестировался на трёх моделях: DALL-E 3 и GPT-Image-2 от OpenAI, а также Nano Banana 2 от Google. По результатам, подтверждённым экспертами-людьми, доля успешных атак, направленных на обход защитных систем и получение запрещённого откровенного контента, достигла 13% — то есть успешной оказывалась почти каждая седьмая попытка. «Подтверждено людьми» означает, что это не автоматическая оценка: эксперты вручную проверили каждый успешный случай. 13% — максимальный показатель, зафиксированный в ходе тестов.
На практике итеративный подход выглядит так: система сначала проверяет защиту простым запросом, анализирует ответ модели, затем меняет стратегию в следующей попытке. Каждый успешный обход служит образцом для следующих атак — так поколение атакующих стратегий становится всё совершеннее.
Примечательно, что эти атаки не требовали специально разработанных продвинутых инструментов или глубокой технической квалификации. По сообщению White Circle, тесты проводились с помощью готовых программных средств и обычных вызовов API — ни специально созданных продвинутых моделей, ни глубокой экспертизы для проведения атак не требовалось.
Хронология также примечательна: научное описание метода было открыто опубликовано на arXiv 28 сентября 2026 года, а спустя почти две недели организация выпустила отдельный отчёт по новейшим моделям. То есть сначала метод был представлен научному сообществу, а затем опубликованы самые свежие результаты, полученные с его помощью.
Причины и комментарии компаний
«ChatGPT Images 2.5 и Nano Banana 2.1 взламываются заметно легче, чем предыдущие версии», — говорится в отчёте White Circle.
Основатель организации Денис Шилов назвал две возможные причины наблюдаемого явления — это пока не подтверждённые выводы, а варианты объяснений. Во-первых, новые модели, возможно, способны создавать более широкий спектр контента, чем предыдущие. Во-вторых, разработчики могли поставить новые возможности выше мер безопасности. Оба объяснения пока остаются на уровне предположений.
Ни OpenAI, ни Google на запрос о комментарии не ответили — официальная позиция обеих компаний пока остаётся неизвестной.
Дальнейшие шаги
White Circle планирует открыть исходный код конвейера тестирования RISE — тогда методом смогут пользоваться независимые исследователи и появится возможность независимой проверки результатов. После публикации конвейера другие команды по безопасности также смогут тестировать свои модели генерации изображений тем же автоматизированным методом. Полный текст исследования открыто опубликован на arXiv — поскольку препринт открыт, все детали RISE доступны для независимого изучения. Результаты планируется представить на научной конференции NeurIPS 2026.
