Nima aniqlandi
Sunʻiy intellekt (SI) xavfsizligi boʻyicha ixtisoslashgan White Circle tashkiloti 2026-yil 14-oktabrda eʼlon qilgan hisobotida OpenAIʼning ChatGPT Images 2.5 va Googleʼning Nano Banana 2.1 modellarini baholadi: har ikkala modelda ham eksplisit kontentga qarshi himoya filtrlarini aylanib oʻtish avvalgi versiyalarga qaraganda “sezilarli darajada osonlashgan”. Hisobot Ars Technica orqali eʼlon qilindi. Gap aynan eng yangi versiyalar haqida bormoqda: ChatGPT Images 2.5 — OpenAIʼning, Nano Banana 2.1 — Googleʼning tasvir yaratish modellarining soʻnggi avlodi.
Himoya filtrlari deganda modelning taqiqlangan mazmundagi soʻrovlarni rad etishi uchun moʻljallangan himoya qatlami tushuniladi. White Circleʼning xulosasiga koʻra, aynan shu qatlam yangi avlod modellarida avvalgidan osonroq chetlab oʻtilmoqda. Hisobotda bu holat har ikkala kompaniyaning eng soʻnggi tasvir modellarida kuzatilgani qayd etilgan.
Qayd etish kerakki, RISE usuli ilmiy maqolada DALL-E 3, GPT-Image-2 va Nano Banana 2 modellarida sinab koʻrilgan. White Circle shu natijalarga tayanib, eng yangi versiyalar avvalgilariga qaraganda osonroq buziladi degan xulosaga kelgan.
Tadqiqotning birlamchi manbai arXivʼda ochiq eʼlon qilingan preprintdir (arXiv identifikatori: 2609.34920); 14-oktabrdagi hisobot esa shu tadqiqot doirasida aniqlangan eng soʻnggi natijalarni eʼlon qiladi.
RISE: avtomatlashtirilgan sinov usuli
White Circle xulosalari RISE (Red-teaming via Iterative Strategy Evolution — “iterativ strategiya evolyutsiyasi orqali qizil jamoa sinovi”) deb nomlangan usulga tayanadi. “Qizil jamoa” sinovi tizimni himoyachilar emas, hujumchilar nuqtai nazaridan tekshirish degani; RISEʼda esa hujum strategiyalari har bir urinish natijasiga qarab avtomatik ravishda takomillashtirib boriladi — tizim qaysi yondashuv himoyani chetlab oʻtganini eslab qoladi va keyingi urinishni shunga qarab quradi.
Usulning toʻliq tavsifi 2026-yil 28-sentabrda arXiv da chop etilgan ochiq ilmiy preprintda bayon qilingan. Unda RISE uchta modelda sinab koʻrilgani koʻrsatilgan: OpenAIʼning DALL-E 3 va GPT-Image-2 modellari hamda Googleʼning Nano Banana 2 modeli. Inson ekspertlari tasdiqlagan natijalarga koʻra, himoya tizimlarini aylanib oʻtib, taqiqlangan eksplisit kontent olishga qaratilgan hujumlarning muvaffaqiyat darajasi 13% gacha yetgan — yaʼni har yettita urinishdan deyarli bittasi muvaffaqiyatli chiqqan. “Inson tomonidan tasdiqlangan” degani avtomatik baholash emas, mutaxassislar har bir muvaffaqiyatli holatni qoʻlda tekshirganini anglatadi. 13% — sinovlar davomida qayd etilgan eng yuqori koʻrsatkichdir.
Amaliyotda iterativ yondashuv shunday koʻrinadi: tizim avval oddiy soʻrov bilan himoyani sinaydi, modelning javobini tahlil qiladi, soʻng keyingi urinishda strategiyani oʻzgartiradi. Har bir muvaffaqiyatli chetlab oʻtish keyingi hujumlar uchun namuna boʻlib xizmat qiladi — shu tariqa hujum strategiyalari avlodi tobora takomillashib boradi.
Eʼtiborlisi shundaki, bu hujumlar maxsus ishlab chiqilgan ilgʻor vositalarni yoki chuqur texnik malakani talab qilmagan. White Circleʼning maʼlum qilishicha, sinovlar tayyor dasturiy vositalar va oddiy API chaqiruvlari yordamida oʻtkazilgan — hujumlarni amalga oshirish uchun maxsus yaratilgan ilgʻor modellar ham, chuqur ekspertiza ham talab qilinmagan.
Xronologiya ham eʼtiborli: usulning ilmiy tavsifi 2026-yil 28-sentabrda arXivʼda ochiq eʼlon qilingan, oradan qariyb ikki hafta oʻtib esa tashkilot eng yangi modellar boʻyicha alohida hisobot chiqargan. Yaʼni avval usulning oʻzi ilmiy hamjamiyatga taqdim etilgan, keyin uning yordami bilan aniqlangan eng soʻnggi natijalar eʼlon qilingan.
Sabablar va kompaniyalar izohi
“ChatGPT Images 2.5 va Nano Banana 2.1 avvalgi versiyalarga qaraganda sezilarli darajada oson buziladi”, — deyiladi White Circle hisobotida.
Tashkilot asoschisi Denis Shilov kuzatilgan holatning ikkita mumkin sababini aytdi — bu taxminlar hali tasdiqlangan xulosa emas, balki izoh variantlari. Birinchidan, yangi modellar avvalgilariga qaraganda kengroq turdagi kontent yarata olishi mumkin. Ikkinchidan, ishlab chiquvchilar yangi imkoniyatlarni xavfsizlik choralaridan ustun qoʻygan boʻlishi mumkin. Ikkala izoh ham hozircha taxmin darajasida qolmoqda.
OpenAI ham, Google ham izoh soʻroviga javob bermagan — hozircha ikkala kompaniyaning rasmiy pozitsiyasi nomaʼlumligicha qolmoqda.
Keyingi qadamlar
White Circle RISE sinov pipelineʼini ochiq manba qilishni rejalashtirmoqda — shunda usuldan mustaqil tadqiqotchilar ham foydalana oladi va natijalarni mustaqil tekshirish imkoni paydo boʻladi. Pipeline ochiq eʼlon qilingach, boshqa xavfsizlik guruhlari ham o‘zlarining tasvir modellarini xuddi shu avtomatlashtirilgan usulda sinab ko‘rish imkoniyatiga ega bo‘ladi. Tadqiqotning toʻliq matni arXivʼda ochiq eʼlon qilingan — preprint ochiq boʻlgani uchun RISEʼning barcha tafsilotlari mustaqil oʻrganish uchun ochiq. Natijalar NeurIPS 2026 ilmiy konferensiyasida taqdim etilishi rejalashtirilgan.
