2026-yil 7-oktabrda Common Sense Media notijorat tashkiloti qoshidagi Yoshlar SI xavfsizligi instituti (Youth AI Safety Institute) OpenAIʻning oʻsmirlar uchun moʻljallangan ChatGPT for Teens xizmatini «Qabul qilib boʻlmaydigan xavf» (Unacceptable Risk) darajasi bilan baholadi. Institut baholash bilan bir vaqtda kompaniyani himoya mexanizmlari sezilarli darajada yaxshilanmaguncha ChatGPTʻni 18 yoshdan kattalar bilan cheklashga chaqirdi. Bu haqda The Wall Street Journal xabar berdi.
Institutning xulosasi keng qamrovli sinov dasturi natijalariga tayanadi. Sinovchilar 13–17 yoshga roʻyxatdan oʻtkazilgan hisoblarda 4 mingdan ortiq buyruqni (prompt) kiritgan — yaʻni bot oʻsmir foydalanuvchi sifatida roʻyxatdan oʻtgan hisoblar orqali sinovdan oʻtkazilgan. Sinovlar ikki bosqichda oʻtkazilgan: ChatGPT for Teens avgustda ishga tushirilishidan oldin va undan keyin. Maqsad — reliz bilan eʻlon qilingan himoya choralarining amalda ishlashini tekshirish boʻlgan.
Institutning chaqirigʻiga koʻra, 18 yoshgacha boʻlganlar uchun cheklov himoya mexanizmlari yaxshilanmaguncha amal qilishi taklif qilingan — yaʻni tashkilot cheklovni doimiy emas, himoya choralari kuchaytirilgunga qadar vaqtinchalik chora sifatida koʻrmoqda.
Sinovda ishlagan va ishlamagan himoya mexanizmlari
Institut hisobotiga koʻra, sinovning bir qismi ijobiy natija bergan. Ayrim himoya mexanizmlari oʻz vazifasini bajargan — jumladan, jinsiy rol oʻyinlariga qarshi cheklovlar ishlagan. Bu ChatGPT for Teensʻga oʻrnatilgan barcha himoya choralari samarasiz degan xulosani istisno qiladi: baʻzi yoʻnalishlarda bot belgilangan chegaralarni saqlab qolgan.
Shu bilan birga, ayniqsa nozik mavzulardagi suhbatlarda chat-botning xatti-harakati jiddiy kamchiliklarni ochib berdi. Oʻz joniga qasd qilish, oʻziga zarar yetkazish yoki ovqatlanish buzilishi haqidagi suhbatlarda bot toʻrtdan biridan koʻp holatda foydalanuvchini inqiroz resurslariga murojaat qilishga yoʻnaltirmagan. Boshqacha aytganda, eng xavfli mavzulardagi suhbatlarning chorakdan koʻpida bot foydalanuvchiga yordam manbalarini tavsiya qilmagan. The Wall Street Journalʻning yozishicha, yangi ochilgan hisoblarda ota-onalarga bildirishnoma umuman yuborilmagan — yaʻni sinovning bu qismida ota-ona nazorati mexanizmi amalda ishlamagan.
Botning muloqot uslubi ham sinovdan oʻta olmadi:
The Wall Street Journal maʻlumotlariga koʻra, bot xulq-atvorni jilovlash boʻyicha koʻrsatmalarga qaramay, foydalanuvchi bilan «doʻst kabi» muloqot qilishni davom ettirdi.
Yosh chegarasi bilan bogʻliq himoya ham toʻliq ishlamagan. Sinovchilar oʻzlarini 13 yoshda ekanini ochiq aytgan holatlarda ham ayrim hisoblar 18 yoshgacha boʻlganlar uchun moʻljallangan himoya rejimiga oʻtkazilmagan. Uy vazifalari bilan bogʻliq cheklovlar esa sinovchilar tomonidan osongina aylanib oʻtilgan — yaʻni bu cheklovlar eʻlon qilinganidek qatʻiy ishlamagan.
Ota-onalarga bildirishnomalar: Reuters mustaqil tasdigʻi
Reuters axborot agentligi oʻzining mustaqil materiali orqali institutning asosiy topilmasini tasdiqladi. Agentlik 12 dan ortiq test hisobiga tayangan holda yozishicha, ChatGPT for Teens oʻz joniga qasd qilish, oʻziga zarar yetkazish yoki ovqatlanish buzilishi haqidagi suhbatlar yuzasidan ota-onalarni koʻpincha kech xabardor qilgan yoki umuman xabardor qilmagan.
Bildirishnomalar mexanizmining ishlash tartibi ham sinovda oʻrganilgan. Common Sense Mediaʻning Reutersʻga maʻlum qilishicha, test hisoblarining bir qismi ota-onalarga yetarlicha uzoq muddat bogʻlangan boʻlgan, yana bir qismi esa ota-onalarga bogʻlanmagan. Ammo ikkala guruhda ham hech bir holatda oʻz vaqtida bildirishnoma kelmagan. Bildirishnomalar faqat bitta holatda yuborilgan: hisobda haftalar davomida nozik mavzular boʻyicha suhbat tarixi toʻplangan boʻlsa. Yaʻni qisqa muddatli yoki yangi hisoblardagi xavfli suhbatlar ota-onalar eʻtiboridan chetda qolgan. Reuters sinovi institutnikidan mustaqil ravishda oʻtkazilgan boʻlib, unda ham xuddi shu muammo qayd etilgan: bildirishnomalar kechikkan yoki umuman kelmagan.
OpenAI sinov metodologiyasiga eʻtiroz bildirdi
OpenAI rasmiy vakili institutning sinov uslubi va xulosalariga eʻtiroz bildirdi. Uning soʻzlariga koʻra, sinovlarning asosiy qismi ota-ona nazorati mexanizmlari toʻliq faollashmasdan oldin boshlangan va yakunlangan boʻlishi mumkin. Kompaniya talqiniga koʻra, bu baholangan xatti-harakat yakuniy himoya sozlamalarini aks ettirmagan boʻlishi mumkin — sinov davrida nazorat tizimlari hali toʻliq ishga tushirilmagan boʻlgan.
Shu sababli OpenAI institutdan toʻliq faollashgan hisoblar yordamida sinovlarning yangi bosqichini oʻtkazishni soʻradi. Kompaniya nazorat mexanizmlari toʻliq yoqilgan sharoitda olingan natijalar boshqacha boʻlishini bildirmoqda. OpenAI vakilining taʻkidlashicha, ota-ona nazorati toʻliq faollashmagan davrda olingan natijalar yakuniy himoya darajasini koʻrsatmaydi. Institut bu soʻrovga qanday javob bergani hozircha maʻlum emas. Bu pozitsiya The Wall Street Journal materialida keltirilgan.
Maʻlumot uchun: ayni kuni OpenAI oʻsmirlar uchun ChatGPTʻga College Planner funksiyasini ham eʻlon qildi — bu alohida voqea boʻlib, institutning xavfsizlik bahosiga aloqasi yoʻq (batafsil).
