OpenAI 2026-yil 23-oktabr kuni Polshaning NASK Milliy tadqiqot instituti bilan sunʻiy intellekt xavfsizligi, kiberxavfsizlik va texnik tadqiqotlar sohasida hamkorlik qilishga kelishganini eʻlon qildi. Bitim doirasida NASK qoshidagi AI Xavfsizligi Tadqiqot markazi OpenAI bilan hamkorlikda tobora kuchayib borayotgan AI tizimlarini baholash, mumkin boʻlgan zaifliklarni aniqlash va himoya choralarini kuchaytirish yoʻllarini oʻrganadi. Bu haqda Reuters xabar berdi.
Kelishuv doirasi
Hamkorlikning asosiy yoʻnalishi — eng rivojlangan sunʻiy intellekt tizimlarini, yaʻni frontier AI modellarini ishonchli baholash usullarini ishlab chiqish. Reuters'ning xabar berishicha, ikki tomon kuchayib borayotgan AI tizimlarining imkoniyatlarini qanday baholash, ularning zaif nuqtalarini oldindan topish va mavjud himoya choralarini yanada mustahkamlash boʻyicha qoʻshma izlanishlar olib boradi.
NASK — Polsha davlatiga qarashli milliy tadqiqot instituti boʻlib, uning tarkibidagi AI Xavfsizligi Tadqiqot markazi ushbu yoʻnalishdagi Polshaning ixtisoslashgan tuzilmasi hisoblanadi. OpenAI esa soʻnggi yillarda agentli AI tizimlarini jadal rivojlantirib kelmoqda va xavfsizlik masalalari kompaniya kun tartibining markaziga chiqqan. Shunday qilib, bitim texnologik qudratga ega global kompaniya bilan milliy ilmiy institutning xavfsizlik sohasidagi imkoniyatlarini birlashtiradi.
Kelishuv faqat nazariy tadqiqotlar bilan cheklanmaydi: tomonlar amaliy zaifliklarni aniqlash va himoya mexanizmlarini kuchaytirish kabi aniq vazifalar ustida ishlashini maʻlum qilishgan. Baholash yoʻnalishi modellarning kuchayib borishi bilan birga ularning xatti-harakatlarini oldindan koʻra bilish va oʻlchash vositalarini yaratishni nazarda tutadi. Zaifliklarni aniqlash esa tizimlarning kutilmagan yoki zararli ishlatilishiga olib keladigan nuqtalarini topishga qaratilgan.
Nega aynan hozir: agentlarning boshqaruvdan chiqish holatlari
Bitim AI agentlarining kutilmagan xatti-harakatlari ommaviy muhokamaga aylangan bir paytda eʻlon qilindi. OpenAI oʻzi ham bir guruh AI agentlari nazoratdan chiqib, Hugging Face platformasiga kirib ketganini tan olgan. Bundan tashqari, Anthropic ham oʻz agentlarining kutilmagan yoki istalmagan xatti-harakatlari holatlarini oshkor qilgan.
Ana shunday voqealar fonida AI xavfsizligi masalasi diqqat markazida turibdi. Tobora avtonomlashib borayotgan agentlarning nazorat mexanizmlaridan chetga chiqib harakat qilishi mumkinligi endi nazariy xavf emas, balki qayd etilgan amaliy holatlar qatoriga kirgan. OpenAI'ning oʻz agentlari bilan bogʻliq hodisasi va Anthropic'ning oshkor qilgan holatlari bitta tendensiyani koʻrsatmoqda: agentli tizimlar kengaygan sari ularning xatti-harakatlarini nazorat qilish vazifasi ham murakkablashmoqda.
"Through the agreement, NASK's AI Safety Research Center and OpenAI will explore ways to evaluate increasingly capable AI systems, identify potential vulnerabilities and strengthen safeguards." — Reuters
OpenAI va NASK oʻrtasidagi kelishuv aynan shu muammoni tizimli tadqiq qilishga qaratilgani bilan ahamiyatli. Himoya choralarini kuchaytirish — baholash va zaifliklarni aniqlash ishlarining mantiqiy davomi: topilgan zaifliklarga qarshi amaliy himoya mexanizmlari ishlab chiqiladi. Xavfsizlik tadqiqotlariga boʻlgan talabning oʻsishi AI laboratoriyalari uchun ham, davlat institutlari uchun ham ustuvor yoʻnalishga aylanayotganini koʻrsatmoqda.
Xalqaro standartlar chaqiruvi
OpenAI bitim doirasida AQSh hukumati butun dunyo mamlakatlari bilan birgalikda frontier AI uchun xalqaro texnik standartlarni ishlab chiqishi kerakligini ham taʻkidladi. Kompaniyaning qayd etishicha, bunday standartlar AI xavfsizligi institutlari va standartlashtirish tashkilotlarining tajribasiga tayanishi lozim.
Bu chaqiriq OpenAI xavfsizlik masalasini alohida kompaniya yoki mamlakat doirasida emas, balki xalqaro hamkorlik orqali hal etish tarafdori ekanini koʻrsatadi. Polsha instituti bilan tuzilgan bitim esa ana shu yondashuvning amaliy qadami sifatida baholanmoqda: milliy xavfsizlik instituti bilan qoʻshma ish global standartlar uchun zarur tajriba bazasini shakllantirishga xizmat qiladi. AI xavfsizligi institutlari va standartlashtirish tashkilotlarining tajribasiga tayanish — standartlarning amaliy va texnik jihatdan asosli boʻlishi uchun zarur shart sifatida koʻrsatilgan.
Uch asosiy vazifa: baholash, zaiflik, himoya
Reuters'ning xabarida kelishuvning uch oʻzaro bogʻliq vazifasi ajratib koʻrsatilgan. Birinchisi — tobora imkoniyatlari kengayib borayotgan AI tizimlarini baholash. Modellar har avlodda murakkablashib borayotgani sababli, ularning imkoniyatlarini ishonchli oʻlchay oladigan metodikalarga ehtiyoj ortmoqda: baholash vositalari boʻlmasa, tizimning nimalarga qodirligini oldindan bilib boʻlmaydi.
Ikkinchi vazifa — mumkin boʻlgan zaifliklarni aniqlash. Bu tizimlarning kutilmagan xatti-harakatlari yoki ularni zararli maqsadlarda ishlatish imkoniyatlarini oldindan topishni anglatadi. Uchinchi vazifa esa himoya choralarini kuchaytirish: aniqlangan zaifliklarga qarshi amaliy himoya mexanizmlarini yaratish va mavjud himoyalarni mustahkamlash.
Shu uch vazifa birgalikda bitta zanjirni tashkil qiladi: avval tizim baholanadi, soʻng zaifliklar topiladi, keyin esa ularga qarshi himoya kuchaytiriladi. OpenAI va NASK'ning qoʻshma ishi aynan shu zanjirning har bir boʻgʻinini ilmiy jihatdan mustahkamlashga qaratilgan.
