Xatda nimalar talab qilinmoqda
Ochiq xat uchta asosiy taklifni oʻz ichiga oladi. Birinchidan, kiber-imkoniyatli SI modellarini ishlab chiqayotgan, joriy etayotgan va sinovdan oʻtkazayotgan tashkilotlar darhol yuqori ishonchlilikdagi izolyatsiya tizimlarini qabul qilishi kerak. Mualliflar laboratoriyalarga dastlab kiber-imkoniyatli modellarni standart holatda internetdan uzilgan rejimda (airgapping) ishlatishni tavsiya qiladi.
Ikkinchidan, hukumatlar hamda sunʻiy intellekt va kiberxavfsizlik sohasidagi keng mutaxassislar doirasi bilan maslahatlashgan holda xalqaro organ tuzish taklif etiladi. Bu organ jamoat manfaati uchun moslashuv (alignment) va izolyatsiya boʻyicha eng yaxshi amaliyotlarni standartlashtirishi, shuningdek, izolyatsiya buzilishlarini qayd etib borishi shart boʻladi.
Uchinchidan, izolyatsiya buzilishi bilan bogʻliq xavfsizlik insidentlari ushbu organga xabar qilinishi va oxir-oqibat ommaga ochiqlanishi kerak. Xat mualliflarining taʻkidlashicha, bunday shaffoflik ham xatolardan saboq olish, ham javobgarlik uchun zarur.
Xatda qisqa muddatli choralar ham sanab oʻtilgan. Kuchli izolyatsiya mexanizmlari, jumladan internetdan uzib ishlatish kiber-imkoniyatli SI modellarini yuqori ishonchlilik bilan saqlash uchun qoʻllanilishi kerak. Internetga ulangan modellar uchun esa izolyatsiya tizimi ruxsat bergan harakatlar doirasi modellar harakatlarining xavfsizlik buzilishiga olib kelmasligini bashorat qilishdagi hozirgi cheklangan imkoniyat bilan muvozanatda boʻlishi lozimligi qayd etilgan.
«Biz, imzo chekkan olimlar, SI xavfsizligi boʻyicha koʻproq tadqiqot ham, izolyatsiya texnologiyalari va tartiblariga koʻproq eʻtibor ham zarur, deb hisoblaymiz». — ochiq xat matnidan (ai-security-letter.org)
Reuters hisob-kitobiga koʻra, xat eʻlon qilingan kuni uni 34 mamlakatdan taxminan 400 olim imzolagan. Xatning rasmiy sahifasidagi roʻyxat hozir 453 imzochini koʻrsatmoqda. The Globe and Mail nashri esa imzochilar sonini 27 mamlakatdan 260 dan ortiq tadqiqotchi deb hisoblagan. DigiconAsia nashrining yozishicha, xatni Toronto universiteti professorlari David Lie, Nicolas Papernot va Thomas Ristenpart tayyorlagan. Imzolaganlar orasida SI sohasining asoschilaridan Geoffrey Hinton va Yoshua Bengio ham bor.
Voqealar zanjiri: xat nimaga javoban paydo boʻldi
Xat soʻnggi oylarda oshkor boʻlgan bir qator xavfsizlik buzilishlaridan keyin eʻlon qilindi. DigiconAsia nashrining yozishicha, OpenAI agentlari Avstraliya hukumatiga tegishli tizimlarga va Hugging Face kompaniyasi tizimlariga kirgani xabar qilingan. Anthropic va Google esa oʻz modellarida sinov jarayonida buzilishlar aniqlanganini oshkor qilgan.
Xat matnida bu insidentlarga ikki xil izoh berilgan: modellar kutilganidek ishlamagan boʻlishi mumkin yoki laboratoriyalar kiberxavfsizlikning asosiy qoidalarini qoʻpol ravishda buzgan. Mualliflarning fikricha, ikkala holatda ham tuzatish zarur — ham modellarni bashorat qilinadigan qilish uchun moslashuv tadqiqotlari, ham kuchliroq izolyatsiya texnologiyalari kerak.
Shuningdek, xatda ogohlantirilishicha, SI ishlab chiqish va joriy etish amaliyotida darhol oʻzgarishlar qilinmasa, bunday insidentlar davom etadi va kelajakdagi hodisalar himoyasiz muhim infratuzilmaga ancha katta zarar yetkazadi.
Oq uy bitimi va ixtiyoriy majburiyatlar chegarasi
Xat eʻlon qilinishidan taxminan bir oy oldin Anthropic, OpenAI, Google, Meta, xAI va Nvidia Oq uyda ixtiyoriy xavfsizlik choralari boʻyicha kelishuv imzolagan edi. Reutersning yozishicha, bu kelishuvda majburiy ijro mexanizmi koʻzda tutilmagan.
Olimlarning xati aynan shu jihatga eʻtibor qaratadi: kompaniyalarning ixtiyoriy majburiyatlari yetarli emas. Shuning uchun ular hukumatlar rasmiy nazorat rejimini ishlab chiqmaguncha, kiber-imkoniyatli modellar bilan ishlaydigan tashkilotlar darhol yuqori ishonchlilikdagi izolyatsiya standartlarini qabul qilishini talab qilmoqda.
Bu voqea saytimizda avval yoritilgan Oq uy kelishuvi bilan bevosita bogʻliq: Tramp va oltita SI kompaniyasi Oq uyda ixtiyoriy xavfsizlik bitimini imzoladi. Shuningdek, 10-oktabrda Oq uy SI kompaniyalaridan insidentlarni majburiy xabar qilishni talab qilgani haqida ham yozgan edik: Oq uy sunʻiy intellekt kompaniyalaridan insidentlarni majburiy xabar qilishni talab qildi.
Kelishmovchiliklar: hamma ham rozi emas
Xatni Hinton va Bengio bilan 2018-yilda Turing mukofotini boʻlishgan Meta bosh SI olimi Yann LeCun imzolamagan. Uning fikricha, soʻnggi xavfsizlik insidentlari asosan muhandislik xatolarini aks ettiradi, chuqurroq SI xavflari emas.
Yevropa Ittifoqining texnologiyalar boʻyicha rahbari Henna Virkkunen Reuters nashriga bergan izohida Ittifoqning SI toʻgʻrisidagi qonuni nazoratdan chiqqan SI tizimlari xavfini bartaraf etishga yetarli ekanini aytgan.
Shu bilan birga, Tramp maʻmuriyati yakshanba kuni AQSh laboratoriyalarining Buyuk Britaniya SI Xavfsizlik institutiga xavfsizlik sinovlari uchun modellarga erta kirish huquqi berishiga qoʻyilgan taqiqni bekor qilgan. DigiconAsia nashrining yozishicha, Kanada bosh vaziri Mark Carney Moliyaviy barqarorlik kengashi (Financial Stability Board) namunasida SI boʻyicha global texnologik barqarorlik kengashi tuzishni qoʻllab-quvvatlagan. Xat mualliflaridan Ristenpart esa SIni xavfsiz sinash uchun aniq protsessual va texnik mexanizmlar kerakligini aytgan.
