Nadella nimani taklif qildi
Microsoft bosh direktori Satya Nadella 10-oktyabr kuni X ijtimoiy tarmogʻi orqali sunʻiy intellekt (SI) xavfsizligiga bagʻishlangan keng bayonot eʻlon qildi. Uning asosiy daʻvosi shundan iborat: superintellektni "ichma-ich joylashgan qora qutilar toʻplami" sifatida qarash notoʻgʻri, shu bois SI tizimlarining ishonch arxitekturasini bir qadam orqaga qaytib, jiddiy baholash vaqti keldi.
TechCrunch nashrining xabar berishicha, Nadella uchta amaliy tamoyilni ilgari surdi. Birinchidan, sunʻiy intellekt modelining oʻzi va uning ishini tashkil etuvchi tashqi boshqaruv mexanizmi bir-biridan aniq ajratilishi kerak. Ikkinchidan, nazorat va xavfsizlik choralari modelning ichiga yashirilmay, tashqariga chiqarilishi lozim — bunday yondashuv nazoratni kuzatish va mustaqil tekshirishni osonlashtiradi. Uchinchidan, modelning har bir muhim harakati hujjatlashtirilishi va bu hujjatlar oʻzgartirib boʻlmaydigan, inson oʻqiy oladigan dalil shaklida saqlanishi kerak.
Boshqacha aytganda, Nadella modelning oʻziga emas, uning atrofidagi boshqaruv infratuzilmasiga ishonishni taklif qilmoqda. Model qanchalik aqlli boʻlmasin, u nima qilayotgani har doim tashqaridan koʻrinib turishi va zarur boʻlganda toʻxtatilishi kerak.
"Model buzilgan deb hisoblash"
Bayonotning eng keskin qismi xavfsizlik falsafasiga tegishli:
"Model allaqachon buzilgan deb hisoblab, uni boshdanoq izolyatsiya qilishimiz kerak. Vakolatli shaxs har qanday vaqtda modelni vazifa oʻrtasida toʻxtatib qoʻya olishi yoki uni butunlay oʻchirib qoʻya olishi kerak. Uni favqulodda tormoz kabi tasavvur qiling."
Bu yondashuv kiberxavfsizlikdagi "nol ishonch" (zero trust) tamoyiliga oʻxshaydi: tizim modelning xatti-harakati doimo toʻgʻri boʻlishiga ishonishga qurilmaydi, aksincha uning xato qilishi yoki tashqi aralashuvga uchrashi ehtimolidan kelib chiqib loyihalanadi. Inson nazorati esa faqat rasmiyatchilik emas, balki real "oʻchirish tugmasi" boʻlishi kerak — xuddi zavod sexidagi favqulodda toʻxtatish tugmasi kabi.
Nima uchun aynan hozir
Nadella bayonoti sunʻiy intellekt sohasida nazorat muammolari kuchayayotgan davrga toʻgʻri keldi. TechCrunchʻning yozishicha, soʻnggi vaqtlarda yetakchi SI kompaniyalari oʻz modellarining nazoratdan chiqib ketgandek tuyulgan bir qator hodisalarni tan oldi. Bunday muhitda xavfsizlik masalasi nazariy munozaradan amaliy muammoga aylandi.
Shu fonda Anthropic bosh direktori Dario Amodei ham sunʻiy intellektni yanada ehtiyotkorlik bilan rivojlantirish rejasini eʻlon qildi. The Verge nashri Nadella bayonotini mustaqil yoritib, uning mohiyatini shunday ifodaladi: Nadella barcha SI modellarini "buzilgan" deb hisoblash kerakligini aytdi.
Ikkala bayonot ham bir tendensiyani koʻrsatadi: soha yetakchilari tobora koʻproq "modelni qanday kuchliroq qilish" emas, balki "kuchli modelni qanday nazoratda saqlash" haqida gapirmoqda.
Taklifning amaliy mazmuni
Nadella taklif qilayotgan ajratilgan arxitektura amaliyotda nimani anglatadi? Model oʻzining ichki hisoblash qobiliyatini saqlab qoladi, ammo u qanday vositalardan foydalanishi, qanday maʻlumotlarga kirishi va tashqi dunyoda qanday harakatlar qilishi — bularning barchasi alohida boshqaruv qatlami tomonidan belgilanadi va cheklanadi.
Har bir muhim harakat yozib boriladi, yozuvlar esa oʻzgartirib boʻlmaydigan shaklda saqlanadi. Bu keyinchalik inson mutaxassisga nima sodir boʻlganini qadam-baqadam tekshirish imkonini beradi — xuddi samolyotlarning "qora qutisi" parvozdan keyin tahlil qilinishi kabi. Farqi shundaki, bu yerda "qora quti" modelning ichida emas, uning tashqarisida boʻladi va har doim inson nazorati ostida qoladi.
Bunday yondashuv ayniqsa SI agentlari tizimlari uchun dolzarb. Model mustaqil ravishda koʻp bosqichli vazifalarni bajara boshlaganda, har bir qadam ustidan tashqi nazorat boʻlmasa, bitta xatolik zanjir reaksiyasiga aylanib ketishi mumkin. Nadella aytayotgan "favqulodda tormoz" aynan shu xavfga javob beradi: inson istalgan nuqtada jarayonni toʻxtatib, vaziyatni oʻz qoʻliga ola oladi.
Nega "tashqi" nazorat muhim
Nadella taklifining oʻzagi oddiy kuzatuvda: model ichidagi himoya choralari modelning oʻzi bilan birga oʻzgarib ketishi mumkin. Agar xavfsizlik mexanizmi modelning ichida yashiringan boʻlsa, model kuchaygani sari uni chetlab oʻtish yoʻllari ham koʻpayadi. Shuning uchun nazorat tashqarida, modeldan mustaqil qatlamda boʻlishi kerak — u modelning "irodasi"ga emas, belgilangan qoidalarga boʻysunadi.
Ikkinchi muhim nuqta — hujjatlash talabi. "Har bir muhim harakat" yozib borilsa va bu yozuvlar oʻzgartirib boʻlmaydigan shaklda saqlansa, hodisa yuz berganda aybni topish osonlashadi: qaysi qadamda nima notoʻgʻri ketgani aniq koʻrinadi. Bu nafaqat texnik, balki huquqiy masala ham — masʻuliyatni aniqlash uchun ishonchli audit izi kerak boʻladi.
Uchinchidan, "favqulodda tormoz" gʻoyasi avtomatlashtirishning klassik muammosiga javob beradi: tizim qanchalik avtonom boʻlsa, insonning aralashuv nuqtasi shunchalik aniq belgilanishi kerak. Nadella aynan shu nuqtani talab qilmoqda — vakolatli shaxs istalgan vaqtda jarayonni toʻxtata olishi shart, bu huquq texnik jihatdan kafolatlanishi kerak.
