Nima boʻldi
Chegaraviy sunʻiy intellekt (SI) modellari ishlab chiquvchisi Anthropic vakillari AQSH Kongressi qonunchilariga SI xavfsizligi va xavfsizligini tartibga soluvchi oʻz qonun loyihasini taqdim etdi. Bu haqda Politico 16-oktabr kuni ushbu saʻy-harakatlardan xabardor uch manbaga tayanib xabar berdi; Reuters bu maʻlumotni mustaqil tasdiqladi. Bloomberg ham Politico xabariga tayanib voqeani yoritdi. Taklif hukumatga eng kuchli SI modellarining xavfli tarqatilishini toʻxtatish yoki oldini olish imkonini beradigan mexanizmlarni nazarda tutadi. Hozircha bu qonunchilarga taqdim etilgan taklif xolos — loyiha Kongress tomonidan muhokama qilinmagan va qabul qilinmagan. Ushbu qadam SI kompaniyalarining oʻzlari federal tartibga solish qoidalarini shakllantirishga bevosita kirishayotganini koʻrsatadi.
Hukumat modelni qachon toʻxtatishi mumkin
Qonun loyihasi hukumatning aralashuv huquqini juda tor doiraga cheklaydi. Modelning chiqarilishi yoki ishlatilishini toʻxtatish faqat ikki turdagi holatda mumkin: oldindan koʻrinadigan va yaqinlashib kelayotgan xavf 1 milliard dollardan ortiq moddiy zarar yetkazishi mumkin boʻlsa yoki 50 dan ortiq odamning oʻlimi yoxud ogʻir jarohatlanishiga olib kelishi mumkin boʻlsa. Bu ostona loyihaning asosiy xususiyatlaridan biri — hukumat faqat juda katta koʻlamdagi, yaqqol yaqinlashib kelayotgan tahdid mavjud boʻlgandagina harakat qila oladi.
Bundan tashqari, malakali xavf faqat uchta aniq manbadan kelib chiqishi shart: biologik qurolning yaratilishi yoki chiqarilishi, modelning oʻz ishlab chiquvchisining nazoratidan qochishi yoki kiberhujum. Bu uchala shartdan birortasi bajarilmasa, hatto katta zarar xavfi mavjud boʻlsa ham loyiha hukumatga toʻxtatish vakolatini bermaydi. Loyihadagi "oldindan koʻrinadigan, yaqinlashib kelayotgan xavf" taʻrifi aynan shu uch yoʻnalish bilan chegaralanadi — boshqa turdagi xavflar, masalan, iqtisodiy yoki ijtimoiy taʻsirlar, toʻxtatish uchun asos boʻla olmaydi.
Mustaqil baholash tizimi qanday ishlaydi
Loyiha chegaraviy modellarni muntazam tekshirib boradigan alohida baholash tizimini joriy etadi. Mustaqil baholovchilar AQSH Savdo vazirligida roʻyxatdan oʻtadi va laboratoriya hamda uning chegaraviy modellarini davriy baholab boradi. Yaʻni, modellarni baholash bir martalik tekshiruv emas, balki doimiy jarayon sifatida tashkil etiladi.
Laboratoriyalar ushbu baholovchilarga haq toʻlashi mumkin, ammo loyiha toʻlovning baholash natijasiga bogʻlanishini aniq taqiqlaydi. Bu qoida baholovchilarning mustaqilligini saqlashga qaratilgan: baholash natijasi salbiy chiqqan taqdirda ham baholovchi oʻz haqini oladi va laboratoriya uni natija bilan "sotib ola" olmaydi.
Agar baholovchilar kompaniyaning chegaraviy modellarida "yaqinlashib kelayotgan sanab oʻtilgan xavf" aniqlasa, ular baholash yakunlanganidan keyin 72 soat ichida Savdo vazirligiga xabar berishi shart. Bu 72 soatlik majburiy hisobot talabi xavf aniqlangach tezkor davlat reaksiyasini taʻminlashga moʻljallangan — baholovchi xavfni yashira olmaydi va muddat ichida davlatni xabardor qilishi shart.
Sud nazorati va taqiqlar
Savdo vazirligi xavf mavjudligini aniqlagach, sudyadan modelni toʻxtatishni soʻrashi mumkin. Shu bilan birga, loyiha tiliga koʻra AQSH hukumatining boshqa har qanday departamenti, agentligi yoki mansabdor shaxsiga modelni ishlab chiqish, tarqatish yoki ichki foydalanishni toʻxtatish aniq taqiqlanadi. Bu cheklov federal hokimiyatning keng tarmoqli aralashuvining oldini olishga qaratilgan: biror agentlik oʻz tashabbusi bilan modelni toʻxtata olmaydi.
Modelni toʻxtatish toʻgʻrisidagi yakuniy qarorni faqat Kolumbiya okrugi federal okrug sudi sudyasi qabul qilishi mumkin. Yaʻni, butun jarayon sud nazoratidan oʻtadi — Savdo vazirligi soʻrov kiritadi, qarorni esa federal sudya chiqaradi. Bu mexanizm davlat aralashuvini sud tekshiruviga bogʻlaydi.
Anthropicʻning izohi
Anthropic vakili Reutersʻga loyiha kompaniyaning shu yil boshida eʻlon qilingan "Advanced AI Framework" hujjatida bayon etilgan takliflarni aks ettirishini aytdi. Uning soʻzlariga koʻra, taklif hukumatga "eng kuchli modellarning xavfli tarqatilishini toʻxtatish yoki oldini olish imkonini" beradi va ishlab chiquvchilarni chegaraviy modellarni sinashga, natijalar haqida shaffof boʻlishga hamda ularni mustaqil baholashdan oʻtkazishga majbur qiladi.
"Taklif hukumatga eng kuchli modellarning xavfli tarqatilishini toʻxtatish yoki oldini olish imkonini beradi, ishlab chiquvchilardan esa chegaraviy modellarni sinash, natijalar haqida shaffof boʻlish va ularni mustaqil baholashdan oʻtkazish talab etiladi" — Anthropic vakili, Reutersʻga
Hozirgi holat
Politico xabari 16-oktabrda, Reuters tasdigʻi esa 17-oktabrda eʻlon qilindi. Bloomberg ham voqeani Politico xabariga tayanib yoritdi. Loyiha Anthropicʻning SI xavfsizligi boʻyicha federal tartibga solish masalasida oʻz taklifini bevosita qonunchilarga yetkazish yoʻlidagi birinchi ommaviy qadami hisoblanadi. Qonunchilarning taklifga munosabati va loyiha matnining keyingi taqdiri hozircha nomaʻlum.
