Anthropic 15-oktyabr kuni eʻlon qilgan blog postida chegaraviy sunʻiy intellekt (SI) modellarini baholash bilan shugʻullanuvchi notijorat tashkilot METRdan olti nafar tadqiqotchiga xodim darajasidagi kirish huquqi berilganini maʻlum qildi. Tadqiqotchilar kompaniyaning ilgʻor modellari, xavfsizlik amaliyotlari va risklarni boshqarish tizimini mustaqil baholaydi.
Baholash qanday ishlaydi
Yangi kelishuv doirasida METR jamoasi Anthropic tomonidan berilgan noutbuklar, ofis maydoni hamda kompaniyaning oʻz risk baholash guruhlari foydalanadigan ichki vositalarga deyarli teng darajadagi kirish imkoniyatiga ega boʻladi. Kompaniya xodimlariga METR tadqiqotchilari bilan moslashuv xavfi (alignment risk) boʻyicha ishlovchi hamkasblaridek maʻlumot almashishga ruxsat berilgan.
Anthropicʻning tushuntirishicha, chegaraviy modellarni baholash uchun baholovchilarda toʻrtta sifat boʻlishi shart: chegaraviy imkoniyatlarni baholash boʻyicha ekspertiza, moliyaviy yoki operatsion mustaqillik (baholanayotgan kompaniyada ulushga ega boʻlmaslik), risklarni mazmunli baholashga yetarli kirish imkoniyati hamda kuzatuv va baholashlarni erkin nashr etish huquqi.
METR Anthropic bilan bir yildan beri hamkorlik qilib kelmoqda: shu davrda tomonlar kompaniyaning Risk hisobotlariga bir necha bor sharhlar tayyorlagan. Yangi kelishuv oʻzaro majburiy shartnomalar asosida kichik jamoa bilan cheklangan — METRning boshqa loyihalarda ishlovchi xodimlari ushbu jamoa ishidan ajratilgan (siloed). Kompaniya taʻkidlashicha, joylashtirilgan baholash boshqa tashkilotlarning kompaniya yoki uning mijozlari va hamkorlari maʻlumotlarini olish yoʻli emas.
METR oʻzining risk, hodisalar va amaliyotlar boʻyicha baholashlarini mustaqil nashr etadi. Anthropic nashrni bloklash huquqidan voz kechgan: kompaniya faqat oldindan belgilangan tor toifalardagi maʻlumotlarni — mijozlar maʻlumotlarini, advokat-mijoz imtiyozi ostidagi materiallarni yoki model arxitekturasi tafsilotlarini oʻchirishni talab qilishi mumkin. METR esa bu oʻchirishlarni ochiq tavsiflashi va ularni asosli deb hisoblaydimi-yoʻqmi, aytishi mumkin — oʻchirilgan maʻlumotni oshkor qilmasdan.
«Biz qabul qilayotgan qarorlar uchun omma oldida javobgar boʻlishni xohlaymiz. Baholovchilar chegaraviy SI kompaniyasining tizimlari haqida tushunganlari bilan kompaniyaning oʻzi tushunganlari orasidagi farqni yopishni maqsad qilganmiz», — deya yozgan Anthropic blog postida.
Kompaniya bu kelishuvni bank nazoratiga oʻxshatdi: regulyatorlar eng yirik banklarga oʻzlarining doimiy nazoratchilarini joylashtirgani kabi, bu yerda ham tashqi baholovchi kompaniya ichida ishlaydi.
Uch pogʻonali baholash tizimi
METR Anthropic qurayotgan uch pogʻonali baholovchilar tizimining eng yuqori pogʻonasidagi yagona baholovchi hisoblanadi. Quyi pogʻonadagi baholovchilar — masalan, bioxavfsizlik boʻyicha notijorat tashkilot SecureBio — tor doiradagi tekshiruvlar oʻtkazadi va nashr uchun Anthropic roziligini olishi shart. Hozirda SecureBio avgustdagi Risk hisobotining kimyoviy va biologik qurollar boʻyicha bobini koʻrib chiqmoqda; avvalroq u oldingi hisobotning sinov sharhini nashr etgan edi. Tekshiruv yakunlangach, kompaniya hamkorlikni kengaytirishni koʻrib chiqadi.
Accenture va Faculty bilan esa modellarni baholash va qizil jamoa (red-teaming) sinovlari, moslashuv baholashlari, himoya choralarini sinash hamda ikkala tashkilotda ham salohiyat qurishni qamrab olgan keng koʻlamli hamkorlik ustida ish olib borilmoqda.
Kompaniya ayni paytda SecureBio va Accenture bilan baholovchi sifatida hamkorlik qilmoqda, Hugging Face kabi yana bir necha tashkilot bilan esa dastlabki muzokaralar olib borilmoqda. Maqsad — vaqt oʻtishi bilan uchinchi pogʻonada bir nechta baholovchini jamlagan holda, ularning har biri kompaniyaning risk holati va muhim qarorlari boʻyicha oʻz tahlilini nashr etishi.
Nima uchun hozir
Bu qaror SI agentlarining koʻrsatmalardan chetga chiqish holatlari avgust oxiridan beri deyarli har hafta yoki ikki haftada oshkor etilayotgan bir paytda qabul qilindi; bu holatlar SI kompaniyalari ustidan mustaqil nazorat chaqiriqlarini kuchaytirgan. Bir oy oldin Anthropic kuchliroq mustaqil baholashga vaʻda bergan, shuningdek mustaqil tashqi auditorlar bilan hamkorlikni nazarda tutuvchi Oq uy kelishuvini imzolagan edi.
Sentyabr oyida Anthropic rahbari Dario Amodei tashqi baholovchilarni SI laboratoriyalariga joylashtirishni taklif qilgan, OpenAI esa tez orada xuddi shunday vaʻda bergan edi. Ikkala kompaniya Google, Meta, Nvidia va xAI bilan birga mustaqil tekshiruvga majburiyat oluvchi kelishuvni imzolagan. Ushbu kelishuv doirasida kompaniyalar mustaqil tashqi auditorlar yoki baholovchilar bilan hamkorlik qilishga vaʻda bergan.
Anthropicʻning bildirishicha, METR bilan hamkorlik kichik jamoa va majburiy kelishuvlar doirasida cheklangan; kompaniya xavfsizlik standartlari ostida ishlovchi bir necha malakali mutaxassisga oʻz faoliyatini yaqindan koʻrish imkonini beradi. Kompaniya baholovchilarni ixtiyoriy ravishda joylashtirayotganini va har bir chegaraviy SI kompaniyasi ham shunday qilishi kerak, deb hisoblashini qayd etgan.
