Robototexnikada katta burilish yuz bermoqda: robotlarni boshqarish kalitlari generativ sunʻiy intellekt (SI) modellariga topshirilmoqda. Biroq bu arxitektura anʻanaviy algoritmlar kabi bashorat qilinadigan emas — yangi gumanoid robotning xavfsiz ekaniga qanday ishonch hosil qilish mumkinligi ochiq savol boʻlib qolmoqda.
Shu savolga javob izlayotgan yangi kompaniya — Safeworld 2026-yil 5-oktabrda maxfiylik rejimidan chiqdi. Unga Karnegi Mellon universitetida Safe AI laboratoriyasini boshqaruvchi doktor Ding Zhao asos solgan; u bu muammo ustida deyarli butun ilmiy faoliyati davomida ishlagan. Jamoada tajribali startap rahbari Kayl Vong va mashinaviy oʻrganish muhandisi Simo Rachidi ham bor.
Muammo: ehtimoliy tizim xavfini qanday baholash mumkin
Zhao TechCrunchʼga bergan izohida xavfsizlik muammosi ikki qismdan iborat ekanini aytdi: birinchisi — generativ SIʼning ehtimoliy baholashlari, yaʻni ehtimoliy tizim xavfini qanday sugʻurtalash; ikkinchisi — ishonch masalasi. Uning soʻzlariga koʻra, robotni ishga tushirish uchun ikkalasi ham zarur.
Kompaniyaning oʻz saytida keltirilishicha, eng xavfli vaziyatlarni xavfsiz sinash eng qiyin; inson xatti-harakati cheksiz chegaraviy holatlarni yuzaga keltiradi; jismoniy sinovlar esa sekin, qimmat va miqyoslash qiyin.
Platforma: raqamli odamlar bilan minglab ssenariy
Safeworldʼning ixtisosligi — robot boshqaruv tizimini realistik inson modellari bilan toʻldirilgan simulyatsiyalarda baholash. Bu Tesla yoki Wayve kabi kompaniyalar oldida turgan vazifaga oʻxshaydi: ular transport vositalarining yoʻldagi kutilmagan hodisalarga toʻgʻri javob berishini kafolatlash majburiyatini olgan. Zhaoʼning taʻkidlashicha, robotlar uchun bu qiyinroq, chunki ular tartibsiz muhitda ishlaydi va har bir obyektning xavfsizlik standartlari turlicha boʻladi.
Vong zavoddagi koʻr burchak misolini keltiradi: robot inson bilan toʻqnashmasligi uchun uning tezligi va toʻxtash masofasi qanday hisoblanishi — platforma shu kabi savollarga javob beradi. Agar inson qutilarni koʻtarib ketayotgan boʻlsa, robot uni sezadimi?
Bu savolga javob uchun Safeworld oʻsha burchakning raqamli nusxasini Genesis yoki MuJoCo kabi modelda quradi, baholanayotgan robotning simulyatsiyasini uning real dasturiy taʻminoti bilan boshqarib joylashtiradi va inson modellari robot bilan uchrashadigan minglab ssenariylarni ishga tushiradi. Zhaoʼning aytishicha, bu koʻringanidan qiyinroq, chunki odamlar oldindan aytib boʻlmaydi.
«Yiqilish va qoqilish — biz simulyatsiyada koʻp sinaydigan holatlarga yaxshi misol, — dedi Vong. — Aks holda robot uchun yiqilib koʻrishga odamni majburlashga toʻgʻri kelardi, buni esa doim qilib boʻlmaydi».
Sarmoya va ilk hamkor
Kompaniya maxfiylikdan chiqishi bilan 12 million dollardan ortiq seed sarmoya olganini eʻlon qildi. Raundga Shine Capital va a16z Speedrun yetakchilik qilgan; unda Box Group, Karnegi Mellon universiteti jamgʻarmasi, Innovation Endeavors va SV Angel ham ishtirok etgan.
A16z Speedrun hamkori Jonatan Lay TechCrunchʼga bergan izohida sanoat xavfsizlik standartini aynan hozir — robotlar loyihalanib, ishga tushirilayotgan paytda — yaratish vaqti kelganini aytdi. Uning soʻzlariga koʻra, robotlar uy xoʻjaliklariga kirib, bolalar bilan toʻqnashib, xavfsizlik hodisalarini keltirib chiqarguncha kutish juda kech boʻladi.
Safeworldʼning ilk hamkorlaridan biri — Gritt Robotics. Uning texnik direktori Vishal Dugarning aytishicha, hozirgi tizimlarning aksariyatini matematik isbot bilan xavfsizligini tasdiqlash juda qiyin — buni empirik yoʻl bilan qilish talab etiladi. Uning robotlari sanoat miqyosidagi quyosh fermalarida inson ishchilari yonida fotoelektr panellarini oʻrnatishga yordam beradi; robot qoʻli odamlarga tegmasligini kafolatlash uchun barcha mumkin boʻlgan ssenariylar hisobga olinadi. Dugarning taʻkidlashicha, odamlar turli koʻrinishda boʻladi: tiz choʻkkan, tik turgan, qoqilayotgan, oʻtirgan, yugurayotgan holatda; kiyim, boʻy-bast, tana shakli, boʻyi, teri rangi ham turlicha.
Nega mustaqil tekshiruv
Safeworld qurayotgan platforma robot ishlab chiqaruvchilarning ichki vositalariga oʻxshash boʻlsa-da, asoschilarning ishonchicha, ishlab chiqaruvchilar oʻz ishini mustaqil uchinchi tomon tasdiqlanishini xohlaydi — hech boʻlmasa, raqobatchilar oʻrtasida xavfsizlik holatlari boʻyicha axborot almashish uchun.
«Koʻpchilik ayrim chegaraviy holatlarni hal qilish qanchalik qiyinligini past baholamoqda, — dedi Zhao. — Bizni tashvishga solayotgani vakuumdagi, demodagi robot emas. Bu — keng miqyosda ishga tushirilgan, ilgari hech qachon robot boshqarmagan odamlar bilan birga ishlaydigan robot».
Kompaniya uchun hali dastlabki kunlar: jamoa mahsulot modelini — tashqi foydalanuvchilar uchun platforma yoki xizmatga asoslangan yondashuv — aniqlamoqda. Zhao kelajakka ishonch bilan qaramoqda:
«Biz bu sohada birinchi foydali kompaniya boʻlamiz. Chunki kimdir ishga tushirmoqchi boʻlsa, vaziyatni hal qilish uchun bizga toʻlashiga toʻgʻri keladi».
