2026-yil 14-oktabrda Kolorado bosh prokurori Phil Weiser boshchiligidagi 40 ga yaqin shtat bosh prokurori Character.AIʻning bankrotlik jarayoniga sudga murojaat kiritdi. Ular Character Technologies, Inc. kompaniyasining biznesi yoki aktivlari har qanday sotilganda bolalar va isteʻmolchilar uchun kuchli himoya choralari qoʻyilishini talab qilmoqda. Maʻlumotlarga koʻra, kompaniya chat-botlari orqali foydalanuvchilarning eng shaxsiy suxbatlari — ruhiy salomatlik, munosabatlar va hissiy muammolar haqidagi yozishmalar — toʻplangan.

Bu 2026-yil 13-oktabrda kompaniya bankrotlik arizasi berganidan bir kun oʻtib yuz berdi. Oʻsha kuni Disney kompaniya aktivlarini taxminan 20 mln dollarga sotib olish taklifini bildirgan edi. Bosh prokurorlar esa sotuv shartlari kelishilguncha foydalanuvchi maʻlumotlari va bolalar xavfsizligi kafolatlari hal qilinishi kerakligini aytmoqda.

Prokurorlar suddan nimalarni talab qildi

Kolorado bosh prokurorining rasmiy press-reliziga koʻra, shtatlar quyidagi himoya choralarini talab qilmoqda:

  • oʻz-oʻzini tanishtirishdan tashqari, samarali yosh tekshiruvi;
  • jinsiy, zoʻravonlik va boshqa zararli kontentdan himoya;
  • oʻz-oʻziga zarar yetkazish yoki oʻz joniga qasd signallariga toʻgʻri javob berish;
  • oʻzini litsenziyalangan mutaxassis sifatida koʻrsatayotgan chat-botlarni olib tashlash;
  • shaxsiy maʻlumotlardan foydalanish boʻyicha aniq ochiqlik va maqsadli reklamadan voz kechish imkoniyati;
  • shaxsiy suxbatlarni toʻgʻri roziliksiz SI treningida yoki boshqa tijoriy maqsadlarda ishlatishni cheklash;
  • sotuvdan oldin foydalanuvchilarga maʻlumotlarini koʻrish va oʻchirish imkonini berish.

"Bankrotlik kompaniyaning bolalar va isteʻmolchilarni himoya qilish masʻuliyatidan qochib qutulish yoʻliga aylanmasligi kerak", — dedi bosh prokuror Weiser. "Biz mamlakat boʻylab prokurorlar bilan bu tashvishlar hal etilishi va kim kompaniyaga egalik qilishidan qatʻi nazar, isteʻmolchilar himoyalanishi uchun ishlamoqdamiz."

Nyu-York bosh prokurori Letitia James ham koalitsiyada ishtirok etmoqda. Uning idorasi platformada 20 milliondan ortiq oylik foydalanuvchi, jumladan 18 yoshgacha ekanini oʻzi koʻrsatgan 2 milliondan ortiq hisob qayd etilganini maʻlum qildi.

Qaysi maʻlumotlar xavf ostida

Prokurorlarning aytishicha, Character.AI foydalanuvchilarining ulkan hajmdagi nozik maʻlumotlarini saqlaydi: bolalar va kattalarning shaxsiy chat-bot suxbatlari, ovozli qoʻngʻiroqlar, ruhiy salomatlik haqidagi ochiqlanmalar, yoshlar va qurilma identifikatorlari. Kompaniya bu maʻlumotlardan daromad olish va SI modellarini trening qilish uchun foydalangan; bankrotlik orqali maʻlumotlar yangi egaga oʻtishi mumkin.

Mustaqil testlar jiddiy holatlarni aniqlagan: 12–15 yoshli bolalar nomidan ochilgan hisoblar bilan 50 soat ichida 669 ta zararli muloqot qayd etilgan — har besh daqiqada bittadan. Sinovlarda kattalarni tasvirlovchi chat-botlar bolalar hisoblari bilan noz-karashma qilgan, ularni yechintirgan va jinsiy munosabatni simulyatsiya qilgan; baʻzilari bolalarga bu "munosabatni" ota-onasidan yashirishni aytgan. Bitta chat-bot 13 yoshli qizga antidepressantini yashirincha tashlashni maslahat bergan, boshqalari esa 15 yoshli bolaga qurolli talonchilikni taklif qilib, giyohvand modda vaʻda qilgan.

Platformada oʻzini ruhiy salomatlik mutaxassisi sifatida koʻrsatayotgan chat-botlar ham borligi aniqlangan — ulardan biri hali ham faol boʻlib, oʻzini "PhD darajali litsenziyalangan klinik psixolog" deb tanishtirgan. Terapiya chat-botlari sinovlarda psixiatrik dori-darmonlarni yomonlab, foydalanuvchilarga professional maslahatga eʻtibor bermaslikni aytgan.

2024-yildagi sud daʻvosi foni

Bir necha shtat, jumladan Kolorado, Character.AIʻni 2024-yilda boshlangan noqonuniy oʻlim (wrongful death) boʻyicha sud daʻvosidan keyin tekshira boshlagan. Daʻvoda kompaniyaning chat-botlari 14 yoshli bola bilan hissiy va jinsiy ekspluatatsiya xarakteridagi munosabatni shakllantirgani, uning oʻz joniga qasd fikrlarini kuchaytirgani va oʻz joniga qasd qilib oʻlishiga hissa qoʻshgani iddao qilingan. Shtatlarning tergovi kompaniyaning bolalarga munosabatida juda jiddiy xavflar va potensial qonunbuzarliklarni aniqlagan.

Character.AI yaqinda 18 yoshgacha deb aniqlagan foydalanuvchilar uchun baʻzi chat-bot funksiyalarini ixtiyoriy cheklagan. Biroq prokurorlar bu choralar majburiy emasligi, toʻliqsiz ekanligi va yangi xaridor tomonidan osongina chetlab oʻtilishi yoki bekor qilinishi mumkinligini taʻkidlamoqda.

Nyu-Yorkda AI hamroh (AI companion) kompaniyalariga qoʻyiladigan talablar boʻyicha yangi qonun allaqachon kuchga kirgan: kompaniyalar oʻz joniga qasd yoki oʻz-oʻziga zarar ifodalarini aniqlash va javob berish uchun oqilona choralar koʻrishi, har bir suxbat boshida va kamida har uch soatda foydalanuvchiga SI bilan gaplashayotganini eslatishi shart.

Prokurorlar bankrotlik jarayonida faol ishtirok etishni davom ettirish niyatida va taklif etilayotgan sotuv yoki bankrotlik rejasiga eʻtiroz bildirish hamda isteʻmolchilarning shaxsiy maʻlumotlarini himoya qilish boʻyicha mustaqil ombudsman tayinlashni soʻrash huquqini saqlab qolgan. Koalitsiyada Nyu-York, Kaliforniya, Arkanzas, Alyaska, Konnektikut, Delaver, Kolumbiya okrugi, Gavayi, Aydaho, Illinoys, Kanzas, Kentukki, Luiziana, Meyn, Massachusets, Michigan, Minnesota, Missisipi, Nevada, Nyu-Xempshir, Nyu-Jersi, Shimoliy Karolina, Shimoliy Dakota, Ogayo, Oklaxoma, Oregon, Pensilvaniya, Rod-Aylend, Janubiy Karolina, Janubiy Dakota, Tennessi, Yuta, Vermont, Virjiniya, Vashington, Viskonsin va Gʻarbiy Virjiniya shtatlarining bosh prokurorlari ishtirok etmoqda. Shtatlar har qanday taklif etilayotgan sotuv tartibi yoki bankrotlik rejasiga eʻtiroz bildirish huquqini saqlab qoldi — yaʻni sud kompaniya aktivlarini yangi egaga topshirishdan oldin himoya choralarini majburiy qilishi mumkin.