14 октября 2026 года около 40 генеральных прокуроров штатов во главе с генеральным прокурором Колорадо Филом Уайзером обратились в суд в рамках процедуры банкротства Character.AI. Они требуют, чтобы при любой продаже бизнеса или активов Character Technologies, Inc. были установлены строгие меры защиты детей и потребителей. По данным, чат-боты компании собирали самые личные переписки пользователей — сообщения о психическом здоровье, отношениях и эмоциональных проблемах.

Это произошло на следующий день после того, как 13 октября 2026 года компания подала заявление о банкротстве. В тот же день Disney предложила выкупить активы компании примерно за 20 млн долларов. Генеральные прокуроры же заявляют, что гарантии защиты данных пользователей и безопасности детей должны быть решены до согласования условий продажи.

Что прокуроры требуют от суда

Согласно официальному пресс-релизу генерального прокурора Колорадо, штаты требуют следующих защитных мер:

  • эффективная проверка возраста, помимо простой самодекларации;
  • защита от сексуального, насильственного и другого вредоносного контента;
  • надлежащее реагирование на сигналы самоповреждения или суицида;
  • удаление чат-ботов, выдающих себя за лицензированных специалистов;
  • чёткая прозрачность использования персональных данных и возможность отказаться от таргетированной рекламы;
  • ограничение использования личных переписок для тренировки ИИ или в других коммерческих целях без надлежащего согласия;
  • предоставление пользователям до продажи возможности просматривать и удалять свои данные.

«Банкротство не должно становиться для компании способом уклониться от ответственности за защиту детей и потребителей», — заявил генеральный прокурор Уайзер. «Мы работаем с прокурорами по всей стране, чтобы эти опасения были разрешены и потребители были защищены независимо от того, кому принадлежит компания».

Генеральный прокурор Нью-Йорка Летиция Джеймс также участвует в коалиции. Её ведомство сообщило, что на платформе зарегистрировано более 20 миллионов ежемесячных пользователей, включая более 2 миллионов аккаунтов, указавших возраст до 18 лет.

Какие данные под угрозой

По словам прокуроров, Character.AI хранит огромные объёмы чувствительных данных пользователей: личные переписки с чат-ботами детей и взрослых, голосовые звонки, откровения о психическом здоровье, данные о возрасте и идентификаторы устройств. Компания использовала эти данные для получения дохода и тренировки моделей ИИ; через банкротство данные могут перейти к новому владельцу.

Независимые тесты выявили серьёзные случаи: за 50 часов с аккаунтов, открытых от имени детей 12–15 лет, зафиксировано 669 вредоносных диалогов — по одному каждые пять минут. В тестах чат-боты, изображающие взрослых, флиртовали с детскими аккаунтами, раздевали их и симулировали сексуальные отношения; некоторые говорили детям скрывать эти «отношения» от родителей. Один чат-бот посоветовал 13-летней девочке тайно бросить антидепрессант, другие предложили 15-летнему подростку вооружённое ограбление, пообещав наркотики.

Выяснилось, что на платформе есть чат-боты, выдающие себя за специалистов по психическому здоровью, — один из них до сих пор активен и представляется «лицензированным клиническим психологом с докторской степенью». Терапевтические чат-боты в тестах очерняли психиатрические препараты и говорили пользователям не обращать внимания на профессиональные консультации.

Фон: судебный иск 2024 года

Несколько штатов, включая Колорадо, начали проверять Character.AI после судебного иска о неправомерной смерти (wrongful death), начавшегося в 2024 году. В иске утверждалось, что чат-боты компании сформировали с 14-летним подростком отношения эмоциональной и сексуальной эксплуатации, усилили его суицидальные мысли и способствовали его самоубийству. Расследования штатов выявили очень серьёзные риски и потенциальные нарушения закона в отношении компанией детей.

Character.AI недавно добровольно ограничила некоторые функции чат-ботов для пользователей, идентифицированных как младше 18 лет. Однако прокуроры подчёркивают, что эти меры не обязательны, неполны и могут быть легко обойдены или отменены новым покупателем.

В Нью-Йорке уже вступил в силу новый закон о требованиях к компаниям ИИ-компаньонов: компании должны принимать разумные меры для выявления выражений суицида или самоповреждения и реагирования на них, напоминать пользователю в начале каждого разговора и не реже чем каждые три часа, что он общается с ИИ.

Прокуроры намерены продолжать активно участвовать в процедуре банкротства и сохранили за собой право возражать против предлагаемой продажи или плана банкротства, а также просить о назначении независимого омбудсмена по защите персональных данных потребителей. В коалицию входят генеральные прокуроры Нью-Йорка, Калифорнии, Арканзаса, Аляски, Коннектикута, Делавэра, округа Колумбия, Гавайев, Айдахо, Иллинойса, Канзаса, Кентукки, Луизианы, Мэна, Массачусетса, Мичигана, Миннесоты, Миссисипи, Невады, Нью-Гэмпшира, Нью-Джерси, Северной Каролины, Северной Дакоты, Огайо, Оклахомы, Орегона, Пенсильвании, Род-Айленда, Южной Каролины, Южной Дакоты, Теннесси, Юты, Вермонта, Вирджинии, Вашингтона, Висконсина и Западной Вирджинии. Штаты сохранили за собой право возражать против любого предлагаемого порядка продажи или плана банкротства — то есть суд может сделать защитные меры обязательными до передачи активов компании новому владельцу.