В марте 2023 года инженеры Samsung вставили конфиденциальный исходный код полупроводников в ChatGPT, чтобы быстрее исправлять ошибки. Это повторилось трижды за 20 дней. Компания полностью запретила генеративный ИИ. Samsung никто не «взламывал» — сотрудники сами передали данные.
Этот инцидент — не отдельный случай, а символ самой распространённой проблемы безопасности, с которой сталкиваются сегодняшние предприятия: добросовестные сотрудники, желающие быть продуктивными, каждый день вставляют конфиденциальные данные в ИИ-инструменты. А традиционные системы защиты этого не видят.
Масштаб проблемы: цифры
По данным отчёта LayerX Security Enterprise AI and SaaS Data Security Report 2025, 50% сотрудников признались, что вставляли конфиденциальные деловые данные в инструменты генеративного ИИ. Ещё 18% делились особо конфиденциальными данными — включая проприетарные данные разработок. 77% онлайн-обращений к LLM приходится на ChatGPT. Около 18% сотрудников регулярно вставляют данные в GenAI-инструменты, и более чем в половине этих инцидентов фигурирует корпоративная информация.
Cyberhaven, отследив 1,6 млн сотрудников, выявила ещё более тревожную динамику: доля конфиденциальных данных среди данных, поступающих в ИИ-инструменты, за два года выросла втрое — с 10,7% до 34,8%. Самое главное, 82% этих «вставок» совершаются через личные аккаунты, которые компания не видит. 68% сотрудников признались, что вставляют данные компании в ИИ-инструменты, не проверяя, чем делятся.
Вопрос цены тоже ясен: по данным отчёта IBM Cost of a Data Breach Report 2025, средняя стоимость одной утечки данных составляет $4,88 млн. А утечка через ИИ создаёт дополнительный риск — данные хранятся на сервере третьей стороны, могут использоваться в обучении, и вернуть их невозможно.
Данные уходят тремя задокументированными путями
Анализ показывает, что деловые данные уходят через ИИ тремя задокументированными путями — и в компании из десяти человек, и в компании из десяти тысяч.
Первый путь: сотрудники сами передают. Случай Samsung самый известный, но не единственный. В июле–августе 2025 года выяснилось, что исполняющий обязанности директора Агентства кибербезопасности США (CISA) загрузил как минимум четыре секретных правительственных документа в публичную версию ChatGPT — включая контрактные материалы, предназначенные для официального использования. Ещё один реальный случай: руководитель одной компании вставил в чат полный стратегический документ компании, чтобы подготовить слайды. Мотивация всегда одна — быстрее закончить работу.
Второй путь: платформа сама «протекает». В феврале 2025 года хакер заявил о взломе платформы OmniGPT (агрегатора, подключающегося к ChatGPT, Claude и Gemini) и опубликовал сообщения чатов 34 млн пользователей. Среди образцов были офисные проекты, анализы рынка и документы с логинами и паролями. В июле–августе 2025 года исследователи обнаружили в поиске Google около 4 500 проиндексированных общих чатов ChatGPT — всего было соскрейплено около 100 тыс. чатов, среди которых имена, резюме и персональные данные. OpenAI в августе 2025 года отключила функцию «находимого общего доступа», но однажды проиндексированные данные полностью не исчезают.
Третий путь: подключённые инструменты становятся дверью. В июне 2025 года хакеры вошли на платформу конкурентной ИИ-разведки Klue, используя учётные данные, созданные в 2022 году и никогда не удалённые, а затем вытянули контакты, цены и записи о сделках из систем Salesforce подключённых компаний. Злоумышленники заявили о 195 жертвах, среди подтверждённых — LastPass, HackerOne и Huntress, то есть сами компании по безопасности были взломаны через доверенный им ИИ-инструмент.
Генеральный директор LayerX Security Ор Эшед описал этот риск так:
«Утечка корпоративных данных через ИИ-инструменты может вызвать геополитические проблемы, опасения в области регулирования и комплаенса, а также привести к ненадлежащему использованию в обучении корпоративных данных, раскрытых через личные ИИ-инструменты».
Почему «запрет» не работает
Некоторые организации выбрали самый лёгкий путь: полностью запретили ИИ-инструменты. Samsung, Apple и JPMorgan в разное время ограничивали использование ChatGPT. Но практика показывает: когда вводится запрет, люди не отказываются от ИИ — они переходят на личные устройства. В результате компания полностью теряет видимость, а риск вместо снижения растёт.
В эту эпоху побеждают не те, кто борется с внедрением ИИ, а те, кто умно им управляет. Цель — не замедлить сотрудников, а безопасно их ускорить.
Практическое руководство: семь шагов
1. Составьте список разрешённых инструментов. Одобряйте не любой ИИ-инструмент, а версии с подписанным корпоративным соглашением, гарантирующим, что данные не будут использоваться в обучении. «Allowlist» эффективнее чёрного списка, потому что новые инструменты появляются каждую неделю.
2. Требуйте корпоративный режим и условия «нулевого хранения». Крупные ИИ-провайдеры предлагают корпоративным клиентам режимы, в которых запросы не сохраняются и не используются в обучении. Закрепите это в договоре как письменную гарантию — устного обещания недостаточно.
3. Классифицируйте данные. Введите простую трёхцветную систему: «красный» — никогда не вводится (персональные данные, финансовые отчёты, исходный код, договоры); «жёлтый» — вводится только после обезличивания; «зелёный» — можно использовать свободно (открытые маркетинговые тексты и т.п.). Каждый сотрудник должен знать, какая категория применима к его работе.
4. Сделайте обезличивание привычкой. Перед обращением к ИИ маскируйте или обобщайте имена, номера счетов, адреса и другие идентификаторы. Для многих задач достаточно «клиента А» и «компании Б» — модели не нужны настоящие имена.
5. Установите контроль на уровне запросов. Традиционные DLP-системы (предотвращение потери данных) отслеживают электронную почту и передачу файлов, но не видят, что печатается в окне чата в браузере. Современные решения работают именно на уровне промпта: при обнаружении конфиденциальных данных они предупреждают или блокируют.
6. Обучайте сотрудников на реальных примерах. Сухой документ политики не работает — покажите кейс Samsung, инцидент CISA. Люди думают «это меня не касается»; реальные примеры разрушают это убеждение. Обучение должно быть не для наказания, а для навыка безопасной работы. Самый эффективный формат — короткие интерактивные тренинги: сотруднику даётся реальный рабочий сценарий, и он сам определяет, какие данные можно вводить. Такие занятия должны быть не разовыми, а повторяться каждый квартал, потому что ИИ-инструменты и их риски быстро меняются.
7. Проверяйте договоры с поставщиками. С каждым поставщиком ИИ должно быть соглашение об обработке данных (DPA): где хранятся данные, кто может к ним получить доступ, используются ли они в обучении, удаляются ли данные по окончании договора. Особенно осторожны будьте со сторонними агрегаторами (вроде OmniGPT) — это дополнительное слабое звено.
