Что произошло
Представители Anthropic — разработчика передовых моделей искусственного интеллекта (ИИ) — представили законодателям Конгресса США собственный законопроект о регулировании безопасности ИИ. Об этом 16 октября сообщило Politico со ссылкой на три источника, знакомых с этими усилиями; Reuters независимо подтвердило информацию. Bloomberg также осветил событие, опираясь на сообщение Politico. Проект предусматривает механизмы, которые позволят правительству остановить или предотвратить опасное распространение самых мощных моделей ИИ. Пока это лишь предложение, представленное законодателям, — законопроект не обсуждался в Конгрессе и не принят. Этот шаг показывает, что компании в сфере ИИ сами напрямую участвуют в формировании федеральных правил регулирования.
Когда правительство может остановить модель
Законопроект ограничивает право вмешательства правительства очень узким кругом случаев. Остановить выпуск или использование модели можно только в двух ситуациях: когда предвидимый и неизбежный риск может нанести материальный ущерб свыше 1 миллиарда долларов либо привести к гибели или тяжёлым травмам более 50 человек. Этот порог — одна из ключевых особенностей проекта: правительство может действовать только при наличии масштабной, явно надвигающейся угрозы.
Кроме того, квалифицированный риск должен исходить только из трёх конкретных источников: создание или выпуск биологического оружия, выход модели из-под контроля её разработчика или кибератака. Если не выполнено ни одно из этих трёх условий, проект не даёт правительству полномочий останавливать модель, даже если существует риск серьёзного ущерба. Определение «предвидимого, неизбежного риска» в проекте ограничено именно этими тремя направлениями — риски иного рода, например экономические или социальные последствия, не могут служить основанием для остановки.
Как работает система независимой оценки
Проект вводит отдельную систему оценки, которая будет регулярно проверять передовые модели. Независимые оценщики регистрируются в Министерстве торговли США и периодически оценивают лабораторию и её передовые модели. То есть оценка моделей организуется не как разовая проверка, а как постоянный процесс.
Лаборатории могут платить оценщикам, но проект прямо запрещает привязывать оплату к результатам оценки. Это правило направлено на сохранение независимости оценщиков: даже если результат оценки окажется отрицательным, оценщик получит своё вознаграждение, и лаборатория не сможет «купить» его результат.
Если оценщики обнаружат в передовых моделях компании «неизбежный перечисленный риск», они обязаны в течение 72 часов после завершения оценки уведомить Министерство торговли. Это требование обязательной отчётности за 72 часа призвано обеспечить быструю реакцию государства после выявления риска — оценщик не может скрыть риск и обязан в срок проинформировать государство.
Судебный контроль и запреты
После того как Министерство торговли установит наличие риска, оно может обратиться к судье с просьбой остановить модель. Вместе с тем, согласно тексту проекта, любому другому департаменту, агентству или должностному лицу правительства США прямо запрещается останавливать разработку, распространение или внутреннее использование модели. Это ограничение направлено на предотвращение широкого вмешательства федеральной власти: ни одно агентство не может остановить модель по собственной инициативе.
Окончательное решение об остановке модели может принять только судья федерального окружного суда округа Колумбия. То есть весь процесс проходит судебный контроль — Министерство торговли подаёт запрос, а решение выносит федеральный судья. Этот механизм ставит государственное вмешательство под судебный надзор.
Комментарий Anthropic
Представитель Anthropic заявил Reuters, что проект отражает предложения, изложенные в документе компании «Advanced AI Framework», опубликованном ранее в этом году. По его словам, предложение даст правительству «возможность остановить или предотвратить опасное распространение самых мощных моделей» и обяжет разработчиков тестировать передовые модели, быть прозрачными в отношении результатов и проходить независимую оценку.
«Предложение даёт правительству возможность остановить или предотвратить опасное распространение самых мощных моделей, а от разработчиков требует тестировать передовые модели, быть прозрачными в отношении результатов и проходить независимую оценку» — представитель Anthropic, Reuters
Текущее положение
Сообщение Politico опубликовано 16 октября, а подтверждение Reuters — 17 октября. Bloomberg также осветил событие, опираясь на сообщение Politico. Проект — первый публичный шаг Anthropic по прямой передаче законодателям собственного предложения о федеральном регулировании безопасности ИИ. Реакция законодателей на предложение и дальнейшая судьба текста проекта пока неизвестны.
