Правительство США отозвало ранее адресованное британским инспекторам требование не предоставлять им новые модели ИИ до их выпуска. Об этом 11 октября сообщила газета Telegraph — в своём материале Reuters ссылается на сообщение издания. После отмены решения американские компании, такие как OpenAI и Anthropic, смогут вновь делиться новыми моделями с Британским институтом безопасности ИИ.

По оценке Reuters, этот шаг свидетельствует о смягчении позиции США в отношении международных инициатив по безопасности ИИ: американские разработчики получают более широкую свободу сотрудничества с Великобританией.

Как отменили требование

По данным Telegraph, введённое в сентябре ограничение больше не действует. Белый дом официально отменил прежнее требование не делиться новыми моделями с британским институтом — иными словами, устранено препятствие, из-за которого разработчики вынуждены были проходить американскую проверку безопасности до передачи моделей иностранным инспекторам.

Однако информация пока опирается на один источник — материал Telegraph, в котором не указаны точная дата решения и лицо, его принявшее. Трамп, представители OpenAI и Anthropic не сразу ответили на запрос Reuters о комментарии. Поэтому ожидаются дополнительные официальные данные о точной форме решения и условиях его вступления в силу.

"Spokespeople for Trump, OpenAI and Anthropic did not immediately respond to Reuters' request for comment." — Reuters

Неизвестно, на какие поколения моделей распространяется решение и будет ли оно действовать в отношении будущих моделей, — Telegraph на этих деталях не останавливалась. Также пока не объяснено, почему именно Белый дом отменил прежнее требование.

Как начиналась заморозка

Прежнее требование появилось 24 сентября. По сообщению Politico, тогда Белый дом просил OpenAI и Anthropic не предоставлять новые модели британским инспекторам до завершения американской национальной экспертизы по безопасности. Требование отражало намерение США в первую очередь пропускать самые передовые модели через собственную проверку безопасности. Как подчёркивал Politico, речь шла не о полном запрете, а о временной отсрочке предоставления моделей британским инспекторам до завершения американской экспертизы.

Это ограничение, действовавшее с 24 сентября по 11 октября, привело к приостановке сотрудничества между США и Великобританией в сфере международной безопасности ИИ. Британский институт обычно заранее тестировал новейшие модели американских компаний до их выпуска.

Чем занимается британский институт

Британский институт безопасности ИИ был создан по итогам первого в мире саммита по безопасности ИИ, прошедшего в 2023 году. Он тестирует самые передовые модели ИИ, оценивая их возможности и риск злоупотребления. Институт проводит испытания до публичного выпуска моделей — это позволяет рано оценивать как их новые возможности, так и риск злоупотребления.

Институт — важное звено международной системы безопасности ИИ: он проводит независимую экспертизу до выпуска моделей и представляет результаты оценок политикам. Прежнее требование США как раз перекрыло этот независимый путь проверки. С тех пор институт обменивается опытом тестирования с лабораториями США, Европы и Азии. По мере того как модели становятся всё мощнее, значение такого предварительного тестирования растёт: политики получают возможность узнать о рисках до массового выпуска, а не после него.

Почему важен предрелизный тест

Предрелизное тестирование — стандартная практика в системе безопасности ИИ. Институт испытывает модели до их публичного запуска, оценивая новые возможности и сценарии опасного использования. Такая независимая экспертиза отличается от собственных тестов разработчика: она даёт внешнюю точку зрения и позволяет рано выявлять уязвимости. По оценке Reuters, по мере усиления моделей политики так и не нашли окончательного решения вопроса их контроля — независимый предрелизный тест как раз укрепляет эту систему контроля.

Требование США от 24 сентября остановило именно эту практику. OpenAI и Anthropic — две ведущие лаборатории, стоящие за самыми передовыми моделями современности, — с 24 сентября по 11 октября не могли передавать новые модели британским инспекторам. Теперь это препятствие устранено, а значит, институт возвращается к своему графику тестирования.

Стоит отметить и то, что заморозка была связана с собственной национальной проверкой безопасности США: Вашингтон намерен был сначала пропустить новые модели через свою экспертизу. В материале Telegraph на этом отдельно не останавливались.

Что означает это решение

По оценке Reuters, отмена требования свидетельствует о смягчении позиции США в отношении международных инициатив по безопасности ИИ: американские разработчики смогут работать с британскими инспекторами напрямую. В то же время США усиливают внутренний контроль: вновь созданная рабочая группа Трампа по ИИ в пятницу объявила, что разработчики обязаны сообщать об инцидентах безопасности в моделях ИИ, — подробнее об этом мы писали в отдельном материале.

Пока эти данные опираются на материалы Telegraph и Reuters; поскольку текст решения не обнародован, ситуация станет яснее, когда появятся официальные документы. Материал будет обновлён по мере поступления официальных деталей. Aishunos следит за развитием событий.