Китайская лаборатория DeepSeek 20 октября 2026 года опубликовала в открытом доступе на GitHub свой производственный фреймворк инференса DeepInfer. Выпущенная под лицензией Apache 2.0 система — это высокопроизводительный фреймворк, на котором работают крупномасштабные производственные сервисы компании, а начальный релиз охватывает офлайн-инференс модели DeepSeek-V4.1-Flash. Как сообщает Bloomberg 21 октября, этот релиз раскрывает, как DeepSeek сдерживает затраты на инференс искусственного интеллекта (ИИ), и даёт облачным и хостинговым компаниям, запускающим модели DeepSeek, способ сократить собственные расходы.
Что делает DeepInfer
DeepInfer — высокопроизводительный движок инференса, предназначенный для запуска больших языковых моделей в производственной среде. DeepSeek называет его основой своих крупномасштабных производственных сервисов, а цель открытия стека — помочь сообществу снизить затраты на вычисления, сократить потребление энергии и сделать ИИ более доступным. Компания объявила о релизе 20 октября в социальной сети X:
«Мы делимся нашим производственным стеком, чтобы помочь сообществу снизить затраты на вычисления, сократить потребление энергии и сделать ИИ более доступным». — DeepSeek, X (20 октября 2026 года)
Открытый релиз означает, что теперь любой облачный провайдер или хостинговая компания может использовать на своей инфраструктуре оптимизированный слой инференса, который DeepSeek применяет в собственных сервисах. Как пишет Bloomberg, именно это делает релиз важным для рынка: технический механизм, стоящий за низкой ценовой политикой компании, теперь открыт для всех.
Технический состав: ядра, MoE и спекулятивное декодирование
Начальный релиз сосредоточен на офлайн-инференсе модели DeepSeek-V4.1-Flash и включает несколько слоёв оптимизации. Во-первых, оптимизированные ядра — вычислительные операции модели ускорены на аппаратном уровне. Во-вторых, поддерживаются attention-параллелизм и экспертный параллелизм: для архитектуры mixture-of-experts (MoE) реализованы механизмы EP (expert parallelism) и EPLB (балансировка нагрузки экспертов).
В-третьих, имеется система спекулятивного декодирования DSpark — этот метод ускоряет генерацию ответов модели без потери качества. В-четвёртых, поддерживаются структурированные выводы (structured outputs): возможность получать ответы модели в заранее заданном формате (например, по схеме JSON) важна для производственных интеграций. Официальный репозиторий проекта на GitHub собрал более 16 тысяч звёзд — сильный ранний показатель интереса к открытой инфраструктуре ИИ.
Поддержка чипов NVIDIA и Huawei
DeepInfer поддерживает две аппаратные платформы: графические процессоры NVIDIA архитектуры SM100 и нейронные процессоры (NPU) Huawei Ascend 950. Этот момент заслуживает особого внимания, поскольку для Huawei это первая официальная поддержка производственного уровня со стороны ведущей лаборатории ИИ.
На практике это означает, что DeepInfer можно запускать не только в экосистеме NVIDIA, но и на чипах Huawei. В то время как на китайском внутреннем рынке на фоне экспортных ограничений США растёт опора на отечественные чипы, поддержка DeepSeek Ascend 950 на правах первоклассного гражданина расценивается как важный шаг на пути к технологической независимости.
Почему это важно: затраты и открытая экосистема
Рыночная стратегия DeepSeek изначально строилась на низких ценах: компания предлагает API и лицензии на модели значительно дешевле конкурентов, резко снижая себестоимость сервисов ИИ. Открытый выпуск DeepInfer показывает техническую основу этой доступности — как подчёркивает Bloomberg, релиз раскрывает, как компания контролирует свои затраты на инференс.
Открытый фреймворк влияет в двух направлениях. С одной стороны, облачные и хостинговые компании, предлагающие модели DeepSeek своим клиентам, теперь могут использовать те же оптимизации для сокращения операционных расходов. С другой стороны, открытый высокопроизводительный движок инференса повышает вычислительную эффективность всей экосистемы ИИ — это актуальный вопрос для отрасли, где потребление энергии и затраты на инфраструктуру продолжают расти.
Напомним, сама модель DeepSeek-V4.1-Flash была обновлена 17 октября, о чём мы сообщали ранее. Выход DeepInfer показывает, что компания передаёт открытой экосистеме свой инфраструктурный слой наряду с релизами моделей.
Выбор лицензии Apache 2.0 — тоже важная деталь: эта лицензия разрешает коммерческое использование, поэтому облачные и хостинговые компании могут без помех интегрировать DeepInfer в свои продукты. Три цели из анонса DeepSeek в X — снижение затрат на вычисления, сокращение потребления энергии и удешевление искусственного интеллекта — теперь достигаются через инструмент, принадлежащий не только самой компании, но и всему сообществу. Этот интерес подтверждает, что спрос на открытую инфраструктуру ИИ продолжает расти.
