Анонс: о чём объявили на PyTorch Conference 2026
20 октября 2026 года Google сделала важное объявление на PyTorch Conference 2026: нативный стек PyTorch для чипов TPU — TorchTPU — теперь доступен на GitHub как проект с открытым исходным кодом. Теперь TPU стали нативным вариантом для разработчиков PyTorch — наравне с GPU и CPU.
Суть объявления в том, что TPU больше не отдельный программный мир для PyTorch, а аппаратный вариант с нативной поддержкой внутри самого PyTorch. Разработчик продолжает работать с привычными интерфейсами PyTorch — аппаратные различия скрывает программный слой.
TorchTPU позволяет запускать ИИ-приложения на чипах Google Tensor Processing Unit. Перенос существующего PyTorch-приложения на TPU и в Google Cloud сводится к простому изменению конфигурации — переписывать код не требуется. Подробнее: Google Cloud Blog.
Практически это означает, что TPU теперь — нативный аппаратный вариант для PyTorch-проектов наряду с GPU и CPU. При выборе оборудования разработчику не нужно менять программный стек — он остаётся в самом PyTorch.
Как это работает: от eager-режима до torch.compile
TorchTPU разработан совместно с командой PyTorch в компании Meta. Главное обещание проекта простое: запускать существующие PyTorch-нагрузки на TPU практически без изменений.
Рабочий процесс состоит из двух этапов. Сначала разработчик запускает модель в eager-режиме — на этом этапе модель можно проверять и отлаживать. Когда модель готова, запускается torch.compile, и проект переводится на уровень производительности для production.
Важно, что для перехода на TPU разработчику не нужно отказываться от самого PyTorch. Стандартные API PyTorch сохраняются, поэтому команды продолжают работать с уже освоенными инструментами.
Другими словами, команды не теряют накопленные знания и кодовую базу при переходе на TPU. И проверка в eager-режиме, и переход к производительности через torch.compile — собственные механизмы PyTorch; изучать их не нужно — они уже знакомы.
Экосистема: привычные инструменты работают на TPU
С помощью TorchTPU разработчики могут обучать модели на TPU, запускать их как сервис и развёртывать. При этом работают открытые инструменты, которые они уже используют ежедневно: vLLM, SGLang, llm-d, TorchTitan, Ray, TorchRec, Hugging Face и LiteRT.
Google сотрудничала с Hugging Face — в результате популярные модели с открытыми весами на Hub нативно работают на TorchTPU. В Transformers v5 для переноса модели на TPU достаточно передать параметр device_map="tpu".
Эти интеграции показывают TorchTPU не как отдельный проект, а как широкую часть экосистемы PyTorch: на каждом этапе конвейера — от обучения до сервисного обслуживания — привычный инструмент работает на TPU.
Все три этапа охвачены: на этапе обучения модели тренируются на TPU, на сервисном этапе готовые модели запускаются, на этапе развёртывания — выводятся в продуктовую среду. На каждом этапе разработчик использует знакомый ему инструмент — учить новый не нужно.
Meta применяет в основных производственных нагрузках
Meta подтвердила, что использует TorchTPU в основных производственных задачах. Директор Meta по инженерии PyTorch Яна ван Греунен заявила:
«Мы не можем оставаться ограниченными единой аппаратной архитектурой. TorchTPU поддерживает основные нагрузки больших языковых моделей (БЯМ), рекламы и рекомендательных систем».
— Яна ван Греунен, директор Meta по инженерии PyTorch.
В объявлении особо подчёркнуто, что Meta использует TorchTPU в основных производственных задачах. Это означает, что проект не на стадии эксперимента — он проверен реальными нагрузками крупной компании.
По словам Яны ван Греунен, ограничение одной аппаратной архитектурой для компании неприемлемо. TorchTPU решает именно эту проблему: он позволяет запускать основные нагрузки — крупные языковые модели, рекламу и рекомендательные системы — на TPU.
Два фронта против доминирования Nvidia
Как пишет TechCrunch, этим объявлением Google присоединилась к Amazon. Днём ранее Amazon также выпустила свой PyTorch-вариант для чипов Trainium — TorchNeuron.
У обеих компаний одна цель: поколебать прочное положение Nvidia в ИИ-индустрии. Сегодня большинство ИИ-приложений по умолчанию пишется для запуска на GPU Nvidia, и для разработчиков графический процессор фактически стал единственным стандартом.
Google и Amazon теперь предлагают разработчикам альтернативу: PyTorch-приложение можно перенести на другие чипы небольшим изменением конфигурации, переписывать код не требуется.
Хронология тоже примечательна: объявление Amazon о TorchNeuron вышло в понедельник, объявление Google о TorchTPU — во вторник; между ними прошёл всего один день.
Оба проекта основаны на PyTorch, поэтому разработчик остаётся в знакомом фреймворке. Разница только в оборудовании: вместо GPU Nvidia можно выбрать TPU Google или чипы Trainium от Amazon.
