Место Cambricon в совете PyTorch: ставка на совместимость ПО, а не на новый чип

Cambricon вошла в PyTorch Foundation на платиновом уровне — и это следует трактовать прежде всего как долгосрочную ставку на программную совместимость и экосистему, а не как презентацию нового ИИ-ускорителя. Задача компании — сделать свои ускорители MLU более естественной целевой платформой на всей цепочке разработки: от создания и обучения модели в PyTorch до её развёртывания для инференса. 5

На конференции PyTorch Conference China в Шанхае платиновыми членами стали Cambricon и Alibaba Cloud, а Ant Group присоединилась на золотом уровне. Платиновый статус даёт Cambricon место в Governing Board — руководящем совете фонда — и представительство в Technical Advisory Council (TAC), техническом консультативном совете. 156

Что даёт место в совете

Само по себе место в совете не означает, что технические предложения Cambricon будут автоматически приняты. Но оно даёт компании формальное участие в обсуждениях миссии, сферы работы, политики и технологического курса PyTorch Foundation.

Cambricon в Governing Board представляет Джинь Ван, старший директор по ИИ-фреймворкам и инфраструктуре. Участие в TAC, в свою очередь, приближает компанию к техническим дискуссиям, от которых зависит интеграция и сопровождение бэкендов для различных ускорителей в PyTorch. 5

Для внедрения ускорителя важны не только характеристики кремния. Разработчикам также нужны надёжная поддержка фреймворка, совместимые инструменты, понятная документация, стабильные интерфейсы и удобный путь к промышленному развёртыванию. Если производителю приходится поддерживать крупный отдельный форк PyTorch, то с каждым обновлением основной ветки проекта возникает новая нагрузка по обеспечению совместимости.

«Upstream First»: попытка уйти от отдельного программного стека

Cambricon называет свой подход Upstream First — «сначала в основную ветку». Компания сообщает о вкладе в ключевые области PyTorch: torch.compile, Eager-операторы, среду выполнения устройств, распределённые вычисления, автоматическую смешанную точность (AMP), DataLoader и Profiler. 5

Стратегический смысл в том, чтобы развивать поддержку через общие абстракции PyTorch, а не опираться только на изолированную реализацию, специфичную для одного поставщика. Если такой код принимается и поддерживается в upstream-проекте, это потенциально даёт несколько преимуществ:

• Меньше затрат на сопровождение. Не нужно постоянно переносить отдельный бэкенд на новые версии PyTorch.
• Более привычный рабочий процесс. Разработчики могут пользоваться знакомыми API и инструментами PyTorch, а не осваивать радикально иной стек.
• Лучшая переносимость. При проверке поддерживаемых аппаратных платформ модели и обвязка вокруг них могут требовать меньше изменений.
• Более долговечные интеграции. Общие интерфейсы фреймворка обычно устойчивее разовых патчей, привязанных к конкретному устройству.

Работа Cambricon над Torch-MLU, включая путь интеграции в стиле PrivateUse1, указывает на использование предусмотренных в PyTorch механизмов подключения новых устройств. Цель — сократить для пользователя объём кода, зависящего от конкретного ускорителя. Однако это именно цель, а не гарантия: результат зависит от качества реализации, ревью со стороны сообщества и сохранения совместимости с будущими версиями PyTorch.

От эксперимента в PyTorch до инференса через vLLM

Анонс затрагивает и более широкую задачу: поддержку полного пути от эксперимента с моделью до её работы в продакшене.

Исполнительный директор PyTorch Foundation Марк Коллиер сформулировал её как возможность разрабатывать и оптимизировать модели в PyTorch, а затем эффективно обслуживать их с помощью vLLM. 5 Для Cambricon это два взаимодополняющих уровня:

• Поддержка PyTorch критична для разработки, обучения, компиляции, отладки и использования экосистемных инструментов.
• Поддержка vLLM относится к промышленному инференсу, где важны эффективная обработка запросов и доступность популярных открытых моделей.

Cambricon заявляет, что продолжает работу с vLLM для запуска открытых моделей на своём оборудовании и планирует дополнительно инвестировать в инфраструктуру компиляции, CI/CD и независимую от устройства поддержку профильных библиотек PyTorch. 5 В совокупности это должно сделать MLU-платформу пригодной не только для бенчмарков или отдельных портированных моделей, но и для более полного цикла «разработчик — продакшен».

На что смотреть пользователям дальше

Главные подтверждения зрелости интеграции появятся уже после объявления о членстве. Разработчикам и инфраструктурным командам стоит следить за несколькими практическими сигналами:

1. Принятые изменения в upstream. Смерженные в PyTorch доработки важнее заявлений о намерениях.
2. Совместимость от релиза к релизу. Torch-MLU должен успевать за обновлениями PyTorch без вынужденных масштабных переделок.
3. Охват реальных задач. Поддержка должна распространяться на популярные архитектуры моделей, распределённое обучение, пути компиляции и средства отладки.
4. Качество промышленного инференса. Интеграции с vLLM нужны надёжная поддержка моделей и обслуживаемые сценарии развёртывания.
5. Понятные правила интеграции ускорителей. Обсуждения в TAC и будущие практики PyTorch могут сделать путь для аппаратных бэкендов более предсказуемым.

Важная оговорка

Платиновое членство Cambricon и представительство в органах управления PyTorch Foundation имеют стратегическое значение, но не доказывают паритет производительности с другими ускорителями, широкое покрытие моделей или автоматическое принятие предпочтительной для Cambricon архитектуры бэкенда.

Всё это будет зависеть от того, какие изменения действительно попадут в основную ветку PyTorch, как техническое сообщество и TAC оценят предлагаемые решения и сможет ли Cambricon стабильно поддерживать интеграции PyTorch и vLLM. Пока новость наиболее убедительно говорит о другом: компания конкурирует за разработчиков через совместимость с открытым ПО и участие в экосистеме, а не только через очередной аппаратный запуск. 5