Cambricon au conseil de PyTorch : un pari sur la portabilité logicielle de ses accélérateurs IA

Cambricon rejoint la PyTorch Foundation comme membre Platinum. L’enjeu principal n’est pas l’annonce d’un nouveau produit silicium : c’est une stratégie de long terme autour du logiciel et de l’écosystème. L’objectif est de faire des accélérateurs MLU de Cambricon une cible plus naturelle tout au long du cycle de développement de l’IA, de la création et de l’entraînement des modèles dans PyTorch jusqu’au déploiement de l’inférence en production. 5

Lors de PyTorch Conference China, à Shanghai, Cambricon et Alibaba Cloud ont intégré la Fondation au niveau Platinum, tandis qu’Ant Group a rejoint au niveau Gold. Le statut Platinum donne à Cambricon un siège au Governing Board — l’organe de gouvernance — ainsi qu’une représentation au Technical Advisory Council (TAC), le conseil consultatif technique. 156

Pourquoi ce siège de gouvernance compte

Un siège au conseil ne garantit pas l’adoption des propositions techniques de Cambricon. Il donne toutefois à l’entreprise une place officielle dans les discussions sur la mission, le périmètre, les politiques et l’orientation technique de la Fondation.

Cambricon y est représenté par Jin Wang, Senior Director of AI Frameworks and Infrastructure. Sa participation au TAC rapproche également l’entreprise des échanges techniques susceptibles d’influer sur la manière dont les backends d’accélérateurs sont intégrés et maintenus dans PyTorch. 5

Car l’adoption d’un accélérateur ne dépend pas uniquement des caractéristiques de la puce. Les développeurs attendent aussi une prise en charge solide du framework, des outils compatibles, une documentation exploitable, des interfaces stables et des chemins crédibles vers l’inférence en production. Un fabricant qui doit entretenir un important fork distinct de PyTorch supporte, à chaque évolution du projet amont, une charge de compatibilité récurrente.

« Upstream First » : éviter l’impasse d’une pile séparée

Cambricon présente son approche comme « Upstream First » — contribuer d’abord au projet amont. L’entreprise indique avoir participé à plusieurs domaines centraux de PyTorch : torch.compile, les opérateurs en mode Eager, le runtime de périphérique, le calcul distribué, la précision mixte automatique (AMP), DataLoader et Profiler. 5

L’idée stratégique consiste à s’appuyer sur les abstractions générales de PyTorch plutôt que sur une implémentation isolée et spécifique à un fournisseur. Si ce travail est accepté puis maintenu dans le projet amont, il pourrait apporter plusieurs bénéfices concrets :

• Moins de maintenance : moins besoin de réaligner continuellement un backend séparé sur les nouvelles versions de PyTorch.
• Des pratiques de développement plus homogènes : les équipes peuvent conserver les API et outils PyTorch qu’elles connaissent, au lieu d’apprendre une pile profondément différente.
• Une meilleure portabilité : le code des modèles et les outils qui les entourent peuvent nécessiter moins de modifications lorsqu’une équipe évalue plusieurs plateformes d’accélération prises en charge.
• Des intégrations plus pérennes : les interfaces communes du framework peuvent être plus stables que des correctifs ponctuels dépendant d’une pile matérielle donnée.

Le travail de Cambricon autour de Torch-MLU, notamment une voie d’intégration de type PrivateUse1, s’inscrit dans les mécanismes établis par PyTorch pour prendre en charge de nouveaux périphériques. Le résultat recherché est clair : réduire la quantité de code spécifique à l’accélérateur pour les utilisateurs. Ce n’est toutefois pas acquis ; cela dépendra de la qualité de l’implémentation, de l’examen par la communauté amont et du maintien de la compatibilité avec les futures versions de PyTorch.

De PyTorch à vLLM : couvrir le trajet jusqu’à la production

L’annonce d’adhésion traduit aussi une ambition plus large : prendre en charge le parcours complet, de l’expérimentation au service d’inférence déployé.

Mark Collier, directeur exécutif de la PyTorch Foundation, a présenté l’enjeu comme la capacité de permettre aux développeurs de créer et d’optimiser des modèles dans PyTorch, puis de les servir efficacement avec vLLM. 5 Pour Cambricon, ces deux couches sont complémentaires :

• Le support de PyTorch est déterminant pour le développement des modèles, l’entraînement, la compilation, le débogage et les outils de l’écosystème.
• Le support de vLLM concerne la couche de production, où comptent l’efficacité de l’inférence et l’accès aux modèles ouverts les plus utilisés.

Cambricon affirme poursuivre sa collaboration avec vLLM afin d’exécuter des modèles ouverts sur son matériel. L’entreprise prévoit aussi d’investir davantage dans l’infrastructure de compilation, les pratiques CI/CD et un support indépendant du périphérique pour les bibliothèques métier de PyTorch. 5 L’ensemble vise à rendre la plateforme MLU utile non seulement pour des démonstrations ou le portage isolé d’un modèle, mais pour une chaîne de travail plus complète allant du développeur à la production.

Ce qu’il faudra surveiller

Les preuves les plus importantes viendront après l’annonce. Les équipes de développement et d’infrastructure pourront notamment suivre :

1. Les contributions effectivement fusionnées en amont : des changements acceptés dans PyTorch pèseront davantage que des intentions annoncées.
2. La compatibilité d’une version à l’autre : Torch-MLU devra suivre les évolutions de PyTorch sans imposer de réécritures lourdes.
3. La couverture des charges de travail réelles : architectures de modèles courantes, entraînement distribué, chemins de compilation et outils de débogage.
4. La qualité de l’inférence en production : l’intégration vLLM devra offrir une prise en charge fiable des modèles et des déploiements maintenables.
5. Des règles d’intégration plus claires pour les accélérateurs : les travaux du TAC et les futures pratiques de PyTorch pourraient rendre les parcours de développement des backends matériels plus prévisibles.

Une avancée stratégique, mais pas une preuve de parité

L’adhésion Platinum de Cambricon et sa représentation dans les instances de gouvernance sont stratégiquement importantes. Elles ne démontrent cependant ni une parité de performances avec les autres accélérateurs, ni une vaste couverture de modèles, ni l’acceptation automatique des choix de backend privilégiés par l’entreprise.

Ces résultats dépendront des contributions réellement intégrées en amont, de l’évaluation des approches proposées par la communauté technique de PyTorch et le TAC, ainsi que de la capacité de Cambricon à entretenir durablement des intégrations robustes avec PyTorch et vLLM. À ce stade, l’annonce signale surtout que Cambricon entend séduire les développeurs par la compatibilité avec les logiciels open source et par sa participation à l’écosystème, plutôt que par le lancement immédiat d’un nouveau matériel. 5