Cambricon aposta em portabilidade de software ao entrar no conselho do PyTorch

A entrada da Cambricon na PyTorch Foundation como membro Platinum deve ser lida principalmente como uma estratégia de software e ecossistema de longo prazo — não como o lançamento de um novo produto de silício. A ambição é fazer com que os aceleradores MLU da companhia se tornem um alvo mais natural ao longo de todo o ciclo de desenvolvimento de IA: da criação e do treinamento de modelos em PyTorch até a inferência em produção. 5

Na PyTorch Conference China, em Xangai, Cambricon e Alibaba Cloud entraram como membros Platinum, enquanto o Ant Group aderiu no nível Gold. A categoria Platinum garante à Cambricon uma cadeira no Conselho Diretor (Governing Board) da Fundação e representação no Conselho Consultivo Técnico, ou TAC (Technical Advisory Council). 156

Por que uma cadeira no conselho importa

A cadeira não garante que as propostas técnicas da Cambricon serão aprovadas. Mas dá à empresa um lugar formal nas discussões sobre missão, escopo, políticas e direcionamento técnico da Fundação.

O representante da Cambricon no Conselho Diretor é Jin Wang, diretor sênior de frameworks e infraestrutura de IA. A participação no TAC aproxima a empresa das discussões técnicas que podem influenciar a forma como backends para aceleradores são integrados e mantidos no PyTorch. 5

Isso é relevante porque a adoção de aceleradores não depende apenas das especificações do chip. Desenvolvedores precisam de suporte confiável no framework, ferramentas compatíveis, documentação útil, interfaces estáveis e caminhos viáveis para servir modelos em produção. Um fornecedor de hardware que precisa manter uma grande bifurcação própria do PyTorch enfrenta um custo recorrente de compatibilidade a cada mudança do projeto principal.

“Upstream First” tenta evitar o custo de uma pilha separada

A Cambricon chama sua abordagem de “Upstream First” — isto é, priorizar contribuições incorporadas ao projeto principal de código aberto. A empresa afirma ter contribuído em torch.compile, operadores Eager, runtime de dispositivo, computação distribuída, precisão mista automática (AMP), DataLoader e Profiler. 5

O objetivo estratégico é trabalhar por meio das abstrações gerais do PyTorch, em vez de depender apenas de uma implementação isolada e específica para o fabricante. Se essas contribuições forem aceitas e mantidas no projeto principal, podem trazer benefícios práticos:

• Menor custo de manutenção: reduz a necessidade de adaptar continuamente um backend separado a cada nova versão do PyTorch.
• Fluxos de trabalho mais consistentes: desenvolvedores podem usar APIs e ferramentas já conhecidas do PyTorch, sem precisar aprender uma pilha muito diferente.
• Maior portabilidade: código de modelos e ferramentas ao redor deles podem exigir menos alterações quando equipes avaliam plataformas de aceleradores compatíveis.
• Integrações mais duráveis: interfaces comuns do framework tendem a ser mais estáveis do que correções pontuais ligadas a uma pilha específica de dispositivos.

O trabalho da Cambricon no Torch-MLU, incluindo um caminho de integração no estilo PrivateUse1, aponta para o uso dos mecanismos já estabelecidos pelo PyTorch para ampliar o suporte a dispositivos. O resultado esperado é menos código específico de acelerador para os usuários — mas isso é um objetivo, não uma garantia. Depende da qualidade da implementação, da revisão da comunidade e da compatibilidade contínua com versões futuras do PyTorch.

A estratégia vai do desenvolvimento em PyTorch ao serviço com vLLM

O anúncio de adesão também sinaliza uma meta mais ampla: dar suporte ao caminho completo entre experimentação e inferência implantada em produção.

Mark Collier, diretor executivo da PyTorch Foundation, enquadrou o desafio como permitir que desenvolvedores construam e otimizem modelos no PyTorch e depois os disponibilizem de forma eficiente com o vLLM. 5 Para a Cambricon, essas são camadas complementares:

• Suporte ao PyTorch é central para desenvolvimento de modelos, treinamento, compilação, depuração e ferramentas do ecossistema.
• Suporte ao vLLM cobre a camada de serviço em produção, em que eficiência de inferência e acesso a modelos abertos populares são essenciais.

A Cambricon afirma que segue trabalhando com o vLLM para habilitar modelos abertos em seu hardware e planeja investir mais em infraestrutura de compilação, CI/CD e suporte independente de dispositivo para bibliotecas de domínio do PyTorch. 5 Em conjunto, essas iniciativas buscam tornar a plataforma MLU útil não só em benchmarks ou adaptações individuais de modelos, mas em um fluxo mais completo, do desenvolvedor à produção.

O que desenvolvedores e equipes de infraestrutura devem acompanhar

A evidência mais importante virá depois do anúncio. Alguns sinais concretos podem indicar se a integração está amadurecendo:

1. Contribuições incorporadas ao projeto principal: mudanças efetivamente aceitas no PyTorch valem mais do que intenções anunciadas.
2. Compatibilidade entre versões: o Torch-MLU precisa acompanhar as atualizações do PyTorch sem exigir reescritas disruptivas.
3. Cobertura de cargas de trabalho reais: o suporte deve alcançar arquiteturas comuns de modelos, padrões de treinamento distribuído, caminhos de compilação e ferramentas de depuração.
4. Qualidade da inferência em produção: a integração ao vLLM precisa oferecer suporte confiável a modelos e fluxos de implantação sustentáveis.
5. Orientação clara para integração de aceleradores: discussões no TAC e futuras práticas do PyTorch podem criar caminhos mais previsíveis para backends de hardware.

O limite importante

A categoria Platinum e a representação na governança são estrategicamente relevantes, mas não demonstram, por si só, paridade de desempenho com outros aceleradores, ampla cobertura de modelos ou aceitação automática dos desenhos de backend preferidos pela Cambricon.

Esses resultados dependerão do que de fato for incorporado ao projeto principal, de como a comunidade técnica do PyTorch e o TAC avaliarem as propostas e da capacidade da Cambricon de manter integrações robustas com PyTorch e vLLM ao longo do tempo. Por enquanto, o anúncio é mais forte como sinal de que a empresa quer disputar desenvolvedores por meio de compatibilidade com software de código aberto e participação no ecossistema — e não apenas com mais um lançamento de hardware no primeiro dia. 5