Cambricon busca que sus aceleradores MLU encajen de forma nativa en PyTorch

La incorporación de Cambricon a la Fundación PyTorch como miembro Platinum debe leerse, sobre todo, como una estrategia de software y ecosistema a largo plazo. No es, por sí sola, la presentación de un nuevo producto de silicio. El objetivo es que los aceleradores MLU de Cambricon se conviertan en un destino más natural a lo largo de todo el ciclo de desarrollo de IA: desde la creación y el entrenamiento de modelos en PyTorch hasta su servicio de inferencia en producción. 5

Durante PyTorch Conference China, celebrada en Shanghái, Cambricon y Alibaba Cloud se sumaron como miembros Platinum, mientras que Ant Group lo hizo en el nivel Gold. La categoría Platinum concede a Cambricon un asiento en el Consejo de Gobierno de la Fundación y representación en su Consejo Asesor Técnico (TAC, por sus siglas en inglés). 156

Por qué importa un asiento en la gobernanza

Un asiento en el Consejo de Gobierno no garantiza que las propuestas técnicas de Cambricon vayan a adoptarse. Pero sí le otorga un lugar formal en las conversaciones sobre la misión, el alcance, las políticas y la dirección técnica de la Fundación.

El representante de Cambricon en el Consejo de Gobierno es Jin Wang, director sénior de marcos de IA e infraestructura. Su participación en el TAC la acerca, además, a los debates técnicos que pueden influir en la integración y el mantenimiento de backends para aceleradores en PyTorch. 5

Esto es relevante porque la adopción de un acelerador depende de mucho más que las especificaciones del chip. Los desarrolladores necesitan soporte fiable para el framework, herramientas compatibles, documentación útil, interfaces estables y vías funcionales para llevar modelos a producción. Un proveedor de hardware que tenga que mantener una gran bifurcación independiente de PyTorch carga con un coste recurrente de compatibilidad cada vez que evoluciona el proyecto principal.

«Upstream First»: evitar el problema de una pila separada

Cambricon define su enfoque como «Upstream First», es decir, priorizar contribuciones al proyecto principal de código abierto. La empresa afirma haber contribuido en torch.compile, operadores Eager, runtime de dispositivo, computación distribuida, precisión mixta automática (AMP), DataLoader y Profiler. 5

La intención estratégica es aportar mejoras mediante las abstracciones generales de PyTorch, en vez de depender exclusivamente de una implementación aislada y específica del proveedor. Si ese trabajo se acepta y mantiene en el proyecto principal, podría generar varias ventajas prácticas:

• Menor carga de mantenimiento: habría menos necesidad de reajustar continuamente un backend separado para cada nueva versión de PyTorch.
• Flujos de trabajo más coherentes: los desarrolladores podrían usar API y herramientas conocidas de PyTorch, sin aprender una pila sustancialmente distinta.
• Mayor portabilidad: el código de los modelos y las herramientas que lo rodean podrían requerir menos cambios al evaluar plataformas de aceleración compatibles.
• Integraciones más duraderas: las interfaces comunes del framework pueden ser más estables que parches puntuales ligados a una pila de dispositivos concreta.

El trabajo Torch-MLU de Cambricon, incluida una vía de integración de estilo PrivateUse1, apunta a utilizar los mecanismos ya establecidos por PyTorch para ampliar el soporte a otros dispositivos. El resultado esperado es que los usuarios tengan que escribir menos código específico para cada acelerador. Sin embargo, se trata de un objetivo, no de una garantía: dependerá de la calidad de la implementación, de la revisión de la comunidad y de que el soporte siga siendo compatible con futuras versiones de PyTorch.

De desarrollar con PyTorch a servir modelos con vLLM

El anuncio de la membresía también revela un propósito más amplio: cubrir el recorrido completo desde la experimentación hasta la inferencia desplegada.

Mark Collier, director ejecutivo de la Fundación PyTorch, planteó el reto como la necesidad de permitir a los desarrolladores crear y optimizar modelos en PyTorch y, después, servirlos eficientemente con vLLM. 5 Para Cambricon, son capas complementarias:

• El soporte de PyTorch es esencial para desarrollar, entrenar, compilar y depurar modelos, así como para acceder a herramientas del ecosistema.
• El soporte de vLLM se dirige a la capa de servicio en producción, donde importan la eficiencia de la inferencia y el acceso a modelos abiertos populares.

Cambricon afirma que continúa trabajando con vLLM para habilitar modelos abiertos en su hardware y que planea invertir más en infraestructura de compilación, CI/CD —integración y entrega continuas— y soporte independiente del dispositivo para bibliotecas de dominio de PyTorch. 5 En conjunto, estas iniciativas buscan que la plataforma MLU sea útil no solo para pruebas de rendimiento o adaptaciones aisladas de modelos, sino para un flujo más completo que vaya del desarrollo a la producción.

Qué deberían vigilar desarrolladores y equipos de infraestructura

Las señales más importantes llegarán después del anuncio. Para valorar si la integración madura, conviene observar indicadores concretos:

1. Contribuciones aceptadas en el proyecto principal: los cambios incorporados a PyTorch pesan más que las intenciones anunciadas.
2. Compatibilidad entre versiones: el soporte Torch-MLU debe avanzar al ritmo de las actualizaciones de PyTorch sin exigir reescrituras disruptivas.
3. Cobertura de cargas de trabajo reales: el soporte debería extenderse a arquitecturas comunes, entrenamiento distribuido, rutas de compilación y herramientas de depuración.
4. Calidad de la inferencia en producción: la integración con vLLM necesita soporte fiable de modelos y flujos de despliegue mantenibles.
5. Guías claras para integrar aceleradores: los debates del TAC y las futuras prácticas de PyTorch podrían ofrecer vías más previsibles para los backends de hardware.

La limitación clave

La membresía Platinum de Cambricon y su representación en la gobernanza son relevantes desde el punto de vista estratégico, pero no prueban paridad de rendimiento frente a otros aceleradores, cobertura amplia de modelos ni la aceptación automática de los diseños de backend preferidos por la compañía.

Todo ello dependerá de qué cambios se integren realmente en el proyecto principal, de cómo la comunidad técnica de PyTorch y el TAC evalúen los enfoques propuestos y de si Cambricon puede sostener integraciones sólidas con PyTorch y vLLM con el paso del tiempo. Por ahora, el anuncio es ante todo una señal de que Cambricon busca competir por los desarrolladores mediante la compatibilidad con software de código abierto y la participación en el ecosistema, no simplemente con otro lanzamiento de hardware el primer día. 5