Huawei publica el código para entrenar y ajustar openPangu-2.0 en Ascend

La diferencia principal de la nueva entrega de Huawei no está en otro modelo descargable, sino en el código para entrenar y adaptar openPangu-2.0. El 28 de septiembre de 2026, la compañía publicó herramientas para preentrenamiento, ajuste fino supervisado (SFT) y aprendizaje por refuerzo (RL) posterior al entrenamiento, diseñadas para su ecosistema de cómputo Ascend. 1

Hasta ahora, las versiones Pro y Flash habían puesto a disposición sus pesos y código de inferencia: recursos para ejecutar los modelos ya entrenados. Con los nuevos proyectos, el foco se amplía a distintas etapas del trabajo que permite entrenar o ajustar modelos. 1227

Qué código se publicó

El proyecto openPangu-2.0-Training abarca el preentrenamiento y el SFT; openPangu-2.0-RL se centra en el aprendizaje por refuerzo posterior al entrenamiento. Ambos están pensados para el entorno de entrenamiento de Huawei Ascend. 1

La publicación describe el alcance general de estos proyectos, pero no detalla por sí sola todos los pasos necesarios para reproducir el entrenamiento original, ni sus requisitos completos de cómputo, datos o configuración. 1

Pro y Flash: tamaños y contexto

Las fichas de ambos modelos los describen como modelos de mezcla de expertos (MoE). En este tipo de arquitectura, los parámetros activos por token son una parte del total. Estas son las cifras informadas para cada versión: 1927

Modelo	Parámetros totales	Parámetros activos por token	Ventana de contexto	Tokens de preentrenamiento
openPangu-2.0-Pro	Aproximadamente 505.000 millones	Aproximadamente 18.000 millones	512.000 tokens	Aproximadamente 34 billones
openPangu-2.0-Flash	Aproximadamente 92.000 millones	Aproximadamente 6.000 millones	512.000 tokens	Aproximadamente 34 billones

La cifra de preentrenamiento es de unos 34 billones de tokens para cada modelo; no es un total combinado de Pro y Flash. 1927

Qué describen las fichas sobre el ajuste posterior

Las fichas de Pro y Flash señalan una etapa de SFT que busca integrar capacidades de razonamiento «lento» y «rápido». Después describen varias etapas de RL especializadas y destilación de políticas en línea (OPD). Estas son características informadas para el proceso de ajuste de los modelos; la publicación del 28 de septiembre, por separado, pone a disposición código de entrenamiento y RL. 19271

Rasgos de arquitectura informados

Las fichas técnicas describen una combinación de atención latente multi-cabeza (MLA) y capas de atención DSA/SWA, con una proporción de 1:2. La atención de ventana deslizante (SWA) trabaja con el contexto local, mientras que las capas dispersas DSA agregan información de mayor alcance. 1927

También mencionan una arquitectura mHC de cuatro flujos, un módulo de predicción de múltiples tokens (MTP) con tres cabezas y el optimizador Muon. Son características descritas en las fichas de los modelos, no novedades anunciadas como parte de la publicación de código de septiembre. 1927

Qué cambia para quienes desarrollan sobre Ascend

Con los pesos y el código de inferencia, los desarrolladores podían ejecutar los modelos Pro o Flash publicados. La nueva entrega amplía las herramientas disponibles para trabajar también con preentrenamiento, SFT y RL posterior al entrenamiento. En otras palabras, permite explorar más etapas del ciclo de vida de los modelos en hardware Ascend, aunque las fuentes no especifican todos los flujos de trabajo compatibles ni sus requisitos de hardware. 1227