Huawei abre código de treinamento do openPangu-2.0 para o Ascend

A Huawei anunciou em 28 de setembro de 2026 a liberação de código do openPangu-2.0 para pré-treinamento, ajuste fino supervisionado (SFT) e aprendizado por reforço (RL) no pós-treinamento. A mudança amplia o que está disponível para desenvolvedores: antes, os lançamentos das versões Pro e Flash ofereciam pesos dos modelos e recursos de inferência; agora, também há projetos voltados a etapas de treinamento e adaptação. 1227

O que foi liberado

O projeto openPangu-2.0-Training contempla pré-treinamento e SFT. Já o openPangu-2.0-RL é voltado ao aprendizado por reforço no pós-treinamento. Os dois foram desenvolvidos para o ecossistema de treinamento da Huawei baseado em Ascend. 1

Em outras palavras, não se trata apenas de disponibilizar mais um modelo pronto para uso: o lançamento acrescenta código para trabalhar em fases que ajudam a treinar e adaptar modelos. Ainda assim, o anúncio descreve o foco geral dos projetos, mas não detalha, por si só, todo o poder computacional, os dados ou as configurações necessários para reproduzir os treinamentos originais. 1

Pro e Flash em números

Os cartões publicados descrevem as duas versões como modelos de mistura de especialistas (MoE). Os números informados são: 1927

Modelo	Parâmetros totais	Parâmetros ativos por token	Janela de contexto	Tokens de pré-treinamento informados
openPangu-2.0-Pro	Cerca de 505 bilhões	Cerca de 18 bilhões	512 mil tokens	Cerca de 34 trilhões
openPangu-2.0-Flash	Cerca de 92 bilhões	Cerca de 6 bilhões	512 mil tokens	Cerca de 34 trilhões

Os cerca de 34 trilhões de tokens são informados para cada modelo, não como um total combinado das duas versões. 1927

Métodos de pós-treinamento descritos nos cartões

Os cartões do Pro e do Flash descrevem uma etapa unificada de SFT, planejada para combinar capacidades de raciocínio “lento” e “rápido”. Depois, entram múltiplas etapas de RL especializadas e a destilação de políticas on-line (OPD). Essa descrição apresenta a abordagem de pós-treinamento atribuída aos modelos; a liberação de código anunciada em setembro é uma iniciativa separada. 19271

Recursos de arquitetura informados

Os cartões também descrevem uma combinação de atenção latente multi-head (MLA) com camadas de atenção DSA e SWA, em proporção de 1:2. A atenção de janela deslizante (SWA) lida com o contexto local, enquanto as camadas DSA esparsas agregam informações de alcance mais longo. 1927

Entre outros recursos listados estão uma arquitetura mHC de quatro fluxos, um módulo de predição de múltiplos tokens (MTP) com três cabeças e o otimizador Muon. São características de projeto descritas nos cartões dos modelos, não novidades anunciadas como parte do lançamento de código de setembro. 1927

O que muda para quem desenvolve com Ascend

Os pesos e o código de inferência já publicados permitem executar os modelos Pro e Flash disponibilizados. Com os novos projetos, desenvolvedores que trabalham no ecossistema Ascend também passam a ter código para explorar pré-treinamento, SFT e RL no pós-treinamento. 1227

O anúncio, porém, não detalha todos os fluxos de trabalho compatíveis nem os requisitos de hardware. Portanto, a liberação amplia as ferramentas disponíveis para trabalhar com o ciclo de vida dos modelos, mas não deve ser confundida com uma garantia de que os treinamentos originais possam ser reproduzidos sem recursos e configurações adicionais. 1