AnswersPublished14 sources
Huawei maakt trainingscode voor openPangu-2.0 beschikbaar
Huawei maakte op 28 september 2026 code voor voortraining, supervised fine tuning en RL natraining van openPangu 2.0 beschikbaar. De projecten zijn bedoeld voor Huawei’s Ascend trainingsomgeving; eerder waren vooral de gewichten en inferencecode van de Pro en Flash modellen vrijgegeven.
Gepubliceerd doorBewerkt met GPT-6 LunaAfbeeldingen gegenereerd met GPT Image 2
Research answer
Key takeaways
- Huawei maakte op 28 september 2026 code voor voortraining, supervised fine tuning en RL natraining van openPangu 2.0 beschikbaar.
- De projecten zijn bedoeld voor Huawei’s Ascend trainingsomgeving; eerder waren vooral de gewichten en inferencecode van de Pro en Flash modellen vrijgegeven.
- De modelkaarten noemen voor beide modellen een contextvenster van 512.000 tokens en ongeveer 34 biljoen tokens aan voortrainingsdata.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Huawei open-source for openPangu-2.0 on September 28, 2026, and how does the new Ascend-native pretraining, supervised fine-tuning. Article summary: On September 28, 2026, Huawei open-sourced **Ascend-native code for openPangu-2.0 pretraining, supervised fine-tuning (SFT), and post-training reinforcement learning (RL)**. That is a training-stack release: the earlier . Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
Huawei heeft op 28 september 2026 code vrijgegeven voor de voortraining, supervised fine-tuning (SFT) en reinforcement learning (RL) na de training van openPangu-2.0. De code is gemaakt voor Huawei’s Ascend-trainingsomgeving. Het verschil met eerdere releases: die boden vooral de gewichten en inferencecode om de Pro- en Flash-modellen te gebruiken; de nieuwe projecten richten zich op stappen waarmee modellen worden getraind en verder aangepast. 1
2
27
Welke code is nieuw?
Het project openPangu-2.0-Training ondersteunt voortraining en SFT. openPangu-2.0-RL is gericht op RL-natraining. Beide zijn bedoeld voor ontwikkelaars die met Huawei Ascend werken. 1
Dit is dus een release van trainingscode, niet simpelweg een nieuwe modelversie of checkpoint. De aankondiging beschrijft de doelen van de projecten, maar laat op zichzelf niet zien welke rekenkracht, data of configuratie nodig is om de oorspronkelijke trainingsruns te reproduceren. 1
Pro en Flash in cijfers
Volgens de modelkaarten zijn Pro en Flash zogeheten mixture-of-experts-modellen (MoE). Bij deze aanpak wordt per token maar een deel van de parameters geactiveerd. 19
27
| Model | Totaal aantal parameters | Actief per token | Contextvenster | Genoemde hoeveelheid voortrainingsdata |
|---|---|---|---|---|
| openPangu-2.0-Pro | Ongeveer 505 miljard | Ongeveer 18 miljard | 512.000 tokens | Ongeveer 34 biljoen tokens |
| openPangu-2.0-Flash | Ongeveer 92 miljard | Ongeveer 6 miljard | 512.000 tokens | Ongeveer 34 biljoen tokens |
De genoemde hoeveelheid voortraining is ongeveer 34 biljoen tokens voor elk model afzonderlijk, niet voor beide samen. 19
27
Wat de modelkaarten zeggen over natraining
De modelkaarten beschrijven een SFT-fase die zogenoemd ‘langzaam’ en ‘snel’ denken moet samenbrengen. Daarna volgen meerdere gespecialiseerde RL-fases en online policy distillation (OPD), een techniek waarbij een model kennis of gedrag van andere modellen overneemt. Dit is de aanpak die de modelkaarten beschrijven; de vrijgegeven trainings- en RL-code is een afzonderlijke stap. 19
27
1
Architectuur volgens Huawei
De modelkaarten noemen multi-head latent attention (MLA) in combinatie met DSA- en SWA-aandachtslagen, in een verhouding van 1:2. Sliding-window attention (SWA) verwerkt vooral lokale context; de sparse DSA-lagen zijn bedoeld om informatie over grotere afstanden samen te brengen. 19
27
Verder vermelden de kaarten een mHC-architectuur met vier stromen, een multi-token prediction-module (MTP) met drie koppen en de Muon-optimizer. Dit zijn gerapporteerde ontwerpkenmerken van de modellen, geen functies die pas met de code-release van september zijn aangekondigd. 19
27
Wat kunnen Ascend-ontwikkelaars ermee?
Met de eerder vrijgegeven gewichten en inferencecode konden ontwikkelaars de gepubliceerde Pro- en Flash-modellen draaien. De nieuwe projecten breiden de beschikbare code uit naar voortraining, SFT en RL-natraining. Zo kunnen ontwikkelaars die op Ascend bouwen ook met die fases van de modelcyclus aan de slag, in plaats van zich te beperken tot het uitvoeren van bestaande checkpoints. 1
2
27
De beschikbare informatie beschrijft de hoofddoelen van de projecten, maar specificeert niet elke ondersteunde werkwijze of de benodigde hardware. 1
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Huawei maakt trainingscode voor openPangu-2.0 beschikbaar"?
Huawei maakte op 28 september 2026 code voor voortraining, supervised fine tuning en RL natraining van openPangu 2.0 beschikbaar.
What are the key points to validate first?
Huawei maakte op 28 september 2026 code voor voortraining, supervised fine tuning en RL natraining van openPangu 2.0 beschikbaar. De projecten zijn bedoeld voor Huawei’s Ascend trainingsomgeving; eerder waren vooral de gewichten en inferencecode van de Pro en Flash modellen vrijgegeven.
What should I do next in practice?
De modelkaarten noemen voor beide modellen een contextvenster van 512.000 tokens en ongeveer 34 biljoen tokens aan voortrainingsdata.