openPangu-2.0-Pro öppnar en Ascend-väg – men inte hela träningsreceptet

Huawei har gjort mer än att bara lägga ut en modellfil med openPangu-2.0-Pro. Släppet ger organisationer en konkret möjlighet att granska, utvärdera och köra en mycket stor språkmodell på Huaweis Ascend-plattform. Men det är viktigt att dra gränsen rätt: detta är ännu inte ett komplett recept för att återskapa den ursprungliga träningen i frontskala.

Modellen är en mixture-of-experts-modell, MoE, med omkring 505 miljarder parametrar totalt. För varje token aktiveras ungefär 18 miljarder parametrar. Den stöder ett kontextfönster på 512 000 token och har enligt modellkortet tränats på cirka 34 biljoner token. 21

Det här har Huawei faktiskt släppt

Den 31 juli 2026 meddelade Huawei att modellvikterna, grundläggande inferenskod och en teknisk rapport för openPangu-2.0-Pro gjordes öppet tillgängliga. Företaget uppgav också att övriga komponenter i openPangu 2.0 skulle publiceras successivt via dess öppna kanaler. 12

Varje del fyller en egen praktisk funktion:

• Vikterna gör det möjligt att testa och köra den färdigtränade modellen.
• Inferenskoden erbjuder en implementationsväg för den avsedda Ascend-miljön.
• Den tekniska rapporten och modelldokumentationen beskriver arkitektur och de designval som Huawei redovisar. 1221

I sin färdplan från utvecklarkonferensen HDC 2026 beskrev Huawei en etappvis öppning av sju komponenter, däribland kod för förträning och efterträning samt träningsoperatorer. 210 Om dessa delar publiceras i användbar form kommer projektet betydligt närmare en sammanhängande kedja från träning till inferens än modeller där enbart vikter släpps.

Öppna vikter är inte samma sak som reproducerbar träning

Att vikterna går att ladda ned visar att kontrollpunkten kan testas. Det avslöjar däremot inte alla förutsättningar som krävs för att träna fram samma modell igen.

För att reproducera en förträning på 34 biljoner token skulle en extern aktör minst behöva tillgång till exakt samma data, eller en reproducerbar specifikation för hur datan tagits fram. Därutöver krävs komplett tränings- och efterträningskod, hyperparametrar, klustertopologi, mjukvaru- och kompilatorversioner, inställningar för distribuerad träning, specialoperatorer, utvärderingsupplägg och tillräckligt mycket kompatibel hårdvara. Det bekräftade släppet omfattar vikter, grundläggande inferenskod och rapport, medan ytterligare komponenter beskrivs som successiva publiceringar. 1221

Den mest rättvisande beskrivningen just nu är därför: en Ascend-först-utgivning med öppna delar och en uttalad väg mot bredare insyn i teknikstacken. Det är inte belägg för att en extern organisation redan i dag självständigt kan reproducera den ursprungliga träningskörningen.

Arkitekturen bakom 512 000 token

openPangu-2.0-Pro kombinerar mycket stor total modellkapacitet med lösningar som ska hålla nere kostnaden för generering och långa kontexter.

MoE: stor kapacitet utan att alla parametrar används varje gång

I en MoE-modell dirigeras varje token till en delmängd av modellens experter. För Pro anges cirka 505 miljarder parametrar totalt, medan ungefär 18 miljarder aktiveras per token. 21

Det gör inte modellen lättviktig: lagring, drift och kommunikation för en modell i den här storleken kräver fortsatt tung infrastruktur. Däremot minskar mängden parameterberäkningar per token jämfört med en tät modell med motsvarande totala storlek.

DSA och SWA kombinerar lokal och global kontext

Modellen behåller MLA och kombinerar DSA med sliding-window attention, SWA, i förhållandet 1:2 mellan lagren. Huawei beskriver SWA som ett sätt att modellera det lokala fönstret, medan DSA ska fånga gles global kontext. Syftet är enligt Huawei att minska beräkningar, minnesbehov och minnesåtkomst vid långkontextinferens utan att förlora precision. 21

Det angriper den centrala utmaningen med 512 000 token: full uppmärksamhet mellan alla token blir snabbt dyr. Lokal uppmärksamhet hanterar närliggande information billigare, medan glesa globala mekanismer ska bevara åtkomst till relevant material längre bort i kontexten.

Fyrströmsresidualer, fler-token-prediktion och Muon

Huawei beskriver också en mHC-residualtopologi med fyra strömmar, avsedd att förbättra representationsmångfald och generalisering. Modulens tre huvuden för fler-token-prediktion förutsäger ytterligare framtida token, med målet att snabba upp inferensen. Modellkortet anger dessutom Muon som optimerare under träningen, med syftet att nå snabbare konvergens. 21

Detta är arkitektur- och optimeringspåståenden från Huaweis egna publicerade material, inte oberoende verifierade garantier för en viss prestandavinst i varje installation. Svarstid och genomströmning påverkas starkt av acceleratorernas konfiguration, precision, batchning, kontextlängd, trafikmönster och servermjukvara.

Var långkontextagenter kan göra nytta

Ett fönster på 512 000 token kan låta en agent arbeta med betydligt mer källmaterial i samma session – exempelvis handböcker, styrdokument, loggar, tidigare verktygsutdata och tekniska specifikationer. Det kan minska behovet av aggressiv uppdelning av materialet, men ersätter inte informationssökning, behörighetsstyrning, källkontroll eller mänskligt godkännande.

Exempel på möjliga användningsområden:

• Offentlig förvaltning: Stöd vid analys av regelverk, ärendeunderlag, remissvar och dokument mellan myndigheter, med strikt åtkomstkontroll och spårbara mänskliga beslut.
• Finans: Genomgång av analyser, rapporter, avtal och regelefterlevnadsunderlag, utan att obekräftade modellsvar används som grund för handels-, kredit- eller tillsynsbeslut.
• Tillverkning och energi: Sammanställning av utrustningsmanualer, larmhistorik, underhållsdata, processdokument och skiftrapporter för felsökning och planering.
• Hälso- och sjukvård: Sammanfattning av litteratur och långsgående journalmaterial inom klinisk styrning – inte autonom diagnostik eller behandlingsbeslut.
• Utveckling för självkörande fordon: Analys i efterhand av testloggar, scenariobeskrivningar, säkerhetsunderlag och teknisk dokumentation, inte en ersättning för ett validerat realtidssystem i fordonet.

För många mindre organisationer blir Pro sannolikt svår att drifta på egen hand, trots den glesa aktiveringen. Huawei har också släppt den mindre modellen openPangu-2.0-Flash, som anges ha 92 miljarder parametrar totalt och 6 miljarder aktiva per token. Den kan vara ett mer tillgängligt alternativ för utvärdering och produktion. 1520

Kodassistans: användbar, men inte en självgående förvaltare

Huawei redovisar resultatet 68,5 på SWE-bench Verified för Thinking-versionen av openPangu-2.0-Pro. 24 Det är ett anmärkningsvärt benchmarkresultat, men inte ett belägg för att modellen pålitligt kan ansvara för komplicerat produktionsarbete i mjukvara.

Verkliga kodbaser kräver korrekt utvecklingsmiljö, beroendehantering, testkörning, säkerhetsgranskning, arkitekturbeslut, föränderliga produktkrav och felsökning över många steg. En rimlig driftsmodell är därför en övervakad kodagent med avgränsad åtkomst till kodbasen, sandboxad exekvering, automatiserade tester, statisk analys, kodgranskning och möjlighet att återställa ändringar – inte automatisk sammanslagning av kod.

Därför är den stegvisa publiceringen en ekosystemstrategi

Det strategiska värdet ligger inte enbart i modellvikterna. En Ascend-anpassad referensmodell kan få fler utvecklare att bygga, testa och optimera arbetslaster för Ascend. Dessa arbetslaster skapar i sin tur efterfrågan på bättre körtider, operatorer, verktyg och molntjänster. Huawei hänvisar uttryckligen utvecklare, företagspartner och forskare till communityn Ascend Tribe och Huawei Clouds MaaS-erbjudande för nedladdning, användning och återkoppling. 12

Att Flash och Pro släpps i olika storlekar breddar kretsen av möjliga användare. De planerade komponenterna för träning, efterträning och operatorer riktar sig samtidigt mot de mjukvarulager som avgör om en hårdvaruplattform är praktiskt användbar för dem som bygger modeller. 1015

openPangu 2.0 bör därför främst ses som ett försök att stärka ett utvecklingsekosystem kring Ascend och Pangu. Öppenheten har redan ett konkret värde för drift, inspektion och experiment. Om den blir fullt reproducerbar får avgöras först när resterande kod, konfigurationer och datarelaterade detaljer finns tillgängliga – och när oberoende grupper har testat vad som faktiskt går att återskapa.