Huawei åbner openPangu-2.0-Pro: Hvad kan faktisk reproduceres på Ascend?

Huaweis frigivelse af openPangu-2.0-Pro er mere end blot en ny modelcheckpoint, men det er vigtigt at holde fast i skellet: Den åbner en betydelig del af vejen til at undersøge og køre en stor model på Huaweis Ascend-platform. Den er derimod ikke en færdig opskrift på at genskabe den oprindelige træning i frontier-skala.

Nøgletallene bliver ofte gengivet forkert. Pro er en mixture-of-experts-model (MoE) med cirka 505 mia. parametre i alt, mens cirka 18 mia. parametre aktiveres pr. token. Modellen understøtter et kontekstvindue på 512K tokens og er trænet på omtrent 34 billioner tokens, ifølge modelkortet. 21

Det har Huawei frigivet

Huawei meddelte 31. juli 2026, at modelvægte, basal inferenskode og teknisk rapport for openPangu-2.0-Pro var gjort offentligt tilgængelige. Virksomheden oplyste samtidig, at relaterede openPangu 2.0-komponenter ville blive lagt ud løbende via dens open source-kanaler. 12

De enkelte dele har forskellig praktisk værdi:

• Vægtene gør det muligt at evaluere og drifte den færdigtrænede model.
• Inferenskoden giver en implementeringsvej, der er målrettet Ascend-miljøet.
• Den tekniske rapport og modeldokumentationen beskriver arkitekturen og de rapporterede designvalg. 1221

På Huaweis HDC 2026-roadmap blev der også beskrevet en trinvis åbning af syv komponenter, blandt andet kode til prætræning, eftertræning og træningsoperatorer. 210 Hvis de kommer i en brugbar form, bringer det projektet tættere på en samlet kæde fra træning til inferens end udgivelser, der kun indeholder vægte.

Hvorfor »fuldt reproducerbar« stadig er en for stærk betegnelse

At en model har åbne vægte, er ikke det samme som, at dens træning kan reproduceres i fuld skala. Downloadbare vægte gør det muligt at teste det frigivne checkpoint, men afslører ikke alle betingelserne for at skabe checkpointet igen.

En rekonstruktion af en prætræning på 34 billioner tokens ville mindst kræve adgang til de nøjagtige data – eller en reproducerbar specifikation af datagenereringen – samt komplet kode til træning og eftertræning, hyperparametre, klyngetopologi, software- og compilerversioner, konfiguration af distribueret træning, specialoperatorer, evalueringsopsætning og tilstrækkelig kompatibel hardware. Det offentliggjorte materiale bekræfter vægte, basal inferenskode og rapport, mens Huawei beskriver yderligere komponenter som løbende kommende. 1221

Den mest præcise beskrivelse lige nu er derfor: en Ascend-først open model-udgivelse med en erklæret vej mod større gennemsigtighed i softwarestakken. Den er ikke bevis for, at en ekstern organisation i dag selvstændigt kan reproducere den oprindelige træning.

Arkitektur til et kontekstvindue på 512K tokens

openPangu-2.0-Pro kombinerer et meget stort samlet parameterantal med mekanismer, der skal begrænse omkostningerne ved generering og behandling af lange kontekster.

MoE: stor kapacitet uden at aktivere alt

MoE-modeller sender hvert token gennem en delmængde af ekspertparametrene. For Pro angiver modelkortet cirka 505 mia. parametre i alt og cirka 18 mia. aktiverede parametre pr. token. 21

Det gør ikke systemet letvægts: Lagring, drift og kommunikation omkring en model på 505 mia. parametre kræver stadig omfattende infrastruktur. Men det reducerer den parameterberegning, der udføres for hvert enkelt token, sammenlignet med en tæt model af tilsvarende samlede størrelse.

DSA og SWA: lokal og global kontekst

Modellen bevarer MLA og kombinerer DSA med sliding-window attention (SWA) i et lagforhold på 1:2. Huawei beskriver SWA-lagene som ansvarlige for lokal vinduesmodellering og DSA-lagene som mekanismen for sparsom global kontekst. Målet er at reducere beregning, hukommelsesforbrug og omkostninger ved hukommelsesadgang under long-context-inferens uden at miste nøjagtighed. 21

Det adresserer den centrale udfordring ved 512K kontekst: Fuld opmærksomhed på tværs af alle tokens bliver hurtigt dyr. Lokal attention kan håndtere nærliggende information billigere, mens sparsomme globale mekanismer skal bevare adgangen til relevant, fjernere materiale.

Residualtopologi, multi-token prediction og Muon

Huawei beskriver også en mHC-residualtopologi med fire strømme, som skal forbedre diversiteten i repræsentationer og generalisering. Modellens modul med tre hoveder til multi-token prediction forudsiger yderligere fremtidige tokens og er beregnet til at øge inferenshastigheden. Modelkortet angiver desuden Muon som træningsoptimeringsalgoritme med hurtigere konvergens som formål. 21

Det er arkitektur- og optimeringspåstande fra Huaweis egne, offentliggjorte materialer – ikke uafhængigt verificeret dokumentation for en bestemt hastighedsgevinst i alle miljøer. Gennemløb og svartid afhænger i høj grad af acceleratoropsætning, præcision, batching, kontekstlængde, trafikmønster og serveringssoftware.

Hvor agenter med lang kontekst kan være nyttige

Et vindue på 512K tokens kan lade en agent arbejde med langt mere kildemateriale i én session, eksempelvis manualer, regelsæt, logfiler, tidligere værktøjsoutput og specifikationer. Det kan mindske behovet for aggressiv opdeling af materiale, men fjerner ikke behovet for søgning, adgangskontrol, kildekontrol eller menneskelig godkendelse.

Mulige anvendelser med høj værdi omfatter:

• Offentlig forvaltning: assisteret analyse af regler, sagsmateriale, høringssvar og dokumentation på tværs af myndigheder, med stram adgangskontrol og sporbare menneskelige afgørelser.
• Finans: gennemgang af analyser, indberetninger, kontrakter og compliance-materiale, uden at ubekræftede modelsvar bruges direkte til handels-, kredit- eller myndighedsbeslutninger.
• Produktion og energi: sammenfatning af udstyrsmanualer, alarmhistorik, vedligeholdelsesdata, procesdokumenter og skiftrapporter til at støtte fejlsøgning og planlægning.
• Sundhedsvæsen: opsummering af faglitteratur og langsgående patientforløb under klinisk ansvar – ikke autonom diagnosticering eller behandlingsbeslutninger.
• Ingeniørarbejde med selvkørende biler: offline-analyse af testlogfiler, scenariebeskrivelser, sikkerhedscases og teknisk dokumentation, ikke en erstatning for et valideret system til kørsel i realtid.

For mange mindre organisationer vil Pro fortsat være vanskelig at hoste selv, selv med sparsom aktivering. Huawei har også frigivet den mindre openPangu-2.0-Flash, der er angivet til 92 mia. parametre i alt og 6 mia. aktive parametre pr. token. Den kan være en mere realistisk model til evaluering og drift. 1520

Softwareudvikling: en assistent, ikke en selvkørende vedligeholder

Huawei rapporterer en score på 68,5 på SWE-bench Verified for Thinking-versionen af openPangu-2.0-Pro. 24 Det er et bemærkelsesværdigt benchmarkresultat, men ikke dokumentation for, at modellen pålideligt kan overtage komplekst udviklingsarbejde i produktion.

Virkelige kodebaser afhænger af miljøopsætning, afhængigheder, testkørsel, sikkerhedsgennemgang, arkitekturvalg, ændrede produktkrav og vedvarende fejlfinding over mange trin. En fornuftig model er derfor en overvåget kodeagent med adgang begrænset til det relevante repository, sandboxet eksekvering, automatiske tests, statisk analyse, kodegennemgang og procedurer for tilbagerulning – ikke automatisk sammenfletning af kode.

Den trinvise frigivelse er et økosystemspil

Den strategiske værdi ligger ikke kun i modelvægtene. En Ascend-native referencemodel kan få udviklere til at bygge, teste og optimere arbejdsbelastninger på Ascend. De arbejdsbelastninger kan igen skabe efterspørgsel efter bedre runtimes, operatorer, værktøjer og administrerede tjenester. Huawei henviser udviklere, virksomhedspartnere og forskere til Ascend Tribe-fællesskabet og Huawei Cloud MaaS for download, brug og feedback. 12

At frigive Flash og Pro i forskellige størrelser udvider gruppen af potentielle brugere, mens de planlagte komponenter til træning, eftertræning og operatorer retter sig mod de softwarelag, der afgør, om en hardwareplatform er praktisk for modeludviklere. 1015

openPangu 2.0 bør derfor først og fremmest forstås som et forsøg på at styrke et Ascend-plus-Pangu-økosystem. Åbenheden har allerede reel betydning for drift, inspektion og eksperimenter. Påstanden om fuld reproducerbarhed bør derimod først vurderes, når resterende kode, konfigurationer og datarelaterede detaljer er tilgængelige – og når uafhængige grupper har afprøvet, hvad der faktisk kan genskabes.