openPangu 2.0 Pro leveres med modellvekter, grunnleggende inferenskode og teknisk rapport. En kontekst på 512K token og arkitekturvalg som MoE, DSA+SWA oppmerksomhet og fler token prediksjon er ment å gjøre lange kontekster mer håndterlige på Ascend maskinvare.
Research answer

Create a landscape editorial hero image for this Studio Global article: How does Huawei’s open-sourcing of openPangu-2.0-Pro—a 505B-parameter MoE model with roughly 180B active parameters, 512K context, 34T-token. Article summary: One correction: openPangu-2.0-Pro has about 505B total parameters but roughly 18B—not 180B—activated per token. The release is significant because it makes an Ascend-native, non-NVIDIA path inspectable from model design . Topic tags: general, general web, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
Huawei har åpnet openPangu-2.0-Pro, og utgivelsen er mer betydningsfull enn en vanlig publisering av modellvekter. Men det er avgjørende å skille mellom to ting: Den gir en betydelig mulighet til å inspisere og kjøre en stor språkmodell på Huaweis Ascend-plattform, men den er ikke en ferdig oppskrift på å gjenskape den opprinnelige treningen i grenselandet for dagens modellskala.
Nøkkeltallene blir ofte gjengitt feil. Pro er en «mixture-of-experts»-modell (MoE) med om lag 505 milliarder parametere totalt, mens rundt 18 milliarder parametere aktiveres per token. Den støtter et kontekstvindu på 512K token og skal være trent på om lag 34 billioner token, ifølge modellkortet. 21
Huawei kunngjorde 31. juli 2026 at modellvekter, grunnleggende inferenskode og teknisk rapport for openPangu-2.0-Pro var gjort tilgjengelig. Selskapet opplyste samtidig at beslektede openPangu 2.0-komponenter skulle publiseres gradvis gjennom åpenkildekanalene. 12
Delene har ulik praktisk verdi:
På Huawei Developer Conference (HDC) 2026 beskrev Huawei dessuten en trinnvis åpning av sju komponenter, blant annet kode for førtrening, ettertrening og treningsoperatorer. 2
10 Dersom disse blir publisert i praktisk brukbar form, vil prosjektet komme nærmere en sammenhengende stakk fra trening til inferens enn utgivelser som bare tilbyr vekter.
En modell kan ha åpne vekter uten at treningen kan reproduseres i samme skala. Nedlastbare vekter viser at det publiserte sjekkpunktet kan testes, men ikke alle forutsetningene som trengs for å lage det på nytt.
Å gjenskape en førtrening på 34 billioner token krever minst tilgang til nøyaktig samme data – eller en reproduserbar spesifikasjon for hvordan dataene ble laget – i tillegg til komplett kode for trening og ettertrening, hyperparametere, klyngetopologi, programvare- og kompilatorversjoner, oppsett for distribuert trening, spesialoperatorer, evalueringsoppsett og nok kompatibel maskinvare. Det som er bekreftet publisert, er vekter, grunnleggende inferenskode og rapport, mens Huawei beskriver de øvrige komponentene som gradvis tilgjengelige. 12
21
Den mest presise beskrivelsen nå er derfor: en Ascend-først åpen modellutgivelse med en uttalt vei mot større innsyn i hele stakken. Den er ikke dokumentasjon på at en ekstern organisasjon allerede i dag kan gjenskape den opprinnelige treningen uavhengig.
openPangu-2.0-Pro kombinerer svært mange parametere med mekanismer som skal begrense kostnadene ved tekstgenerering og behandling av svært lange kontekster.
I MoE-modeller rutes hvert token gjennom en delmengde av ekspertparametrene. Modellkortet for Pro oppgir rundt 505 milliarder parametere totalt og rundt 18 milliarder aktiverte parametere per token. 21
Det gjør ikke systemet lettvekts: Lagring, drift og kommunikasjon for en modell på 505 milliarder parametere krever fortsatt betydelig infrastruktur. Men beregningen knyttet til parametere for hvert enkelt token blir lavere enn for en tett modell med tilsvarende total størrelse.
Modellen beholder MLA og kombinerer DSA med «sliding-window attention» (SWA) i et lagforhold på 1:2. Huawei oppgir at SWA-lag håndterer lokal kontekst, mens DSA-lag skal fange opp spredt global kontekst. Målet er å redusere beregning, minnebruk og minneaksess ved inferens over lange kontekster uten å svekke nøyaktigheten. 21
Dette svarer på hovedutfordringen ved 512K kontekst: Full oppmerksomhet mellom alle token blir raskt kostbar. Lokal oppmerksomhet håndterer nærliggende informasjon rimeligere, mens sparsomme globale mekanismer skal bevare tilgang til relevant innhold langt tilbake i materialet.
Huawei beskriver også en firestrøms mHC-residualtopologi som skal øke variasjonen i representasjonene og modellens generaliseringsevne. Modulen for fler-token-prediksjon har tre hoder og predikerer ekstra framtidige token, et valg som er ment å øke inferensfarten. Modellkortet oppgir dessuten Muon som treningsoptimalisator, med raskere konvergens som mål. 21
Dette er arkitektur- og optimaliseringspåstander fra Huaweis publiserte materiale, ikke uavhengig verifiserte bevis på en bestemt ytelsesgevinst i enhver installasjon. Gjennomstrømning og forsinkelse avhenger blant annet av akseleratoroppsett, presisjon, batching, kontekstlengde, trafikkmønster og programvare for modellservering.
Et vindu på 512K token kan la en agent ha langt mer kildemateriale i samme økt: håndbøker, regelverk, logger, tidligere verktøyresultater og spesifikasjoner. Det kan redusere behovet for aggressiv oppdeling av dokumenter, men fjerner ikke behovet for informasjonsgjenfinning, tilgangskontroll, kildekontroll eller menneskelig godkjenning.
Mulige bruksområder med høy verdi er:
For mange mindre virksomheter vil Pro fortsatt være krevende å drifte selv, selv om modellen bruker sparsom aktivering. Huawei har også publisert den mindre openPangu-2.0-Flash-varianten, oppgitt til 92 milliarder parametere totalt og 6 milliarder aktive per token. Den kan være mer tilgjengelig for evaluering og utrulling. 15
20
Huawei rapporterer en SWE-bench Verified-score på 68,5 for Thinking-versjonen av openPangu-2.0-Pro, basert på modellens evalueringsresultater. 24 Det er et bemerkelsesverdig benchmark-resultat, men det er ikke belegg for at modellen pålitelig kan ha fullt ansvar for komplekst programvarearbeid i produksjon.
Reelle kodebaser er avhengige av riktig miljøoppsett, avhengigheter, testkjøring, sikkerhetsgjennomgang, arkitekturvalg, endrede produktkrav og vedvarende feilsøking over mange trinn. En fornuftig modell er derfor en overvåket kodeagent med tilgang begrenset til det aktuelle kodeområdet, sandkassekjøring, automatiserte tester, statisk analyse, kodegjennomgang og mulighet for tilbakerulling – ikke autonom sammenslåing av endringer.
Den strategiske verdien ligger ikke bare i modellvektene. En Ascend-tilpasset referansemodell kan få utviklere til å bygge, teste og optimalisere arbeidslaster for Ascend. Slike arbeidslaster kan igjen øke behovet for bedre kjøretidsmiljøer, operatorer, verktøy og driftede tjenester. Huawei viser eksplisitt utviklere, bedriftspartnere og forskere til Ascend Tribe-fellesskapet og Huawei Cloud MaaS-tjenesten for nedlasting, bruk og tilbakemeldinger. 12
At Flash og Pro lanseres i ulike størrelser, utvider gruppen av mulige brukere. Samtidig retter de planlagte komponentene for trening, ettertrening og operatorer seg mot programvarelagene som avgjør om en maskinvareplattform er praktisk for modellutviklere. 10
15
openPangu 2.0 bør derfor først og fremst forstås som et forsøk på å styrke et Ascend- og Pangu-basert utviklingsøkosystem. Åpenheten er allerede meningsfull for drift, inspeksjon og eksperimentering. Påstanden om full reproduksjon bør derimot først vurderes når gjenværende kode, konfigurasjoner og datarelaterte detaljer er tilgjengelige, og når uavhengige grupper kan teste hva som faktisk lar seg bygge på nytt.
Studio Global AI
This page includes a source-backed answer you can continue inside Studio Global.
openPangu 2.0 Pro leveres med modellvekter, grunnleggende inferenskode og teknisk rapport.
openPangu 2.0 Pro leveres med modellvekter, grunnleggende inferenskode og teknisk rapport. En kontekst på 512K token og arkitekturvalg som MoE, DSA+SWA oppmerksomhet og fler token prediksjon er ment å gjøre lange kontekster mer håndterlige på Ascend maskinvare.
Utgivelsen er viktig for evaluering, drift og eksperimentering, men beviser ikke at eksterne aktører allerede kan gjenskape Huaweis opprinnelige trening på 34 billioner token.