AnswersPublished19 sources
Qwen3.8-2.4T-A95B: Åpne vekter, 2,4 billioner parametere og den reelle prisen ved egen drift
Qwen3.8 2.4T A95B er en tekstmodell med åpne vekter i Qwen Max klassen: 2,4 billioner parametere totalt, men rundt 95 milliarder aktive per token. Den har en opprinnelig kontekstlengde på 262 144 tokens.
Publisert avRedigert med GPT-5.6 TerraBilder generert med GPT Image 2
Research answer
Key takeaways
- Qwen3.8 2.4T A95B er en tekstmodell med åpne vekter i Qwen Max klassen: 2,4 billioner parametere totalt, men rundt 95 milliarder aktive per token.
- Den har en opprinnelig kontekstlengde på 262 144 tokens. Enkelte driftsoppsett dokumenterer opptil én million tokens, men lang kontekst øker kostnadene betydelig.
- Åpne vekter gir kontroll over data, tilpasning og utrulling, men NVIDIA eksempler viser at modellen er laget for distribuert drift med flere noder og avansert GPU infrastruktur.
- Modellen bruker en egen Qwen3.8 Max lisens, ikke Apache 2.0 eller MIT. Kommersiell bruk krever derfor en konkret lisensgjennomgang.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Alibaba’s Qwen3.8-2.4T-A95B, and what do its open-weight release, Qwen-Max-class status, 2.4-trillion-parameter/95-billion-active-pa. Article summary: Alibaba’s Qwen3.8-2.4T-A95B is an open-weight, text-generation release of its Qwen3.8-Max/“Max-class” flagship: a very large sparse Mixture-of-Experts (MoE) model rather than a model that can realistically be run like an. Topic tags: general, documentation, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
Qwen3.8-2.4T-A95B er Alibabas utgivelse med åpne vekter i toppsjiktet Qwen3.8-Max. Det viktige er ikke at en modell med 2,4 billioner parametere plutselig er lett å kjøre selv. Det viktige er at virksomheter kan få tilgang til og tilpasse vektene, i stedet for å være bundet til en administrert API-tjeneste.
I praksis er dette mest relevant for skyleverandører, store selskaper, regulerte miljøer og forskningsgrupper med kompetanse på distribuert inferens. 1
18
21
Kort forklart: 2,4T totalt, 95B i bruk per token
Qwen3.8-2.4T-A95B er en sparsom Mixture-of-Experts-modell (MoE) for tekstgenerering. Den har 2,4 billioner parametere totalt, men bruker omtrent 95 milliarder aktive parametere per token. NVIDIA oppgir 92 lag, 512 rutede eksperter og topp-10-ruting. 18
21
Forskjellen mellom totale og aktive parametere er sentral. I en MoE-modell aktiveres ikke alle delene av modellen for hvert token. Det kan redusere beregningen per token sammenlignet med en like stor tett modell. Men vektene må fortsatt lagres eller fordeles mellom maskiner, ekspertene må koordineres, og både nettverk og KV-cache må ha stor kapasitet.
Arkitekturen kombinerer Gated DeltaNet med gated attention. Den er laget for omfattende tekstoppgaver med lang kontekst, men reell ytelse avhenger av konkrete forhold: lengden på inndata, antall samtidige brukere, valgt presisjon og serveringsprogramvare. 1
19
Lang kontekst er en kapasitet – ikke en gratis funksjon
Modellens opprinnelige kontekstlengde er 262 144 tokens. NVIDIA dokumenterer også utrullinger med et kontekstvindu på én million tokens, mens oppgitt maksimal utdata er rundt 131 000 tokens. 1
19
21
Tallene betyr ikke at alle forespørsler på én million tokens blir raske, rimelige eller like pålitelige. Lange inndata øker arbeidet med å lese inn prompten og presset på KV-cachen – minnet som holder på relevant kontekst under generering.
For virksomheter som vil bruke modellen til søk og analyse i store dokumentsamlinger, lange rapporter eller agentforløp, er det derfor nødvendig å teste med de faktiske dokumentlengdene og samtidighetsmønstrene tjenesten skal håndtere.
Resonering og agenter: kraftig, men ikke komplett alene
Qwen tilbyr innstillingen reasoning_effort med nivåene low, medium og xhigh. Den er ment å la brukeren veie svartid og kostnad mot mer grundig resonering. Standardoppsettet er laget for å bevare modellens resonnementinnhold. 1
Det gjør modellen aktuell for krevende tekstoppgaver som programmering, forskningssyntese, analyse av lange dokumenter og agentbaserte arbeidsflyter. Men en agent er langt mer enn en språkmodell: Produksjonsbruk krever fortsatt tydelige verktøydefinisjoner, tilgangskontroll, isolert utførelse, feilhåndtering, logging og systematiske evalueringer.
Det åpne sjekkpunktet er dessuten kun for tekst, og tilgjengelig informasjon sier at tenkemodus ikke kan slås av. Virksomheter som trenger bilde- eller videoinndata, en rask ikke-resonnerende svarsti eller innebygde administrerte verktøy, må skille mellom den nedlastbare modellen og den hostede Qwen3.8-Max-tjenesten. 3
8
21
Åpne vekter gir mer kontroll, men ikke enklere drift
Åpne vekter kan gi kontroll over hvor data behandles, hvordan infrastrukturen bygges, og hvordan modellen tilpasses eller ettertrenes. NVIDIA NeMo AutoModel støtter fullparameter-finetuning med FSDP2, ekspertparallellisme og pipeline-parallellisme, altså en spesialisert vei for team som vil endre modellen. 18
Samtidig er terskelen høy. NVIDIA NIMs dokumentasjon beskriver en GB300-NVL72-basert utrulling som krever minst fire noder og Kubernetes. Dynamoppskriftene bruker vLLM eller SGLang, FP8-vekter og FP8 KV-cache, tensorparallellisme og KV-bevisst ruting. Ett dokumentert oppsett bruker 16 GB300-GPU-er fordelt på fire noder. 19
21
Dette er leverandørens støttede oppskrifter, ikke universelle minstekrav. Likevel viser de hva slags driftsmiljø modellen er rettet mot: Dette er normalt ikke en modell for en bærbar PC, en vanlig arbeidsstasjon eller én ordinær server.
Fire serveringsvalg som kan avgjøre økonomien
For en modell i denne størrelsen er infrastrukturen ofte avgjørende for om tjenesten faktisk blir brukbar.
- Kvantisering: Formater med lavere presisjon kan redusere minnebehovet, men kvalitet og stabilitet må valideres på de aktuelle oppgavene. AWS trekker frem blant annet FP8, MXFP4 og NVFP4 som formater som kan redusere minnebehovet ved inferens.
- Separert prefill og dekoding: Å lese inn hele prompten og å generere token for token har ulike flaskehalser. AWS beskriver hvordan disse fasene kan kjøres på separate GPU-pooler for å redusere forstyrrelser og bedre token-latens når arbeidslasten passer for det.
- Spekulativ dekoding: En rimeligere mekanisme foreslår flere tokens, som den store modellen deretter verifiserer. Når forslagene ofte godtas, kan dette redusere det serielle arbeidet under generering.
- Distribuert servering: NVIDIAs oppskrifter kobler modellen til vLLM eller SGLang med KV-bevisst ruting, FP8 og parallellisering over flere noder på GB200- eller GB300-systemer.
19
NVIDIA oppgir over 4 000 tokens per sekund per GPU og over 350 tokens per sekund per bruker i et Day-0-oppsett med FP8 på GB300 NVL72. Dette er leverandørmålinger fra en bestemt kombinasjon av maskinvare og programvare – ikke en generell produksjonsgaranti.
Lisensen: åpne vekter er ikke det samme som en fri programvarelisens
Modellen distribueres under den tilpassede Qwen3.8-Max License, ikke Apache-2.0 eller MIT. Lisensen gir brede rettigheter til å bruke, endre, distribuere, hoste, finjustere og lage avledede arbeider, på vilkårene i lisensen.
Utgivelsesoppsummeringer beskriver ekstra forpliktelser for enkelte virksomheter innen Model-as-a-Service og AI-assistenter over en oppgitt inntektsgrense. Siden slike vilkår kan påvirke både kommersiell utrulling og videredistribusjon, bør team lese gjeldende lisens nøye og innhente juridisk rådgivning før de lanserer et produkt basert på vektene. 3
10
Hostet Qwen3.8-Max eller egen drift av A95B?
Den hostede Qwen3.8-Max-tjenesten beskrives som en offisiell versjon basert på A95B, men med tilleggsfunksjoner: bildeinndata, støtte for å slå av tenkemodus, én million tokens som standard kontekstlengde og offisielle innebygde verktøy. 8
12
Det gir en praktisk arbeidsdeling:
- Velg hostet tilgang når administrert skalering, multimodalitet, integrerte verktøy og mindre driftsarbeid betyr mest.
- Vurder egen drift av A95B når datalokasjon, tilpasset serveringsatferd, finjustering eller høy og varig utnyttelse forsvarer infrastrukturen og driftskostnaden.
Det åpne sjekkpunktet er altså ikke en funksjon-for-funksjon-erstatning for den administrerte tjenesten. Det er en kraftig tekstmotor, mens virksomheten selv må bygge produktlaget og driftslaget rundt den.
Ikke la benchmark-tall avgjøre alene
Qwen plasserer A95B i Max-klassen, og utgivelsesmaterialet rapporterer sterke resultater på benchmarker for blant annet koding, forskning og resonering. Slike tall er nyttige signaler, men beviser ikke at modellen er best for enhver oppgave eller ethvert driftsmiljø. 6
Den riktige beslutningen krever egne evalueringer: Test relevante språk, verktøykjeder, lengder på hentet kontekst, ønskede utdataformater, sikkerhetskrav, latensmål og kostnadsrammer. Det avgjørende spørsmålet er ikke bare om 95 milliarder aktive parametere er imponerende, men om kapabilitetsgevinsten forsvarer kostnaden og kompleksiteten ved å drifte en modell med 2,4 billioner parametere.
Konklusjon
Qwen3.8-2.4T-A95B er en viktig utgivelse med åpne vekter fordi den gir organisasjoner tilgang til en Qwen-Max-klasse tekstmodell i 2,4T-skala, med mulighet for kontroll over vekter og utrulling. Den sparsomme MoE-arkitekturen forbedrer beregningsbildet sammenlignet med en like stor tett modell, men dette er fortsatt et prosjekt for distribuerte systemer i stor skala.
For ressurssterke team kan den være en vei til tilpassbar, suveren og svært kapabel tekstinferens samt ettertrening. For mindre team som først og fremst ønsker enkel lokal drift, vil en mindre modell eller et administrert endepunkt som regel være et mer realistisk valg. 18
19
21
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Qwen3.8-2.4T-A95B: Åpne vekter, 2,4 billioner parametere og den reelle prisen ved egen drift"?
Qwen3.8 2.4T A95B er en tekstmodell med åpne vekter i Qwen Max klassen: 2,4 billioner parametere totalt, men rundt 95 milliarder aktive per token.
What are the key points to validate first?
Qwen3.8 2.4T A95B er en tekstmodell med åpne vekter i Qwen Max klassen: 2,4 billioner parametere totalt, men rundt 95 milliarder aktive per token. Den har en opprinnelig kontekstlengde på 262 144 tokens. Enkelte driftsoppsett dokumenterer opptil én million tokens, men lang kontekst øker kostnadene betydelig.
What should I do next in practice?
Åpne vekter gir kontroll over data, tilpasning og utrulling, men NVIDIA eksempler viser at modellen er laget for distribuert drift med flere noder og avansert GPU infrastruktur.