AnswersPublished19 sources
Qwen3.8-2.4T-A95B: otevřené váhy, 2,4 bilionu parametrů a skutečná cena vlastního provozu
Qwen3.8 2.4T A95B je textový model s otevřenými vahami z třídy Qwen Max: má 2,4 bilionu parametrů, ale při zpracování tokenu aktivuje zhruba 95 miliard z nich. Nativně pracuje s kontextem 262 144 tokenů; v některých nasazovacích konfiguracích je dokumentováno okno až jeden milion tokenů.
PublikovalUpraveno pomocí GPT-5.6 TerraObrázky vytvořeny pomocí GPT Image 2
Research answer
Key takeaways
- Qwen3.8 2.4T A95B je textový model s otevřenými vahami z třídy Qwen Max: má 2,4 bilionu parametrů, ale při zpracování tokenu aktivuje zhruba 95 miliard z nich.
- Nativně pracuje s kontextem 262 144 tokenů; v některých nasazovacích konfiguracích je dokumentováno okno až jeden milion tokenů.
- Otevřené váhy dávají větší kontrolu nad daty, úpravami a nasazením, nikoli však snadný lokální běh.
- Model používá vlastní licenci Qwen3.8 Max. Není to licence Apache 2.0 ani MIT, proto je před komerčním použitím nutné ověřit aktuální podmínky a případné povinnosti.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Alibaba’s Qwen3.8-2.4T-A95B, and what do its open-weight release, Qwen-Max-class status, 2.4-trillion-parameter/95-billion-active-pa. Article summary: Alibaba’s Qwen3.8-2.4T-A95B is an open-weight, text-generation release of its Qwen3.8-Max/“Max-class” flagship: a very large sparse Mixture-of-Experts (MoE) model rather than a model that can realistically be run like an. Topic tags: general, documentation, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
Qwen3.8-2.4T-A95B je model s otevřenými vahami, který patří do vlajkové třídy Qwen3.8-Max od Alibaby. Jeho hlavní význam nespočívá v tom, že by se model o velikosti 2,4 bilionu parametrů stal snadno provozovatelným. Podstatné je, že organizace mohou získat a upravovat jeho váhy, místo aby byly odkázány výhradně na spravované API. To dává smysl především cloudovým poskytovatelům, velkým firmám, regulovaným nasazením a výzkumným týmům se zkušeností s distribuovanou inferencí. 1
18
21
Co je to za model
Jde o řídký textový model typu Mixture-of-Experts (MoE) s 2,4 bilionu parametrů celkem a přibližně 95 miliardami aktivních parametrů na jeden token. Dokumentace NVIDIA uvádí 92 vrstev, 512 směrovaných expertů a výběr deseti expertů při routování. 18
21
Rozdíl mezi celkovým a aktivním počtem parametrů je zásadní. MoE nespouští při každém tokenu všechny parametry, takže výpočet na token může být nižší než u stejně velkého hustého modelu. Neznamená to ale, že odpadá potřeba ukládat či rozdělit váhy, řídit paralelismus expertů nebo zajistit velkou paměť, rychlou síť a prostor pro KV cache.
Architektura kombinuje Gated DeltaNet a gated attention. Konfigurace je určená i pro práci s dlouhým kontextem, avšak v praxi rozhoduje měřený výkon pro konkrétní délku promptu, souběžnost požadavků, použitou přesnost a servingový software. 1
19
Dlouhý kontext není zadarmo
Nativní délka kontextu činí 262 144 tokenů. NVIDIA zároveň dokumentuje nasazení s kontextovým oknem o velikosti jednoho milionu tokenů; maximální výstup je uváděn zhruba na 131 tisíc tokenů. 1
19
21
To není příslib, že každý miliontokenový dotaz bude rychlý, levný nebo stejně spolehlivý. Dlouhé vstupy zvyšují práci ve fázi prefill i nároky na KV cache. Týmy, které chtějí analyzovat rozsáhlé dokumenty, prohledávat velké korpusy pomocí RAG nebo provozovat dlouhé stopy agentů, by měly testovat přesně takové délky vstupů a souběžnost, jaké očekávají v provozu.
Reasoning, kódování a agenti
Model podporuje nastavení reasoning_effort s volbami low, medium a xhigh. Má sloužit k vyvažování rychlosti a nákladů proti hlubšímu uvažování; výchozí nastavení zachovává reasoning obsah. 1
Qwen3.8-2.4T-A95B proto může být kandidátem pro náročné textové úlohy: programování, rešerše a syntézy, analýzu dlouhých dokumentů nebo agentní pracovní postupy. Samotný schopný model ale agenta netvoří. Produkční použití nástrojů stále vyžaduje definice nástrojů na straně aplikace, oprávnění, izolované vykonávání, opakování při chybách, monitoring a průběžné vyhodnocování.
Důležité omezení: otevřený checkpoint je pouze textový a podle informací o vydání nelze reasoning vypnout. Organizace, které potřebují obrazový či video vstup, nízkolatenční režim bez reasoning, nebo spravované integrované nástroje, musí rozlišovat mezi stažitelným checkpointem a hostovaným Qwen3.8-Max. 3
8
21
Otevřené váhy zvyšují kontrolu, neodstraňují provozní náročnost
Otevřené váhy mohou přinést větší kontrolu nad umístěním dat, topologií nasazení, přizpůsobením modelu i post-trainingem. NVIDIA NeMo AutoModel podporuje plnohodnotné dolaďování parametrů s FSDP2, paralelismem expertů a pipeline paralelismem, tedy cestu pro týmy, které model skutečně potřebují upravit. 18
Laťka pro provoz je však velmi vysoko. Dokumentace NVIDIA NIM uvádí cestu nasazení pouze pro GB300-NVL72, minimálně čtyři uzly a Kubernetes. Recepty NVIDIA Dynamo pracují s vLLM nebo SGLang, vahami i KV cache ve FP8, tensorovým paralelismem a routováním podle KV cache; jedna z dokumentovaných konfigurací používá 16 GPU GB300 ve čtyřech uzlech. 19
21
Nejde o univerzální minimální požadavky, ale o výrobcem podporované referenční konfigurace. Dobře ukazují, pro jak velké prostředí je tento model určen: typicky ne pro notebook, běžnou pracovní stanici ani obyčejný server s jedinou GPU.
Které techniky servingu rozhodují
U modelu této velikosti může infrastruktura rozhodnout o tom, zda bude systém prakticky použitelný.
- Kvantizace: Formáty s nižší přesností snižují paměťové nároky vah, ale jejich kvalitu a stabilitu je nutné ověřit na vlastních úlohách. AWS mezi používanými formáty uvádí FP8, MXFP4 a NVFP4.
- Oddělený prefill a decode: Zpracování promptu a následné generování tokenů mají jiné limity. AWS popisuje jejich rozdělení do samostatných GPU poolů, které může pro vhodné zátěže snížit vzájemné rušení a zlepšit latenci tokenů.
- Spekulativní dekódování: Levnější návrhový mechanismus předkládá tokeny, jež cílový model ověří. Pokud jsou návrhy přijímány, klesá množství sériové práce při generování.
- Distribuovaný serving: Recepty NVIDIA kombinují vLLM nebo SGLang s routováním podle KV cache, FP8 a paralelismem přes více uzlů na systémech GB200 či GB300.
19
NVIDIA pro svou Day-0 konfiguraci FP8 na GB300 NVL72 uvedla více než 4 000 tokenů za sekundu na GPU a více než 350 tokenů za sekundu na uživatele. Jde však o měření dodavatele v konkrétní hardwarové a softwarové konfiguraci, nikoli o univerzální očekávání pro produkční zátěž.
Licence: otevřené váhy nejsou totéž co permisivní licence
Model používá vlastní Qwen3.8-Max License, nikoli Apache-2.0 nebo MIT. Licence uděluje široká práva k používání, úpravám, distribuci, hostování, fine-tuningu i tvorbě odvozených děl, ovšem za stanovených podmínek.
Souhrny vydání uvádějí další povinnosti pro některé podniky typu Model-as-a-Service a poskytovatele AI pracovních asistentů nad určený obratový práh. Jelikož tyto podmínky mohou ovlivnit komerční provoz i další distribuci, je před uvedením produktu nutné projít aktuální úplné znění licence a zapojit právní posouzení. 3
10
Hostovaný Qwen3.8-Max versus vlastní A95B
Hostovaný produkt Qwen3.8-Max je popisován jako oficiální verze založená na A95B, doplněná o obrazový vstup, možnost vypnout reasoning, miliontokenový kontext ve výchozím nastavení a oficiální vestavěné nástroje. 8
12
Praktická volba je tedy poměrně přímočará:
- Hostované API dává větší smysl, pokud jsou prioritou spravované škálování, multimodalita, integrované nástroje a jednodušší provoz.
- Vlastní hosting A95B má opodstatnění, když datová suverenita, specifické chování serveru, fine-tuning nebo dlouhodobé vysoké využití vyváží náklady na infrastrukturu a provozní tým.
Otevřený checkpoint proto není funkčně totožnou náhradou spravované služby. Je to silný textový základ, kolem něhož si provozovatel musí postavit zbytek produktu i infrastruktury.
Jak číst benchmarky
Qwen A95B řadí do třídy Max a materiály k vydání uvádějí silné výsledky v benchmarcích pro kódování, výzkum a reasoning. Jsou užitečným signálem, ne důkazem, že jde o nejlepší model pro každou úlohu a každé prostředí. 6
Rozhodnutí by mělo vycházet z vlastního vyhodnocení: otestujte cílové jazyky, sekvence práce s nástroji, délky retrievalu, požadované výstupní formáty, bezpečnostní pravidla, cílovou latenci i rozpočet. Klíčová otázka pro většinu týmů nezní, zda je 95 miliard aktivních parametrů působivých. Zní, zda přínos schopností převáží náklady a složitost provozu modelu s 2,4 bilionu parametrů.
Závěr
Qwen3.8-2.4T-A95B je významné vydání otevřených vah, protože zpřístupňuje textový MoE model třídy Qwen-Max organizacím, které potřebují kontrolu nad vahami a nasazením. Řídká architektura zlepšuje výpočetní ekonomiku oproti stejně velkému hustému modelu, stále jde ale o projekt distribuovaných systémů ve velkém měřítku.
Pro dobře vybavené týmy může představovat cestu ke škálovatelnému, přizpůsobitelnému a datově suverénnímu textovému inference i post-trainingu. Pro menší týmy, které hledají jednoduchý lokální provoz, bývá realističtější menší model nebo spravovaný endpoint. 18
19
21
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Qwen3.8-2.4T-A95B: otevřené váhy, 2,4 bilionu parametrů a skutečná cena vlastního provozu"?
Qwen3.8 2.4T A95B je textový model s otevřenými vahami z třídy Qwen Max: má 2,4 bilionu parametrů, ale při zpracování tokenu aktivuje zhruba 95 miliard z nich.
What are the key points to validate first?
Qwen3.8 2.4T A95B je textový model s otevřenými vahami z třídy Qwen Max: má 2,4 bilionu parametrů, ale při zpracování tokenu aktivuje zhruba 95 miliard z nich. Nativně pracuje s kontextem 262 144 tokenů; v některých nasazovacích konfiguracích je dokumentováno okno až jeden milion tokenů.
What should I do next in practice?
Otevřené váhy dávají větší kontrolu nad daty, úpravami a nasazením, nikoli však snadný lokální běh.