Xing4.0 29B A4B heeft ongeveer 29 miljard parameters in totaal, waarvan er per token circa 4 miljard actief zijn. De gewichten staan op Hugging Face onder Apache 2.0.
Gepubliceerd doorBewerkt met GPT-6 SolAfbeeldingen gegenereerd met GPT Image 2
Research answer

Create a landscape editorial hero image for this Studio Global article: What is China Telecom AI’s open-sourced Xing4.0-29B-A4B agentic Mixture-of-Experts model, and what are its parameter count, active experts,. Article summary: Xing4.0-29B-A4B is China Telecom AI’s open-weight Mixture-of-Experts language model for coding and other multi-step agent tasks. It has about 29 billion parameters in total, but activates about 4 billion for each token—n. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, click
Xing4.0-29B-A4B is een model van China Telecom AI voor onder meer programmeren en agenttaken: opdrachten waarbij een AI-systeem meerdere stappen doorloopt en hulpmiddelen kan aanroepen. Het is een Mixture-of-Experts-model (MoE) met ongeveer 29 miljard parameters in totaal. Per verwerkt token gebruikt het circa 4 miljard parameters. Dat laatste betekent niet dat je bij gebruik slechts 4 miljard parameters hoeft op te slaan. 1
10
Het model heeft 64 experts waaruit het kan kiezen, plus één gedeelde expert. Voor elk token schakelt het vier van die 64 experts in; de gedeelde expert doet ook mee. De standaard contextlengte is 256K tokens. Volgens de modelinformatie is uitbreiding naar 512K tokens mogelijk, maar dat is niet de standaardwaarde. 1
2
De architectuur combineert multi-head latent attention (MLA), manifold-constrained hyper-connections (mHC) en multi-token prediction (MTP). Volgens de beschrijving moet MLA het geheugengebruik voor de aandachtmechanismen beperken, mHC de training helpen stabiliseren en MTP het voorspellen van meerdere tokens ondersteunen. 1
5
Xing4.0-29B-A4B is getraind op Huawei Ascend-hardware met het MindSpore-ecosysteem. De ontwikkelaars melden dat aanpassingen aan de communicatie tussen MoE-experts, selectieve herberekening, het samenvoegen van bewerkingen en aangepaste Ascend C-operatoren de doorvoer tijdens de training met ongeveer 96% verhoogden ten opzichte van een standaardconfiguratie. Dat cijfer gaat over hun trainingsopstelling, niet over een model dat voor gebruikers 96% sneller antwoorden genereert. 5
13
De modelgewichten zijn te vinden op Hugging Face als XingChen-AGI/Xing4.0-29B-A4B, onder de Apache 2.0-licentie. De modelpagina toont gebruik met Transformers en vLLM. Daarnaast wordt ondersteuning voor SGLang en KTransformers gemeld. Voor verdere training noemen de ontwikkelaars LLaMA-Factory en MindFormers; er zijn ook aanpassingen gemeld voor de agentframeworks OpenCode, Claude Code, OpenClaw en Hermes. 12
13
8
De gepubliceerde resultaten noemen 75,00 op SWE-bench Verified, 57,50 op Terminal-Bench 2.1 en 93,52 op de agentevaluatie van SuperCLUE. Ze komen uit modelmateriaal en berichtgeving over de introductie; behandel ze niet als onafhankelijk gereproduceerde resultaten. 6
19
8
China Telecom stelt ook dat kwantisatie — het opslaan van modelgewichten met minder bits — en geheugenoptimalisatie het benodigde GPU-geheugen tot ongeveer 15 GB kunnen beperken. Andere berichtgeving koppelt dat getal specifiek aan een 4-bitversie. Het is een claim over een bepaalde manier van uitrollen, geen belofte dat elke configuratie in 15 GB past: de gekozen kwantisatie, de gebruikte software en de contextlengte doen ertoe. 6
8
Studio Global AI
This page includes a source-backed answer you can continue inside Studio Global.
Xing4.0 29B A4B heeft ongeveer 29 miljard parameters in totaal, waarvan er per token circa 4 miljard actief zijn.
Xing4.0 29B A4B heeft ongeveer 29 miljard parameters in totaal, waarvan er per token circa 4 miljard actief zijn. De gewichten staan op Hugging Face onder Apache 2.0. De gemelde benchmarkresultaten en circa 15 GB GPU geheugen bij kwantisatie zijn geen garantie voor prestaties in iedere opstelling.