AnswersPublished19 sources
Xing4.0-29B-A4B: specifikationer och påståenden att granska
Modellen har omkring 29 miljarder parametrar totalt och aktiverar cirka 4 miljarder per token. Vikterna finns på Hugging Face under Apache 2.0.
Publicerad avRedigerad med GPT-6 SolBilder genererade med GPT Image 2
Research answer
Key takeaways
- Modellen har omkring 29 miljarder parametrar totalt och aktiverar cirka 4 miljarder per token.
- Vikterna finns på Hugging Face under Apache 2.0. Uppgifterna om testresultat och cirka 15 GB grafikminne vid kvantisering bör läsas som rapporterade påståenden, inte som garantier för den egna installationen.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is China Telecom AI’s open-sourced Xing4.0-29B-A4B agentic Mixture-of-Experts model, and what are its parameter count, active experts,. Article summary: Xing4.0-29B-A4B is China Telecom AI’s open-weight Mixture-of-Experts language model for coding and other multi-step agent tasks. It has about 29 billion parameters in total, but activates about 4 billion for each token—n. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, click
Xing4.0-29B-A4B är en språkmodell från China Telecom AI med öppet tillgängliga vikter. Den är inriktad på kodning och agentuppgifter där modellen behöver arbeta i flera steg, exempelvis planera och använda verktyg. Den bygger på Mixture of Experts (MoE): av modellens cirka 29 miljarder parametrar är ungefär 4 miljarder aktiva för varje token. Det betyder inte att en installation bara behöver lagra 4 miljarder parametrar. 1
10
Hur stor är modellen – och hur lång text kan den hantera?
Modellen har 64 experter som kan väljas dynamiskt och en delad expert. För varje token väljs fyra av de 64; den delade experten används också. Den ursprungliga kontextlängden är 256 000 token. Utvecklarna beskriver den som möjlig att utöka till 512 000 token, men det senare är inte modellens ursprungliga kontextfönster. 1
2
Arkitekturen kombinerar multi-head latent attention (MLA), manifold-constrained hyper-connections (mHC) och multi-token prediction (MTP). Enligt beskrivningarna är MLA tänkt att minska behovet av cacheminne för uppmärksamhetsmekanismen, medan mHC ska bidra till stabilare träning och MTP används för prediktion av flera token. 1
5
Tränad på Ascend – men vad betyder ökningen på 96 procent?
Träningen har skett på Huaweis Ascend-hårdvara med MindSpore. Utvecklarna uppger att finjusterad kommunikation mellan MoE-experter, selektiv omberäkning, sammanslagning av grafoperatorer och egna Ascend C-operatorer gav cirka 96 procent högre genomströmning under träningen jämfört med en standardkonfiguration. Det är en rapporterad förbättring av träningssystemet, inte ett mått på hur mycket snabbare modellen svarar vid användning. 5
13
Vikter, licens och verktyg
Vikterna finns på Hugging Face som XingChen-AGI/Xing4.0-29B-A4B under Apache 2.0. Modellmaterialet visar användning med Transformers och vLLM. Stöd för inferens och driftsättning rapporteras även för SGLang och KTransformers, medan LLaMA-Factory och MindFormers anges för finjustering. Anpassningar uppges dessutom finnas för agentramverken OpenCode, Claude Code, OpenClaw och Hermes. 12
13
8
Så bör testresultat och minneskrav läsas
Rapporterade resultat är 75,00 på SWE-bench Verified, 57,50 på Terminal-Bench 2.1 och 93,52 i SuperCLUE:s agentutvärdering. Siffrorna kommer från modellmaterial och rapportering om lanseringen; de ska inte förväxlas med resultat som oberoende har reproducerats här. 6
19
8
China Telecom uppger också att kvantisering med få bitar och minnesoptimering kan sänka användningen av grafikminne till omkring 15 GB. Annan rapportering kopplar siffran till en 4-bitarsversion. Det är ett driftsättningspåstående, inte ett löfte om att varje konfiguration får plats i samma minnesutrymme. Val av kvantisering, körmiljö och kontextlängd spelar roll för den som vill köra modellen på ett visst grafikkort. 6
8
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Xing4.0-29B-A4B: specifikationer och påståenden att granska"?
Modellen har omkring 29 miljarder parametrar totalt och aktiverar cirka 4 miljarder per token.
What are the key points to validate first?
Modellen har omkring 29 miljarder parametrar totalt och aktiverar cirka 4 miljarder per token. Vikterna finns på Hugging Face under Apache 2.0. Uppgifterna om testresultat och cirka 15 GB grafikminne vid kvantisering bör läsas som rapporterade påståenden, inte som garantier för den egna installationen.