AnswersPublished19 sources
Xing4.0-29B-A4B: Hva kan China Telecom AIs agentmodell?
Xing4.0 29B A4B har om lag 29 milliarder parametere totalt, men aktiverer rundt 4 milliarder per token. Modellen har 64 rutede eksperter og én felles ekspert.
Publisert avRedigert med GPT-6 SolBilder generert med GPT Image 2
Research answer
Key takeaways
- Xing4.0 29B A4B har om lag 29 milliarder parametere totalt, men aktiverer rundt 4 milliarder per token.
- Modellen har 64 rutede eksperter og én felles ekspert. Den støtter 256 000 token som standard og er oppgitt å kunne utvides til 512 000.
- Modellvektene ligger på Hugging Face under Apache 2.0. Testresultater og påstanden om rundt 15 GB GPU minne ved kvantisering er ikke uavhengig bekreftet her.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is China Telecom AI’s open-sourced Xing4.0-29B-A4B agentic Mixture-of-Experts model, and what are its parameter count, active experts,. Article summary: Xing4.0-29B-A4B is China Telecom AI’s open-weight Mixture-of-Experts language model for coding and other multi-step agent tasks. It has about 29 billion parameters in total, but activates about 4 billion for each token—n. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, click
Xing4.0-29B-A4B er en språkmodell med åpne modellvekter fra China Telecom AI, utviklet for blant annet programmering og agentoppgaver som krever flere steg. Den bruker en Mixture-of-Experts-arkitektur (MoE): Av modellens om lag 29 milliarder parametere er rundt 4 milliarder aktive for hvert token den behandler. Det gjør ikke lagringsbehovet lik 4 milliarder parametere – de øvrige ekspertene er fortsatt en del av modellen. 1
10
Eksperter og kontekstvindu
Modellen har 64 rutede eksperter og én felles ekspert. For hvert token velges fire av de rutede ekspertene, mens den felles eksperten også deltar. Kontekstvinduet er 256 000 token som standard. Utviklerne oppgir at det kan utvides til 512 000 token, men dette er ikke standardvinduet. 1
2
Arkitektur og trening på Ascend
Arkitekturen kombinerer multi-head latent attention (MLA), manifold-constrained hyper-connections (mHC) og multi-token prediction (MTP). Ifølge beskrivelsen skal MLA redusere behovet for hurtigminne til oppmerksomhetsmekanismen, mHC bidra til mer stabil trening og MTP støtte generering av flere token. 1
5
Treningen ble gjort på Huaweis Ascend-maskinvare med MindSpore. Utviklerne oppgir at justering av kommunikasjonen mellom MoE-ekspertene, selektiv omberegning, sammenslåing av graf- og operatoroperasjoner og egne Ascend C-operatorer ga om lag 96 prosent høyere treningsgjennomstrømning enn en standardoppsett-baseline. Dette er en rapportert forbedring av treningssystemet – ikke et løfte om 96 prosent raskere kjøring for brukere. 5
13
Tilgang og verktøy
Modellvektene er tilgjengelige på Hugging Face som XingChen-AGI/Xing4.0-29B-A4B under Apache 2.0-lisensen. Modellmaterialet viser bruk med Transformers og vLLM. Det oppgis også støtte for SGLang og KTransformers til kjøring, samt LLaMA-Factory og MindFormers til finjustering. Det er rapportert tilpasninger for agentrammeverkene OpenCode, Claude Code, OpenClaw og Hermes. 12
13
8
Hva testtallene og minnepåstanden sier – og ikke sier
Rapporterte resultater er 75,00 på SWE-bench Verified, 57,50 på Terminal-Bench 2.1 og 93,52 i SuperCLUEs agentevaluering. Tallene kommer fra modellmateriale og omtale av lanseringen; de bør ikke leses som uavhengig gjenskapte resultater. 6
19
8
China Telecom oppgir dessuten at kvantisering med lav bitdybde og minneoptimalisering kan redusere bruken av GPU-minne til rundt 15 GB. Annen omtale knytter tallet til en 4-bit-versjon. Det er en påstand om en bestemt type oppsett, ikke en garanti for at modellen passer på ethvert grafikkort: kvantisering, kjørekonfigurasjon og kontekstlengde påvirker minnebehovet. 6
8
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Xing4.0-29B-A4B: Hva kan China Telecom AIs agentmodell?"?
Xing4.0 29B A4B har om lag 29 milliarder parametere totalt, men aktiverer rundt 4 milliarder per token.
What are the key points to validate first?
Xing4.0 29B A4B har om lag 29 milliarder parametere totalt, men aktiverer rundt 4 milliarder per token. Modellen har 64 rutede eksperter og én felles ekspert. Den støtter 256 000 token som standard og er oppgitt å kunne utvides til 512 000.
What should I do next in practice?
Modellvektene ligger på Hugging Face under Apache 2.0. Testresultater og påstanden om rundt 15 GB GPU minne ved kvantisering er ikke uavhengig bekreftet her.