คำตอบเผยแพร่แล้ว19 แหล่งที่มา
รู้จัก Xing4.0-29B-A4B: โมเดล MoE สำหรับงานเขียนโค้ดและเอเจนต์
Xing4.0 29B A4B เป็นโมเดลแบบเปิดเผยน้ำหนักสำหรับงานเขียนโค้ดและเอเจนต์ มีพารามิเตอร์รวมราว 29,000 ล้านตัว แต่เปิดใช้ราว 4,000 ล้านตัวต่อโทเค็น [1][10] โมเดลเลือกผู้เชี่ยวชาญ 4 รายจาก 64 รายต่อโทเค็น พร้อมผู้เชี่ยวชาญที่ใช้ร่วมกันอีก 1 ราย รองรับบริบทยาว 256K โทเค็นโดยกำเนิด และเผยแพร่น้ำหนักบน Hugging Face ภายใต้ Ap...
เผยแพร่โดยแก้ไขด้วย GPT-6 Solรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- Xing4.0 29B A4B เป็นโมเดลแบบเปิดเผยน้ำหนักสำหรับงานเขียนโค้ดและเอเจนต์ มีพารามิเตอร์รวมราว 29,000 ล้านตัว แต่เปิดใช้ราว 4,000 ล้านตัวต่อโทเค็น [1][10]
- โมเดลเลือกผู้เชี่ยวชาญ 4 รายจาก 64 รายต่อโทเค็น พร้อมผู้เชี่ยวชาญที่ใช้ร่วมกันอีก 1 ราย รองรับบริบทยาว 256K โทเค็นโดยกำเนิด และเผยแพร่น้ำหนักบน Hugging Face ภายใต้ Apache 2.0 [1][2][12]
- คะแนนทดสอบและตัวเลขหน่วยความจำ GPU ราว 15 GB เป็นข้อมูลที่มีการรายงาน ไม่ใช่ผลที่ยืนยันได้ว่าจะเกิดขึ้นกับทุกการติดตั้ง [6][8][19]
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What is China Telecom AI’s open-sourced Xing4.0-29B-A4B agentic Mixture-of-Experts model, and what are its parameter count, active experts,. Article summary: Xing4.0-29B-A4B is China Telecom AI’s open-weight Mixture-of-Experts language model for coding and other multi-step agent tasks. It has about 29 billion parameters in total, but activates about 4 billion for each token—n. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, click
ถ้ากำลังมองหาโมเดลสำหรับงานที่ต้องเขียนโค้ด วางแผนหลายขั้นตอน หรือเรียกใช้เครื่องมือ Xing4.0-29B-A4B คือโมเดลภาษาแบบ Mixture-of-Experts (MoE) ของ China Telecom AI ที่เปิดเผยน้ำหนักให้ดาวน์โหลด จุดที่ควรเข้าใจก่อนคือเลข 29B หมายถึงพารามิเตอร์ทั้งหมดราว 29,000 ล้านตัว ส่วน A4B สื่อว่ามีพารามิเตอร์ทำงานราว 4,000 ล้านตัวต่อโทเค็น ไม่ได้หมายความว่าต้องเก็บน้ำหนักโมเดลไว้เพียง 4,000 ล้านตัวเมื่อนำไปใช้งาน 1
10
สเปกหลัก: เลือกใช้ผู้เชี่ยวชาญ ไม่ได้เปิดทั้งโมเดลทุกครั้ง
โมเดลมีผู้เชี่ยวชาญที่ระบบเลือกใช้งานได้ 64 ราย โดยเลือก 4 รายต่อโทเค็น และมีผู้เชี่ยวชาญที่ใช้ร่วมกันอีก 1 ราย หน้าต่างบริบทที่รองรับโดยกำเนิดคือ 256K โทเค็น ส่วน 512K โทเค็น เป็นขนาดที่ระบุว่าสามารถขยายไปถึงได้ ไม่ใช่ขนาดเริ่มต้น 1
2
สถาปัตยกรรมผสาน MLA ซึ่งช่วยลดความต้องการพื้นที่แคชสำหรับกลไก attention, mHC ที่มุ่งช่วยให้การฝึกมีเสถียรภาพ และ MTP สำหรับการคาดการณ์หลายโทเค็น แนวทางนี้ออกแบบมารองรับงานเอเจนต์ที่ต้องทำต่อเนื่องหลายขั้นตอน 1
5
ฝึกบน Ascend และตัวเลขความเร็วที่ต้องอ่านให้ตรง
Xing4.0-29B-A4B ฝึกบนฮาร์ดแวร์ Huawei Ascend ด้วยระบบนิเวศ MindSpore ผู้พัฒนาระบุว่าการปรับการสื่อสารระหว่างผู้เชี่ยวชาญของ MoE การคำนวณซ้ำเฉพาะส่วน การรวมตัวดำเนินการในกราฟ และตัวดำเนินการ Ascend C ที่พัฒนาขึ้นเฉพาะ ช่วยเพิ่ม ปริมาณงานในการฝึกราว 96% เมื่อเทียบกับระบบพื้นฐานที่ยังไม่ได้ปรับแต่ง ตัวเลขนี้เป็นผลที่รายงานสำหรับ การฝึกโมเดล ไม่ได้หมายความว่าผู้ใช้จะได้ความเร็วขณะรันโมเดลเพิ่มขึ้น 96% 5
13
ดาวน์โหลดที่ไหน ใช้กับเครื่องมืออะไรได้บ้าง
น้ำหนักโมเดลอยู่บน Hugging Face ในชื่อ XingChen-AGI/Xing4.0-29B-A4B ภายใต้สัญญาอนุญาต Apache 2.0 เอกสารโมเดลแสดงวิธีใช้กับ Transformers และ vLLM ขณะที่ข้อมูลการรองรับการรันและนำไปใช้งานยังระบุ SGLang และ KTransformers ด้วย ส่วนการปรับแต่งโมเดลเพิ่มเติมระบุ LLaMA-Factory และ MindFormers และมีรายงานการปรับให้เข้ากับเฟรมเวิร์กเอเจนต์ OpenCode, Claude Code, OpenClaw และ Hermes 12
13
8
คะแนนทดสอบและคำกล่าวอ้างเรื่องหน่วยความจำ
ผลที่รายงาน ได้แก่ 75.00 บน SWE-bench Verified, 57.50 บน Terminal-Bench 2.1 และ 93.52 ในการประเมินความสามารถเอเจนต์ของ SuperCLUE คะแนนเหล่านี้มาจากข้อมูลโมเดลและรายงานเกี่ยวกับการเปิดตัว จึงไม่ควรอ่านเป็นผลที่ได้รับการทดสอบซ้ำอย่างอิสระแล้ว 6
19
8
China Telecom ยังระบุว่าการลดความละเอียดของน้ำหนักโมเดล (quantization) ร่วมกับการปรับการใช้หน่วยความจำ อาจทำให้ใช้หน่วยความจำ GPU ราว 15 GB โดยรายงานอีกแห่งระบุว่าตัวเลขนี้เป็นกรณีของรุ่น 4 บิต นี่เป็นคำกล่าวอ้างด้านการติดตั้งใช้งาน ไม่ใช่การรับประกันว่าทุกเครื่องจะใช้หน่วยความจำเท่ากัน ก่อนตัดสินใจรันเอง ควรดูรูปแบบ quantization การตั้งค่าระบบรัน และความยาวบริบทที่ต้องใช้ด้วย 6
8
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "รู้จัก Xing4.0-29B-A4B: โมเดล MoE สำหรับงานเขียนโค้ดและเอเจนต์" คืออะไร
Xing4.0 29B A4B เป็นโมเดลแบบเปิดเผยน้ำหนักสำหรับงานเขียนโค้ดและเอเจนต์ มีพารามิเตอร์รวมราว 29,000 ล้านตัว แต่เปิดใช้ราว 4,000 ล้านตัวต่อโทเค็น [1][10]
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
Xing4.0 29B A4B เป็นโมเดลแบบเปิดเผยน้ำหนักสำหรับงานเขียนโค้ดและเอเจนต์ มีพารามิเตอร์รวมราว 29,000 ล้านตัว แต่เปิดใช้ราว 4,000 ล้านตัวต่อโทเค็น [1][10] โมเดลเลือกผู้เชี่ยวชาญ 4 รายจาก 64 รายต่อโทเค็น พร้อมผู้เชี่ยวชาญที่ใช้ร่วมกันอีก 1 ราย รองรับบริบทยาว 256K โทเค็นโดยกำเนิด และเผยแพร่น้ำหนักบน Hugging Face ภายใต้ Apache 2.0 [1][2][12]
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
คะแนนทดสอบและตัวเลขหน่วยความจำ GPU ราว 15 GB เป็นข้อมูลที่มีการรายงาน ไม่ใช่ผลที่ยืนยันได้ว่าจะเกิดขึ้นกับทุกการติดตั้ง [6][8][19]