คำตอบเผยแพร่แล้ว19 แหล่งที่มา
Qwen3.8-2.4T-A95B: โมเดล Max-class แบบโอเพนเวต ที่เปิดทางเลือกมากขึ้น แต่ต้องแลกด้วยโครงสร้างพื้นฐานระดับคลัสเตอร์
Qwen3.8 2.4T A95B คือโมเดลสร้างข้อความแบบโอเพนเวตในระดับ Qwen Max ของ Alibaba มีพารามิเตอร์รวม 2.4 ล้านล้านตัว แต่ใช้จริงราว 95 พันล้านตัวต่อโทเค็นผ่านสถาปัตยกรรม MoE โมเดลรองรับคอนเท็กซ์ดั้งเดิม 262,144 โทเค็น และบางสแตกการให้บริการรองรับได้ถึง 1 ล้านโทเค็น โดยมีเพดานเอาต์พุตราว 131K โทเค็น—แต่คอนเท็กซ์ยาวยิ่งเพิ่ม...
เผยแพร่โดยแก้ไขด้วย GPT-5.6 Terraรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- Qwen3.8 2.4T A95B คือโมเดลสร้างข้อความแบบโอเพนเวตในระดับ Qwen Max ของ Alibaba มีพารามิเตอร์รวม 2.4 ล้านล้านตัว แต่ใช้จริงราว 95 พันล้านตัวต่อโทเค็นผ่านสถาปัตยกรรม MoE
- โมเดลรองรับคอนเท็กซ์ดั้งเดิม 262,144 โทเค็น และบางสแตกการให้บริการรองรับได้ถึง 1 ล้านโทเค็น โดยมีเพดานเอาต์พุตราว 131K โทเค็น—แต่คอนเท็กซ์ยาวยิ่งเพิ่มภาระ prefill และ KV cache
- โอเพนเวตไม่ได้แปลว่าไลเซนส์เสรีแบบ Apache 2.0: รุ่นนี้ใช้ Qwen3.8 Max License และการโฮสต์เองจริงจังต้องมี GPU หลายโหนด การทำงานแบบกระจาย และทีมปฏิบัติการที่เชี่ยวชาญ
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Alibaba’s Qwen3.8-2.4T-A95B, and what do its open-weight release, Qwen-Max-class status, 2.4-trillion-parameter/95-billion-active-pa. Article summary: Alibaba’s Qwen3.8-2.4T-A95B is an open-weight, text-generation release of its Qwen3.8-Max/“Max-class” flagship: a very large sparse Mixture-of-Experts (MoE) model rather than a model that can realistically be run like an. Topic tags: general, documentation, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
Qwen3.8-2.4T-A95B คือโมเดลแบบ โอเพนเวต ของ Alibaba ที่อยู่ในกลุ่มเรือธง Qwen3.8-Max จุดสำคัญไม่ใช่ว่าโมเดลขนาด 2.4 ล้านล้านพารามิเตอร์จะรันได้ง่ายขึ้นทันที แต่คือองค์กรสามารถดาวน์โหลดและปรับแต่งเวตในระดับนี้ได้ แทนที่จะต้องพึ่ง API แบบมีผู้ให้บริการจัดการเพียงทางเดียว จึงเหมาะกับผู้ให้บริการคลาวด์ องค์กรขนาดใหญ่ งานวิจัย หรือระบบที่มีข้อกำหนดด้านการกำกับดูแลและข้อมูล ซึ่งมีศักยภาพด้านการทำ inference แบบกระจายจริงจัง 1
18
21
สเปกสำคัญ: 2.4T ทั้งหมด แต่ active ราว 95B ต่อโทเค็น
Qwen3.8-2.4T-A95B เป็นโมเดลสร้างข้อความแบบ sparse Mixture-of-Experts (MoE) มีพารามิเตอร์รวม 2.4 ล้านล้านตัว แต่จะเปิดใช้พารามิเตอร์ราว 95 พันล้านตัวต่อโทเค็น เอกสารของ NVIDIA ระบุว่ามี 92 เลเยอร์, routed experts 512 ตัว และเลือกใช้งานแบบ top-10 routing 18
21
ความต่างระหว่าง “พารามิเตอร์ทั้งหมด” กับ “พารามิเตอร์ที่ทำงานต่อโทเค็น” มีนัยสำคัญ: MoE ไม่ได้คำนวณทุกพารามิเตอร์ในทุกโทเค็น จึงช่วยลดงานคำนวณต่อโทเค็นเมื่อเทียบกับโมเดล dense ที่มีขนาดรวมใกล้กัน แต่ไม่ได้ทำให้ภาระการเก็บหรือกระจายเวตหายไป ผู้ใช้งานยังต้องรับมือกับการแบ่งงาน experts, หน่วยความจำ, เครือข่ายความเร็วสูง และ KV cache ในระดับมาก
สถาปัตยกรรมผสาน Gated DeltaNet กับ gated attention เพื่อรองรับงานข้อความที่ต้องใช้คอนเท็กซ์ยาว อย่างไรก็ดี การประเมินว่าระบบเหมาะใช้งานจริงหรือไม่ ต้องดูผลแบบ end-to-end ตามความยาวพรอมป์ต์ จำนวนคำขอพร้อมกัน รูปแบบความละเอียดตัวเลข และ serving stack ที่ใช้ 1
19
คอนเท็กซ์ยาว 262K ถึง 1M โทเค็น: ทำได้ ไม่ได้แปลว่าคุ้มทุกงาน
ความยาวคอนเท็กซ์ดั้งเดิมของโมเดลคือ 262,144 โทเค็น ขณะที่เอกสาร NVIDIA ระบุการดีพลอยที่มีหน้าต่างคอนเท็กซ์ 1 ล้านโทเค็น และเพดานเอาต์พุตที่ระบุไว้ราว 131K โทเค็น 1
19
21
ตัวเลขเหล่านี้ไม่ควรถูกตีความว่า ทุกคำขอระดับล้านโทเค็นจะเร็ว ราคาถูก หรือให้คุณภาพเท่ากันเสมอ พรอมป์ต์ที่ยาวขึ้นเพิ่มภาระช่วง prefill และใช้ KV cache มากขึ้น ทีมที่ต้องวิเคราะห์เอกสารขนาดใหญ่ ทำ retrieval จากคลังข้อมูล หรือรัน agent ที่มีบันทึกการทำงานยาว ควรทดสอบด้วยความยาวอินพุตและรูปแบบ concurrency ที่ใกล้กับงานจริง
การให้เหตุผลและงาน agent: โมเดลเก่งอย่างเดียวไม่พอ
โมเดลรองรับการตั้งค่า reasoning_effort เป็น low, medium และ xhigh เพื่อแลกความเร็วและต้นทุนกับระดับการไตร่ตรองที่ลึกขึ้น โดยค่าตั้งต้นเน้นการคงเนื้อหาการคิดไว้ 1
จึงเป็นตัวเลือกที่น่าสนใจสำหรับงานข้อความซับซ้อน เช่น การเขียนโค้ด การสังเคราะห์งานวิจัย การวิเคราะห์เอกสารยาว และเวิร์กโฟลว์แบบ agent แต่ระบบ agent ที่พร้อมใช้งานจริงไม่ได้ประกอบด้วยโมเดลเพียงอย่างเดียว ยังต้องมีนิยามเครื่องมือ การกำหนดสิทธิ์ การแยกสภาพแวดล้อมรันงาน กลไก retry การสังเกตการณ์ และชุดประเมินผลในฝั่งแอปพลิเคชัน
ข้อจำกัดสำคัญคือ checkpoint แบบโอเพนเวตเป็น โมเดลข้อความเท่านั้น และรายงานเกี่ยวกับรุ่นนี้ระบุว่าไม่สามารถปิดโหมดคิดได้ องค์กรที่ต้องรับภาพหรือวิดีโอ ต้องการเส้นทางตอบแชตแบบหน่วงต่ำโดยไม่ใช้ reasoning หรืออยากได้เครื่องมือสำเร็จรูป ควรแยกความต่างระหว่าง checkpoint ที่ดาวน์โหลดได้กับบริการ Qwen3.8-Max แบบโฮสต์ 3
8
21
โอเพนเวตเพิ่ม “อำนาจควบคุม” ไม่ได้ลดความยากในการปฏิบัติการ
การเข้าถึงเวตเปิดโอกาสให้ทีมกำหนดตำแหน่งข้อมูล รูปแบบการดีพลอย การปรับแต่ง และ post-training ได้เอง แพลตฟอร์ม NeMo AutoModel ของ NVIDIA รองรับ full-parameter fine-tuning ร่วมกับ FSDP2, expert parallelism และ pipeline parallelism ซึ่งเป็นเส้นทางสำหรับองค์กรที่ต้องปรับโมเดลให้เข้ากับงานของตน 18
แต่ข้อแลกเปลี่ยนคือมาตรฐานการปฏิบัติการสูงมาก เอกสาร NIM ของ NVIDIA ระบุแนวทางดีพลอยที่รองรับเฉพาะ GB300-NVL72 ต้องมีอย่างน้อย 4 โหนด และใช้ Kubernetes ส่วนสูตร Dynamo ระบุการให้บริการผ่าน vLLM หรือ SGLang ด้วย FP8 สำหรับเวตและ KV cache, tensor parallelism และ KV-aware routing โดยหนึ่งคอนฟิกูเรชันที่ระบุใช้ GPU GB300 จำนวน 16 ตัวบน 4 โหนด 19
21
นี่คือสูตรการดีพลอยที่ผู้ขายรองรับ ไม่ใช่สเปกขั้นต่ำตายตัวสำหรับทุกกรณี แต่สะท้อนระดับโครงสร้างพื้นฐานที่ตั้งใจให้โมเดลนี้ทำงานด้วย กล่าวโดยตรง โมเดลนี้ไม่ใช่สิ่งที่จะนำไปรันบนโน้ตบุ๊ก เวิร์กสเตชัน หรือเซิร์ฟเวอร์เดี่ยวทั่วไปได้อย่างสมเหตุสมผล
รูปแบบการให้บริการที่กำหนดต้นทุนและประสบการณ์ใช้งาน
สำหรับโมเดลระดับนี้ การออกแบบโครงสร้างพื้นฐานอาจเป็นตัวตัดสินว่าระบบจะใช้งานได้จริงหรือไม่
- Quantization: รูปแบบความละเอียดต่ำช่วยลดความต้องการหน่วยความจำของโมเดลได้ แต่ต้องตรวจสอบคุณภาพและเสถียรภาพกับงานเป้าหมายจริง AWS ยก FP8, MXFP4 และ NVFP4 เป็นตัวอย่างรูปแบบที่ใช้ลดหน่วยความจำสำหรับ inference
- แยก prefill ออกจาก decode: การประมวลผลพรอมป์ต์และการสร้างโทเค็นทีละตัวมีคอขวดต่างกัน AWS อธิบายว่าการแยกทั้งสองส่วนไปยัง GPU pool คนละชุดช่วยลดการรบกวนกัน และอาจปรับปรุงความหน่วงต่อโทเค็นสำหรับเวิร์กโหลดที่เหมาะสม
- Speculative decoding: กลไกที่ถูกกว่าจะเสนอชุดโทเค็นล่วงหน้า แล้วให้โมเดลหลักตรวจสอบ ช่วยลดงาน decode แบบต่อเนื่องได้เมื่อโทเค็นที่เสนอได้รับการยอมรับ
- การเสิร์ฟแบบกระจาย: สูตรของ NVIDIA จับคู่โมเดลกับ vLLM หรือ SGLang และใช้ KV-aware routing, FP8 กับการทำงานข้ามหลายโหนดบนระบบ GB200 หรือ GB300
19
NVIDIA รายงานผลทดสอบมากกว่า 4,000 โทเค็นต่อวินาทีต่อ GPU และมากกว่า 350 โทเค็นต่อวินาทีต่อผู้ใช้ สำหรับคอนฟิกูเรชัน Day-0 บน GB300 NVL72 ที่ใช้ FP8 ตัวเลขดังกล่าวเป็นการวัดโดยผู้ขายภายใต้ฮาร์ดแวร์และซอฟต์แวร์เฉพาะ ไม่ใช่ค่าที่รับประกันสำหรับทุกเวิร์กโหลดในระบบจริง
ไลเซนส์: โอเพนเวตไม่เท่ากับไลเซนส์เสรี
โมเดลนี้ใช้ Qwen3.8-Max License แบบกำหนดเงื่อนไขเอง ไม่ใช่ Apache-2.0 หรือ MIT โดยไลเซนส์อนุญาตอย่างกว้างขวางให้ใช้ แก้ไข แจกจ่าย โฮสต์ fine-tune และสร้างผลงานต่อยอดได้ ภายใต้เงื่อนไขที่ระบุ
สรุปการเผยแพร่ระบุว่าธุรกิจ Model-as-a-Service และ AI work assistant บางประเภทที่มีรายได้เกินเกณฑ์ที่กำหนด ต้องปฏิบัติตามภาระเพิ่มเติม เนื่องจากเงื่อนไขเหล่านี้อาจส่งผลต่อการวางจำหน่ายเชิงพาณิชย์และการแจกจ่ายต่อ องค์กรควรตรวจข้อความไลเซนส์ฉบับปัจจุบัน และขอคำแนะนำทางกฎหมายก่อนส่งผลิตภัณฑ์ที่ใช้เวตชุดนี้ออกสู่ตลาด 3
10
Qwen3.8-Max แบบโฮสต์ ต่างจาก A95B ที่โฮสต์เองอย่างไร
Qwen3.8-Max แบบโฮสต์ถูกอธิบายว่าเป็นเวอร์ชันทางการที่สร้างบน A95B แต่เพิ่มความสามารถ ได้แก่ อินพุตภาพ โหมดไม่ใช้ reasoning คอนเท็กซ์ 1 ล้านโทเค็นเป็นค่าเริ่มต้น และเครื่องมือที่ผู้ให้บริการผสานไว้ให้ 8
12
ในทางปฏิบัติจึงแบ่งทางเลือกได้ชัดเจน:
- เลือก บริการแบบโฮสต์ หากให้ความสำคัญกับการขยายระบบที่มีผู้ดูแล ความสามารถหลายสื่อ เครื่องมือในตัว และภาระปฏิบัติการที่น้อยกว่า
- พิจารณา โฮสต์ A95B เอง หากอธิปไตยข้อมูล พฤติกรรมการเสิร์ฟที่ปรับเองได้ การ fine-tune หรือปริมาณใช้งานต่อเนื่องสูง คุ้มกับต้นทุนของระบบและทีมที่ต้องดูแล
ดังนั้น checkpoint แบบโอเพนเวตจึงไม่ใช่สิ่งทดแทนบริการจัดการแบบฟีเจอร์ต่อฟีเจอร์ แต่มันคือแกนโมเดลข้อความประสิทธิภาพสูงที่ผู้ใช้งานต้องสร้างชั้นผลิตภัณฑ์และโครงสร้างพื้นฐานรอบข้างเอง
อย่าตัดสินจากคะแนน benchmark เพียงอย่างเดียว
Qwen วางตำแหน่ง A95B เป็นโมเดลระดับ Max-class และเอกสารการเปิดตัวรายงานผลที่แข็งแกร่งใน benchmark ด้านโค้ด งานวิจัย และการให้เหตุผล ผลเหล่านี้เป็นสัญญาณที่มีประโยชน์ แต่ไม่ใช่หลักฐานว่าโมเดลจะดีที่สุดสำหรับทุกงานหรือทุกสภาพแวดล้อม 6
การตัดสินใจควรอิงการประเมินกับงานจริง: ภาษาที่ต้องรองรับ ลำดับการเรียกใช้เครื่องมือ ความยาว retrieval รูปแบบเอาต์พุต ข้อกำหนดด้านความปลอดภัย เป้าหมายความหน่วง และกรอบต้นทุน สำหรับทีมส่วนใหญ่ คำถามสำคัญไม่ใช่ “95B active น่าประทับใจแค่ไหน” แต่คือความสามารถที่เพิ่มขึ้นนั้นคุ้มกับค่าใช้จ่ายและความซับซ้อนของการปฏิบัติการโมเดล 2.4T หรือไม่
สรุป
Qwen3.8-2.4T-A95B เป็นการเปิดตัวโอเพนเวตที่มีนัยสำคัญ เพราะทำให้โมเดลข้อความระดับ Qwen-Max ขนาด 2.4T MoE พร้อมให้แก่องค์กรที่ต้องการควบคุมเวตและการดีพลอยเอง สถาปัตยกรรม sparse ช่วยให้ภาพด้านการคำนวณดีกว่าโมเดล dense ที่มีขนาดรวมเท่ากันโดยประมาณ แต่ยังคงเป็นโจทย์วิศวกรรมระบบแบบกระจายขนาดใหญ่
สำหรับทีมที่มีงบประมาณและความพร้อม อาจเป็นเส้นทางสู่ inference ข้อความระดับเรือธงที่ปรับแต่งได้และควบคุมข้อมูลได้เอง รวมถึงงาน post-training สำหรับทีมเล็กที่ต้องการรันโมเดลภายในแบบไม่ซับซ้อน โมเดลที่เล็กกว่าหรือ endpoint แบบมีผู้ให้บริการดูแล มักเป็นทางเลือกที่เป็นจริงกว่ามาก 18
19
21
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "Qwen3.8-2.4T-A95B: โมเดล Max-class แบบโอเพนเวต ที่เปิดทางเลือกมากขึ้น แต่ต้องแลกด้วยโครงสร้างพื้นฐานระดับคลัสเตอร์" คืออะไร
Qwen3.8 2.4T A95B คือโมเดลสร้างข้อความแบบโอเพนเวตในระดับ Qwen Max ของ Alibaba มีพารามิเตอร์รวม 2.4 ล้านล้านตัว แต่ใช้จริงราว 95 พันล้านตัวต่อโทเค็นผ่านสถาปัตยกรรม MoE
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
Qwen3.8 2.4T A95B คือโมเดลสร้างข้อความแบบโอเพนเวตในระดับ Qwen Max ของ Alibaba มีพารามิเตอร์รวม 2.4 ล้านล้านตัว แต่ใช้จริงราว 95 พันล้านตัวต่อโทเค็นผ่านสถาปัตยกรรม MoE โมเดลรองรับคอนเท็กซ์ดั้งเดิม 262,144 โทเค็น และบางสแตกการให้บริการรองรับได้ถึง 1 ล้านโทเค็น โดยมีเพดานเอาต์พุตราว 131K โทเค็น—แต่คอนเท็กซ์ยาวยิ่งเพิ่มภาระ prefill และ KV cache
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
โอเพนเวตไม่ได้แปลว่าไลเซนส์เสรีแบบ Apache 2.0: รุ่นนี้ใช้ Qwen3.8 Max License และการโฮสต์เองจริงจังต้องมี GPU หลายโหนด การทำงานแบบกระจาย และทีมปฏิบัติการที่เชี่ยวชาญ