คำตอบการวิจัย
ประเด็นสำคัญ Nvidia GB300 NVL72 ทำประสิทธิภาพได้สูงสุด 11,474 โทเคนต่อวินาทีต่อ GPU ขณะที่ Huawei Ascend 950DT รองรับ DeepSeek V4 Pro แบบเต็มระบบตั้งแต่วันเปิดตัว ซึ่งถือเป็นครั้งแรกที่แพลตฟอร์มที่ไม่ใช่ CUDA ทำได้ในระดับโมเดลแนวห... AMD MI355X เริ่มต้นด้วยประสิทธิภาพเพียง 20.4 โทเคนต่อวินาทีต่อ GPU และรองรับได้เพียง FP8 แต่หลังทีม SGLang ของ AMD รวมคำขอแก้ไขประสิทธิภาพ 31 รายการใน 26 วัน ตัวเลขเพิ่มเป็น 2,256 โทเคนต่อวินาทีต่อ GPU หรือดีขึ้น 110.... สถาปัตยกรรม Hybrid Attention ของ DeepSeek V4 ซึ่งประกอบด้วย CSA และ HCA ลดการประมวลผลต่อโทเคนเหลือ 27% และลดการใช้หน่วยความจำ KV cache เหลือประมาณ 10% เมื่อเทียบกับ V3.2 ที่บริบท 1 ล้านโทเคน [17][19][20][21][23] What key findings emerged from SemiAnalysis's 43-day performance analysis of DeepSeek V4 Pro inference across AMD MI355X, Nvidia GB300 NVL72 DeepSeek V4 Pro's 43-day inference performance timeline across Nvidia, AMD, and Huawei accelerators AI พรอมต์ Create a landscape editorial hero image for this Studio Global article: What key findings emerged from SemiAnalysis's 43-day performance analysis of DeepSeek V4 Pro inference across AMD MI355X, Nvidia GB300 NVL72. Article summary: Nvidia's GB300 NVL72 dominates raw throughput. Huawei's Ascend 950DT matched Nvidia on software readiness — a historic first. AMD's MI355X went from a broken launch to a 110.5x throughput recovery in 26 days, but still t. Topic tags: general, general web, user generated, documentation. Reference image context from search candidates: Reference image 1: visual subject "Sign up for Instagram to stay in the loop. Photo by NVIDIA on February 20, 2026. The latest SemiAnalysis InferenceX data proves that the best performance drives the lowest inferenc" source context "Instagram" Reference image 2: visual subject "DeepSeek V4 Pro 1.6T· GPU comparison. # DeepSeek V4 Pro
openai.com บทสรุปสั้น ๆ: ศึกนี้ไม่ได้วัดกันที่ชิปอย่างเดียว
เมื่อ DeepSeek เปิดตัว V4 Pro ซึ่งเป็นโมเดล Mixture-of-Experts ขนาด 1.6 ล้านล้านพารามิเตอร์เมื่อวันที่ 24 เมษายน 2026 คำถามสำคัญไม่ได้อยู่ที่คะแนนเบนช์มาร์กเพียงอย่างเดียว แต่คือ ฮาร์ดแวร์ที่วางจำหน่ายจริงสามารถให้บริการบริบทขนาด 1 ล้านโทเคนได้หรือไม่ โดยไม่ทำให้ต้นทุนพุ่งจนธุรกิจไปต่อไม่ได้
SemiAnalysis ใช้แพลตฟอร์ม InferenceX ติดตามประสิทธิภาพของตัวเร่ง AI รายใหญ่ตลอด 43 วัน ผลลัพธ์เผยให้เห็นความแตกต่างของระบบซอฟต์แวร์อย่างชัดเจน ตั้งแต่ความพร้อมใช้งานในวันแรก ไปจนถึงความเร็วในการแก้ปัญหาหลังเปิดตัว
วันเปิดตัว: Nvidia นำ แต่ Huawei ตามมาติด ๆ
ระบบของ Nvidia ที่ใช้สถาปัตยกรรม Blackwell ทั้ง B300 และระบบระดับแร็ก GB300 NVL72 พร้อมใช้งานตั้งแต่วันแรก โดยเฟรมเวิร์ก vLLM และ SGLang ทำงานได้ทันที B300 ทำได้ 8,075 โทเคนต่อวินาทีต่อ GPU ในการทดสอบช่วงเปิดตัว
คนยังถาม คำตอบสั้น ๆ สำหรับ "DeepSeek V4 Pro กับศึก GPU 43 วัน: AMD ฟื้นตัว 110 เท่า ขณะที่ซอฟต์แวร์คือเกมที่แท้จริง" คืออะไร Nvidia GB300 NVL72 ทำประสิทธิภาพได้สูงสุด 11,474 โทเคนต่อวินาทีต่อ GPU ขณะที่ Huawei Ascend 950DT รองรับ DeepSeek V4 Pro แบบเต็มระบบตั้งแต่วันเปิดตัว ซึ่งถือเป็นครั้งแรกที่แพลตฟอร์มที่ไม่ใช่ CUDA ทำได้ในระดับโมเดลแนวห...
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร? Nvidia GB300 NVL72 ทำประสิทธิภาพได้สูงสุด 11,474 โทเคนต่อวินาทีต่อ GPU ขณะที่ Huawei Ascend 950DT รองรับ DeepSeek V4 Pro แบบเต็มระบบตั้งแต่วันเปิดตัว ซึ่งถือเป็นครั้งแรกที่แพลตฟอร์มที่ไม่ใช่ CUDA ทำได้ในระดับโมเดลแนวห... AMD MI355X เริ่มต้นด้วยประสิทธิภาพเพียง 20.4 โทเคนต่อวินาทีต่อ GPU และรองรับได้เพียง FP8 แต่หลังทีม SGLang ของ AMD รวมคำขอแก้ไขประสิทธิภาพ 31 รายการใน 26 วัน ตัวเลขเพิ่มเป็น 2,256 โทเคนต่อวินาทีต่อ GPU หรือดีขึ้น 110....
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ? สถาปัตยกรรม Hybrid Attention ของ DeepSeek V4 ซึ่งประกอบด้วย CSA และ HCA ลดการประมวลผลต่อโทเคนเหลือ 27% และลดการใช้หน่วยความจำ KV cache เหลือประมาณ 10% เมื่อเทียบกับ V3.2 ที่บริบท 1 ล้านโทเคน [17][19][20][21][23]
คำตอบการวิจัย
ประเด็นสำคัญ Nvidia GB300 NVL72 ทำประสิทธิภาพได้สูงสุด 11,474 โทเคนต่อวินาทีต่อ GPU ขณะที่ Huawei Ascend 950DT รองรับ DeepSeek V4 Pro แบบเต็มระบบตั้งแต่วันเปิดตัว ซึ่งถือเป็นครั้งแรกที่แพลตฟอร์มที่ไม่ใช่ CUDA ทำได้ในระดับโมเดลแนวห... AMD MI355X เริ่มต้นด้วยประสิทธิภาพเพียง 20.4 โทเคนต่อวินาทีต่อ GPU และรองรับได้เพียง FP8 แต่หลังทีม SGLang ของ AMD รวมคำขอแก้ไขประสิทธิภาพ 31 รายการใน 26 วัน ตัวเลขเพิ่มเป็น 2,256 โทเคนต่อวินาทีต่อ GPU หรือดีขึ้น 110.... สถาปัตยกรรม Hybrid Attention ของ DeepSeek V4 ซึ่งประกอบด้วย CSA และ HCA ลดการประมวลผลต่อโทเคนเหลือ 27% และลดการใช้หน่วยความจำ KV cache เหลือประมาณ 10% เมื่อเทียบกับ V3.2 ที่บริบท 1 ล้านโทเคน [17][19][20][21][23] What key findings emerged from SemiAnalysis's 43-day performance analysis of DeepSeek V4 Pro inference across AMD MI355X, Nvidia GB300 NVL72 DeepSeek V4 Pro's 43-day inference performance timeline across Nvidia, AMD, and Huawei accelerators AI พรอมต์ Create a landscape editorial hero image for this Studio Global article: What key findings emerged from SemiAnalysis's 43-day performance analysis of DeepSeek V4 Pro inference across AMD MI355X, Nvidia GB300 NVL72. Article summary: Nvidia's GB300 NVL72 dominates raw throughput. Huawei's Ascend 950DT matched Nvidia on software readiness — a historic first. AMD's MI355X went from a broken launch to a 110.5x throughput recovery in 26 days, but still t. Topic tags: general, general web, user generated, documentation. Reference image context from search candidates: Reference image 1: visual subject "Sign up for Instagram to stay in the loop. Photo by NVIDIA on February 20, 2026. The latest SemiAnalysis InferenceX data proves that the best performance drives the lowest inferenc" source context "Instagram" Reference image 2: visual subject "DeepSeek V4 Pro 1.6T· GPU comparison. # DeepSeek V4 Pro
openai.com บทสรุปสั้น ๆ: ศึกนี้ไม่ได้วัดกันที่ชิปอย่างเดียว
เมื่อ DeepSeek เปิดตัว V4 Pro ซึ่งเป็นโมเดล Mixture-of-Experts ขนาด 1.6 ล้านล้านพารามิเตอร์เมื่อวันที่ 24 เมษายน 2026 คำถามสำคัญไม่ได้อยู่ที่คะแนนเบนช์มาร์กเพียงอย่างเดียว แต่คือ ฮาร์ดแวร์ที่วางจำหน่ายจริงสามารถให้บริการบริบทขนาด 1 ล้านโทเคนได้หรือไม่ โดยไม่ทำให้ต้นทุนพุ่งจนธุรกิจไปต่อไม่ได้
SemiAnalysis ใช้แพลตฟอร์ม InferenceX ติดตามประสิทธิภาพของตัวเร่ง AI รายใหญ่ตลอด 43 วัน ผลลัพธ์เผยให้เห็นความแตกต่างของระบบซอฟต์แวร์อย่างชัดเจน ตั้งแต่ความพร้อมใช้งานในวันแรก ไปจนถึงความเร็วในการแก้ปัญหาหลังเปิดตัว
วันเปิดตัว: Nvidia นำ แต่ Huawei ตามมาติด ๆ
ระบบของ Nvidia ที่ใช้สถาปัตยกรรม Blackwell ทั้ง B300 และระบบระดับแร็ก GB300 NVL72 พร้อมใช้งานตั้งแต่วันแรก โดยเฟรมเวิร์ก vLLM และ SGLang ทำงานได้ทันที B300 ทำได้ 8,075 โทเคนต่อวินาทีต่อ GPU ในการทดสอบช่วงเปิดตัว
คนยังถาม คำตอบสั้น ๆ สำหรับ "DeepSeek V4 Pro กับศึก GPU 43 วัน: AMD ฟื้นตัว 110 เท่า ขณะที่ซอฟต์แวร์คือเกมที่แท้จริง" คืออะไร Nvidia GB300 NVL72 ทำประสิทธิภาพได้สูงสุด 11,474 โทเคนต่อวินาทีต่อ GPU ขณะที่ Huawei Ascend 950DT รองรับ DeepSeek V4 Pro แบบเต็มระบบตั้งแต่วันเปิดตัว ซึ่งถือเป็นครั้งแรกที่แพลตฟอร์มที่ไม่ใช่ CUDA ทำได้ในระดับโมเดลแนวห...
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร? Nvidia GB300 NVL72 ทำประสิทธิภาพได้สูงสุด 11,474 โทเคนต่อวินาทีต่อ GPU ขณะที่ Huawei Ascend 950DT รองรับ DeepSeek V4 Pro แบบเต็มระบบตั้งแต่วันเปิดตัว ซึ่งถือเป็นครั้งแรกที่แพลตฟอร์มที่ไม่ใช่ CUDA ทำได้ในระดับโมเดลแนวห... AMD MI355X เริ่มต้นด้วยประสิทธิภาพเพียง 20.4 โทเคนต่อวินาทีต่อ GPU และรองรับได้เพียง FP8 แต่หลังทีม SGLang ของ AMD รวมคำขอแก้ไขประสิทธิภาพ 31 รายการใน 26 วัน ตัวเลขเพิ่มเป็น 2,256 โทเคนต่อวินาทีต่อ GPU หรือดีขึ้น 110....
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ? สถาปัตยกรรม Hybrid Attention ของ DeepSeek V4 ซึ่งประกอบด้วย CSA และ HCA ลดการประมวลผลต่อโทเคนเหลือ 27% และลดการใช้หน่วยความจำ KV cache เหลือประมาณ 10% เมื่อเทียบกับ V3.2 ที่บริบท 1 ล้านโทเคน [17][19][20][21][23]
จุดเด่นของ Nvidia ไม่ได้มีแค่ตัวชิป แต่รวมถึง CUDA ซึ่งเป็นระบบซอฟต์แวร์ เครื่องมือ และไลบรารีที่นักพัฒนา AI ใช้งานกันอย่างแพร่หลาย ความพร้อมของซอฟต์แวร์ทำให้ฮาร์ดแวร์รุ่นใหม่สามารถนำไปใช้งานจริงได้แทบจะทันที
ด้าน Huawei สร้างความเปลี่ยนแปลงที่น่าจับตา Ascend 950DT เมื่อทำงานร่วมกับเฟรมเวิร์ก CANN รองรับ DeepSeek V4 Pro แบบเต็มสแตกตั้งแต่วันเปิดตัวได้ในระดับเดียวกับ Nvidia
ผลทดสอบอิสระบน Ascend 950PR ยังระบุว่า การประมวลผลแบบ FP4 ทำได้เร็วกว่า Nvidia H20 อยู่ 2.87 เท่า และการอนุมานโมเดล MoE ในงาน RL rollout เร็วขึ้นได้สูงสุด 1.96 เท่า
AMD จากจุดเริ่มต้นที่ล้มเหลว สู่การเร่งความเร็ว 110.5 เท่า ฝั่ง AMD มีจุดเริ่มต้นที่ตรงกันข้ามอย่างมาก MI355X ไม่สามารถใช้เช็กพอยต์แบบ native FP4+FP8 ของ V4 Pro ได้ในวันเปิดตัว และในช่วงแรกทำงานได้เพียง FP8 โดยให้ประสิทธิภาพ 20.4 โทเคนต่อวินาทีต่อ GPU หรือ 2.4 โทเคนต่อวินาทีต่อผู้ใช้ ในเวิร์กโหลด 8K/1K
ปัญหาหลักไม่ได้อยู่ที่ความสามารถของชิปเพียงอย่างเดียว แต่เป็นซอฟต์แวร์ในสแตก ROCm ที่ยังไม่ได้รับการปรับให้เหมาะกับโมเดล MoE ขนาดใหญ่มากเช่นนี้
จากนั้นทีมวิศวกร SGLang ของ AMD ภายใต้การนำด้านเทคนิคของ HaiShaw ได้เร่งแก้ไขระบบอย่างต่อเนื่อง โดยรวมคำขอแก้ไขประสิทธิภาพ 31 รายการไว้ในสาขา amd/deepseek_v4 ของ SGLang
ภายในวันที่ 26 หรือวันที่ 20 พฤษภาคม 2026 MI355X ทำได้ 2,256 โทเคนต่อวินาทีต่อ GPU ที่ความเร็ว 9.4 โทเคนต่อวินาทีต่อผู้ใช้ในเวิร์กโหลดเดิม ตัวเลขนี้เพิ่มขึ้น 110.5 เท่าจากจุดเริ่มต้น และความเร็วตอบสนองต่อผู้ใช้ก็ดีขึ้น 3.85 เท่าพร้อมกัน
นี่เป็นกรณีที่พบไม่บ่อยนัก เพราะโดยทั่วไปการเพิ่มจำนวนงานรวมต่อ GPU กับการลดเวลารอของผู้ใช้มักต้องแลกกัน แต่การปรับซอฟต์แวร์ครั้งนี้ทำให้ทั้งสองด้านดีขึ้นพร้อมกัน
ตารางเปรียบเทียบหลังติดตาม 43 วัน แพลตฟอร์ม ประสิทธิภาพโดยประมาณ (โทเคน/วินาที/GPU) ต้นทุน (ดอลลาร์/ล้านโทเคน) การรองรับวันเปิดตัว ข้อจำกัดสำคัญ Nvidia GB300 NVL72 8,075–11,474 0.064–0.166 รองรับเต็มรูปแบบผ่าน CUDA, vLLM และ SGLang การจัดหาอุปกรณ์ AMD MI355X หลังวันที่ 26 1,411–2,256 0.291–0.585 ในบางจุดทดสอบ ช่วงแรกมีปัญหาและรองรับเพียง FP8 ก่อนแก้ไข ความพร้อมของ ROCm Nvidia B200 ราว 1,411 0.387 ในจุดเปรียบเทียบหนึ่ง รองรับเต็มรูปแบบผ่าน CUDA และ Dynamo TRT อยู่ในตำแหน่งตลาดระดับกลาง Huawei Ascend 950DT ยังไม่มีตัวเลขโทเคนต่อวินาทีต่อ GPU ที่เปิดเผยต่อสาธารณะ ยังไม่มีข้อมูล รองรับเต็มรูปแบบผ่าน CANN ตั้งแต่วันเปิดตัว ประสิทธิภาพสูงสุดถูกจำกัดด้วยการผลิตชิป Nvidia H200 186 ยังไม่มีข้อมูล รองรับเต็มรูปแบบผ่าน CUDA เป็น Hopper รุ่นก่อนหน้า
ตัวเลขด้านต้นทุนสะท้อนภาพทางเศรษฐศาสตร์ได้ชัดเจน ที่ระดับการตอบสนองต่ำ GB300 NVL72 มีต้นทุนราว 0.064 ดอลลาร์ต่อ 1 ล้านโทเคน ถูกกว่า MI355X ที่ 0.291 ดอลลาร์ประมาณ 4.5 เท่า
อย่างไรก็ตาม เมื่อเพิ่มความเร็วต่อผู้ใช้และลดจำนวนผู้ใช้พร้อมกัน MI355X สามารถแข่งขันด้านต้นทุนกับ B200 ได้ในบางจุด โดยทั้งสองระบบอยู่ที่ประมาณ 1.22–1.45 ดอลลาร์ต่อ 1 ล้านโทเคน เมื่อมีผู้ใช้พร้อมกันราว 23–24 ราย
ตัวเลขเหล่านี้ควรอ่านเป็นผลจากจุดการทำงานและเงื่อนไขทดสอบเฉพาะ ไม่ใช่ราคาคงที่สำหรับทุกศูนย์ข้อมูลหรือทุกการใช้งาน
เบื้องหลังความเป็นไปได้: Hybrid Attention ของ DeepSeek V4 ถึงฮาร์ดแวร์จะเร็วเพียงใด การให้บริการโมเดล 1.6 ล้านล้านพารามิเตอร์ที่มีบริบท 1 ล้านโทเคนก็ยังเป็นงานที่มีต้นทุนสูง หากโมเดลใช้กลไก attention แบบมาตรฐาน
ใน Transformer ทั่วไป ต้นทุนการคำนวณของ attention เพิ่มขึ้นแบบกำลังสองตามความยาวบริบท ขณะที่ KV cache ซึ่งเก็บข้อมูลสำคัญจากโทเคนก่อนหน้าใช้หน่วยความจำเพิ่มขึ้นตามความยาวของลำดับ เมื่อบริบทขยายถึง 1 ล้านโทเคน ทั้งการคำนวณและหน่วยความจำจึงกลายเป็นคอขวด
DeepSeek V4 แก้ปัญหานี้ด้วย Hybrid Attention ที่รวมกลไกสองแบบเข้าด้วยกัน
1. Compressed Sparse Attention หรือ CSA CSA บีบอัดโทเคนประมาณ 4 โทเคนให้เป็นรายการ KV เดียวที่เรียนรู้จากข้อมูล โดยใช้หน้าต่างซ้อนทับและการให้น้ำหนักตามเนื้อหา จากนั้นระบบจะเลือกสนใจเฉพาะรายการที่เกี่ยวข้องมากที่สุด แทนที่จะอ่านทุกตำแหน่งในบริบท
ส่วนประกอบที่เรียกว่า Lightning Indexer ทำหน้าที่จัดอันดับและเลือกบล็อก KV ที่เหมาะสมสำหรับแต่ละคำถาม ขณะเดียวกันยังมี attention แบบหน้าต่างเลื่อนเพื่อรักษาความแม่นยำของข้อมูลในบริเวณใกล้เคียง
2. Heavily Compressed Attention หรือ HCA HCA บีบอัดข้อมูลมากกว่าเดิม โดยรวมโทเคนได้สูงสุด 128 โทเคนให้เป็นรายการ KV เดียว แล้วใช้ dense attention กับสตรีมข้อมูลที่ถูกบีบอัดนี้
วิธีนี้แลกความละเอียดในการค้นคืนข้อมูลกับการมองภาพรวมของบริบททั้งหมด HCA จึงเหมาะกับเลเยอร์ช่วงต้นเพื่อให้โมเดลเห็นภาพรวมอย่างประหยัด ขณะที่เลเยอร์สุดท้ายยังคงใช้ attention ที่ละเอียดกว่าเพื่อรักษาความแม่นยำ
ตัวเลขที่เปลี่ยนเกมการให้บริการบริบท 1 ล้านโทเคน เมื่อเทียบกับ DeepSeek V3.2 ที่บริบท 1 ล้านโทเคน DeepSeek V4 Pro ต้องใช้ทรัพยากรเพียง:
27% ของ FLOPs ต่อโทเคน หรือลดลง 73% ประมาณ 10% ของหน่วยความจำ KV cache หรือลดลงราว 90% เมื่อเทียบกับสถาปัตยกรรม GQA ที่ใช้ bfloat16 ขนาด KV cache ของ V4 อยู่ที่ประมาณ 2% ของฐานเปรียบเทียบดังกล่าว
สำหรับรุ่นเล็กกว่าอย่าง V4 Flash การใช้ FLOPs ลดเหลือ 10% และ KV cache เหลือ 7% เมื่อเทียบกับ V3.2
พูดให้เห็นภาพง่าย ๆ คือ หากไม่มี CSA และ HCA การให้บริการ V4 Pro ที่มีบริบท 1 ล้านโทเคนอาจเป็นเพียงโครงการทดลองที่น่าสนใจแต่ไม่คุ้มค่าเชิงพาณิชย์ แต่เมื่อมีสถาปัตยกรรมนี้ โมเดลจึงขยับเข้าใกล้การเป็นผลิตภัณฑ์ที่นำไปใช้งานจริงได้
ความหมายต่อการแข่งขันของวงการ AI ข้อมูลตลอด 43 วันสะท้อนบทเรียนสำคัญสามด้าน
หนึ่ง Nvidia ยังมีความได้เปรียบเชิงระบบอย่างชัดเจน CUDA พร้อมใช้งานตั้งแต่วันแรกกับฮาร์ดแวร์หลายรุ่น และ GB300 ยังนำด้านประสิทธิภาพดิบรวมถึงต้นทุนต่อโทเคนในหลายจุดการทำงาน
สอง Huawei ลดช่องว่างด้านความพร้อมของซอฟต์แวร์ลงได้อย่างมีนัยสำคัญ การที่ Ascend และ CANN รองรับ V4 Pro แบบเต็มระบบตั้งแต่วันเปิดตัว แสดงให้เห็นว่าแพลตฟอร์มที่ไม่ใช่ CUDA สามารถก้าวขึ้นมาอยู่ในระดับเดียวกันด้านความพร้อมใช้งานได้ แม้ข้อจำกัดด้านการผลิตยังส่งผลต่อประสิทธิภาพสูงสุด
สาม AMD แสดงให้เห็นทั้งศักยภาพและจุดอ่อนของระบบนิเวศ ROCm การเพิ่มประสิทธิภาพ 110.5 เท่าใน 26 วันเป็นผลงานที่น่าทึ่ง แต่การต้องใช้ความพยายามด้านวิศวกรรมอย่างเข้มข้นเพื่อรองรับโมเดลใหม่แต่ละรุ่น ก็สะท้อนว่า ROCm ยังมีช่องว่างด้านความพร้อมเมื่อเทียบกับ CUDA
ท้ายที่สุด ฮาร์ดแวร์เป็นเพียงครึ่งหนึ่งของสมการ ส่วนที่อาจสำคัญกว่าคือการออกแบบโมเดล DeepSeek V4 ไม่ได้แค่ทำให้โมเดลฉลาดขึ้นหรือมีบริบทที่ยาวขึ้น แต่ทำให้ต้นทุนการให้บริการบริบทระดับ 1 ล้านโทเคนลดลงจนเริ่มใช้งานเชิงพาณิชย์ได้จริง
เมื่อโมเดลขนาด 1.6 ล้านล้านพารามิเตอร์สามารถให้บริการได้ด้วยต้นทุนระดับไม่กี่เซนต์ต่อ 1 ล้านโทเคนบนฮาร์ดแวร์ที่เหมาะสม คำถามของอุตสาหกรรมจึงเปลี่ยนจาก “ทำได้หรือไม่” ไปสู่ “เราจะสร้างอะไรด้วยความสามารถนี้”
dev.to
DeepSeek V4 on Huawei's Ascend 950: A Real Stress Test for ...
จุดเด่นของ Nvidia ไม่ได้มีแค่ตัวชิป แต่รวมถึง CUDA ซึ่งเป็นระบบซอฟต์แวร์ เครื่องมือ และไลบรารีที่นักพัฒนา AI ใช้งานกันอย่างแพร่หลาย ความพร้อมของซอฟต์แวร์ทำให้ฮาร์ดแวร์รุ่นใหม่สามารถนำไปใช้งานจริงได้แทบจะทันที
ด้าน Huawei สร้างความเปลี่ยนแปลงที่น่าจับตา Ascend 950DT เมื่อทำงานร่วมกับเฟรมเวิร์ก CANN รองรับ DeepSeek V4 Pro แบบเต็มสแตกตั้งแต่วันเปิดตัวได้ในระดับเดียวกับ Nvidia
ผลทดสอบอิสระบน Ascend 950PR ยังระบุว่า การประมวลผลแบบ FP4 ทำได้เร็วกว่า Nvidia H20 อยู่ 2.87 เท่า และการอนุมานโมเดล MoE ในงาน RL rollout เร็วขึ้นได้สูงสุด 1.96 เท่า
AMD จากจุดเริ่มต้นที่ล้มเหลว สู่การเร่งความเร็ว 110.5 เท่า ฝั่ง AMD มีจุดเริ่มต้นที่ตรงกันข้ามอย่างมาก MI355X ไม่สามารถใช้เช็กพอยต์แบบ native FP4+FP8 ของ V4 Pro ได้ในวันเปิดตัว และในช่วงแรกทำงานได้เพียง FP8 โดยให้ประสิทธิภาพ 20.4 โทเคนต่อวินาทีต่อ GPU หรือ 2.4 โทเคนต่อวินาทีต่อผู้ใช้ ในเวิร์กโหลด 8K/1K
ปัญหาหลักไม่ได้อยู่ที่ความสามารถของชิปเพียงอย่างเดียว แต่เป็นซอฟต์แวร์ในสแตก ROCm ที่ยังไม่ได้รับการปรับให้เหมาะกับโมเดล MoE ขนาดใหญ่มากเช่นนี้
จากนั้นทีมวิศวกร SGLang ของ AMD ภายใต้การนำด้านเทคนิคของ HaiShaw ได้เร่งแก้ไขระบบอย่างต่อเนื่อง โดยรวมคำขอแก้ไขประสิทธิภาพ 31 รายการไว้ในสาขา amd/deepseek_v4 ของ SGLang
ภายในวันที่ 26 หรือวันที่ 20 พฤษภาคม 2026 MI355X ทำได้ 2,256 โทเคนต่อวินาทีต่อ GPU ที่ความเร็ว 9.4 โทเคนต่อวินาทีต่อผู้ใช้ในเวิร์กโหลดเดิม ตัวเลขนี้เพิ่มขึ้น 110.5 เท่าจากจุดเริ่มต้น และความเร็วตอบสนองต่อผู้ใช้ก็ดีขึ้น 3.85 เท่าพร้อมกัน
นี่เป็นกรณีที่พบไม่บ่อยนัก เพราะโดยทั่วไปการเพิ่มจำนวนงานรวมต่อ GPU กับการลดเวลารอของผู้ใช้มักต้องแลกกัน แต่การปรับซอฟต์แวร์ครั้งนี้ทำให้ทั้งสองด้านดีขึ้นพร้อมกัน
ตารางเปรียบเทียบหลังติดตาม 43 วัน แพลตฟอร์ม ประสิทธิภาพโดยประมาณ (โทเคน/วินาที/GPU) ต้นทุน (ดอลลาร์/ล้านโทเคน) การรองรับวันเปิดตัว ข้อจำกัดสำคัญ Nvidia GB300 NVL72 8,075–11,474 0.064–0.166 รองรับเต็มรูปแบบผ่าน CUDA, vLLM และ SGLang การจัดหาอุปกรณ์ AMD MI355X หลังวันที่ 26 1,411–2,256 0.291–0.585 ในบางจุดทดสอบ ช่วงแรกมีปัญหาและรองรับเพียง FP8 ก่อนแก้ไข ความพร้อมของ ROCm Nvidia B200 ราว 1,411 0.387 ในจุดเปรียบเทียบหนึ่ง รองรับเต็มรูปแบบผ่าน CUDA และ Dynamo TRT อยู่ในตำแหน่งตลาดระดับกลาง Huawei Ascend 950DT ยังไม่มีตัวเลขโทเคนต่อวินาทีต่อ GPU ที่เปิดเผยต่อสาธารณะ ยังไม่มีข้อมูล รองรับเต็มรูปแบบผ่าน CANN ตั้งแต่วันเปิดตัว ประสิทธิภาพสูงสุดถูกจำกัดด้วยการผลิตชิป Nvidia H200 186 ยังไม่มีข้อมูล รองรับเต็มรูปแบบผ่าน CUDA เป็น Hopper รุ่นก่อนหน้า
ตัวเลขด้านต้นทุนสะท้อนภาพทางเศรษฐศาสตร์ได้ชัดเจน ที่ระดับการตอบสนองต่ำ GB300 NVL72 มีต้นทุนราว 0.064 ดอลลาร์ต่อ 1 ล้านโทเคน ถูกกว่า MI355X ที่ 0.291 ดอลลาร์ประมาณ 4.5 เท่า
อย่างไรก็ตาม เมื่อเพิ่มความเร็วต่อผู้ใช้และลดจำนวนผู้ใช้พร้อมกัน MI355X สามารถแข่งขันด้านต้นทุนกับ B200 ได้ในบางจุด โดยทั้งสองระบบอยู่ที่ประมาณ 1.22–1.45 ดอลลาร์ต่อ 1 ล้านโทเคน เมื่อมีผู้ใช้พร้อมกันราว 23–24 ราย
ตัวเลขเหล่านี้ควรอ่านเป็นผลจากจุดการทำงานและเงื่อนไขทดสอบเฉพาะ ไม่ใช่ราคาคงที่สำหรับทุกศูนย์ข้อมูลหรือทุกการใช้งาน
เบื้องหลังความเป็นไปได้: Hybrid Attention ของ DeepSeek V4 ถึงฮาร์ดแวร์จะเร็วเพียงใด การให้บริการโมเดล 1.6 ล้านล้านพารามิเตอร์ที่มีบริบท 1 ล้านโทเคนก็ยังเป็นงานที่มีต้นทุนสูง หากโมเดลใช้กลไก attention แบบมาตรฐาน
ใน Transformer ทั่วไป ต้นทุนการคำนวณของ attention เพิ่มขึ้นแบบกำลังสองตามความยาวบริบท ขณะที่ KV cache ซึ่งเก็บข้อมูลสำคัญจากโทเคนก่อนหน้าใช้หน่วยความจำเพิ่มขึ้นตามความยาวของลำดับ เมื่อบริบทขยายถึง 1 ล้านโทเคน ทั้งการคำนวณและหน่วยความจำจึงกลายเป็นคอขวด
DeepSeek V4 แก้ปัญหานี้ด้วย Hybrid Attention ที่รวมกลไกสองแบบเข้าด้วยกัน
1. Compressed Sparse Attention หรือ CSA CSA บีบอัดโทเคนประมาณ 4 โทเคนให้เป็นรายการ KV เดียวที่เรียนรู้จากข้อมูล โดยใช้หน้าต่างซ้อนทับและการให้น้ำหนักตามเนื้อหา จากนั้นระบบจะเลือกสนใจเฉพาะรายการที่เกี่ยวข้องมากที่สุด แทนที่จะอ่านทุกตำแหน่งในบริบท
ส่วนประกอบที่เรียกว่า Lightning Indexer ทำหน้าที่จัดอันดับและเลือกบล็อก KV ที่เหมาะสมสำหรับแต่ละคำถาม ขณะเดียวกันยังมี attention แบบหน้าต่างเลื่อนเพื่อรักษาความแม่นยำของข้อมูลในบริเวณใกล้เคียง
2. Heavily Compressed Attention หรือ HCA HCA บีบอัดข้อมูลมากกว่าเดิม โดยรวมโทเคนได้สูงสุด 128 โทเคนให้เป็นรายการ KV เดียว แล้วใช้ dense attention กับสตรีมข้อมูลที่ถูกบีบอัดนี้
วิธีนี้แลกความละเอียดในการค้นคืนข้อมูลกับการมองภาพรวมของบริบททั้งหมด HCA จึงเหมาะกับเลเยอร์ช่วงต้นเพื่อให้โมเดลเห็นภาพรวมอย่างประหยัด ขณะที่เลเยอร์สุดท้ายยังคงใช้ attention ที่ละเอียดกว่าเพื่อรักษาความแม่นยำ
ตัวเลขที่เปลี่ยนเกมการให้บริการบริบท 1 ล้านโทเคน เมื่อเทียบกับ DeepSeek V3.2 ที่บริบท 1 ล้านโทเคน DeepSeek V4 Pro ต้องใช้ทรัพยากรเพียง:
27% ของ FLOPs ต่อโทเคน หรือลดลง 73% ประมาณ 10% ของหน่วยความจำ KV cache หรือลดลงราว 90% เมื่อเทียบกับสถาปัตยกรรม GQA ที่ใช้ bfloat16 ขนาด KV cache ของ V4 อยู่ที่ประมาณ 2% ของฐานเปรียบเทียบดังกล่าว
สำหรับรุ่นเล็กกว่าอย่าง V4 Flash การใช้ FLOPs ลดเหลือ 10% และ KV cache เหลือ 7% เมื่อเทียบกับ V3.2
พูดให้เห็นภาพง่าย ๆ คือ หากไม่มี CSA และ HCA การให้บริการ V4 Pro ที่มีบริบท 1 ล้านโทเคนอาจเป็นเพียงโครงการทดลองที่น่าสนใจแต่ไม่คุ้มค่าเชิงพาณิชย์ แต่เมื่อมีสถาปัตยกรรมนี้ โมเดลจึงขยับเข้าใกล้การเป็นผลิตภัณฑ์ที่นำไปใช้งานจริงได้
ความหมายต่อการแข่งขันของวงการ AI ข้อมูลตลอด 43 วันสะท้อนบทเรียนสำคัญสามด้าน
หนึ่ง Nvidia ยังมีความได้เปรียบเชิงระบบอย่างชัดเจน CUDA พร้อมใช้งานตั้งแต่วันแรกกับฮาร์ดแวร์หลายรุ่น และ GB300 ยังนำด้านประสิทธิภาพดิบรวมถึงต้นทุนต่อโทเคนในหลายจุดการทำงาน
สอง Huawei ลดช่องว่างด้านความพร้อมของซอฟต์แวร์ลงได้อย่างมีนัยสำคัญ การที่ Ascend และ CANN รองรับ V4 Pro แบบเต็มระบบตั้งแต่วันเปิดตัว แสดงให้เห็นว่าแพลตฟอร์มที่ไม่ใช่ CUDA สามารถก้าวขึ้นมาอยู่ในระดับเดียวกันด้านความพร้อมใช้งานได้ แม้ข้อจำกัดด้านการผลิตยังส่งผลต่อประสิทธิภาพสูงสุด
สาม AMD แสดงให้เห็นทั้งศักยภาพและจุดอ่อนของระบบนิเวศ ROCm การเพิ่มประสิทธิภาพ 110.5 เท่าใน 26 วันเป็นผลงานที่น่าทึ่ง แต่การต้องใช้ความพยายามด้านวิศวกรรมอย่างเข้มข้นเพื่อรองรับโมเดลใหม่แต่ละรุ่น ก็สะท้อนว่า ROCm ยังมีช่องว่างด้านความพร้อมเมื่อเทียบกับ CUDA
ท้ายที่สุด ฮาร์ดแวร์เป็นเพียงครึ่งหนึ่งของสมการ ส่วนที่อาจสำคัญกว่าคือการออกแบบโมเดล DeepSeek V4 ไม่ได้แค่ทำให้โมเดลฉลาดขึ้นหรือมีบริบทที่ยาวขึ้น แต่ทำให้ต้นทุนการให้บริการบริบทระดับ 1 ล้านโทเคนลดลงจนเริ่มใช้งานเชิงพาณิชย์ได้จริง
เมื่อโมเดลขนาด 1.6 ล้านล้านพารามิเตอร์สามารถให้บริการได้ด้วยต้นทุนระดับไม่กี่เซนต์ต่อ 1 ล้านโทเคนบนฮาร์ดแวร์ที่เหมาะสม คำถามของอุตสาหกรรมจึงเปลี่ยนจาก “ทำได้หรือไม่” ไปสู่ “เราจะสร้างอะไรด้วยความสามารถนี้”
dev.to
DeepSeek V4 on Huawei's Ascend 950: A Real Stress Test for ...
