คำตอบเผยแพร่แล้ว17 แหล่งที่มา
Huawei OceanStor M900: ชั้นความจำบริบทใหม่สำหรับ AI inference
ในงาน HUAWEI CONNECT 2026 Huawei เปิดตัว OceanStor M900 ชั้น KV Cache ที่ใช้ร่วมกันสำหรับ SuperPoD รองรับสูงสุด 64 PB ต่อคลัสเตอร์ M900 ใช้ Lingqu UnifiedBus สร้าง KV Cache แบบหลายชั้นระดับโลก เพื่อรองรับงานที่ใช้บริบทยาวมากและ AI agent ที่ต้องอนุมานหลายรอบ Huawei อ้างเวลาเข้าถึงราว 60 ไมโครวินาที แบนด์วิดท์รวม 40 T...
เผยแพร่โดยแก้ไขด้วย GPT-5.6 Terraรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- ในงาน HUAWEI CONNECT 2026 Huawei เปิดตัว OceanStor M900 ชั้น KV Cache ที่ใช้ร่วมกันสำหรับ SuperPoD รองรับสูงสุด 64 PB ต่อคลัสเตอร์
- M900 ใช้ Lingqu UnifiedBus สร้าง KV Cache แบบหลายชั้นระดับโลก เพื่อรองรับงานที่ใช้บริบทยาวมากและ AI agent ที่ต้องอนุมานหลายรอบ
- Huawei อ้างเวลาเข้าถึงราว 60 ไมโครวินาที แบนด์วิดท์รวม 40 TB/s และ throughput ของโทเค็นเพิ่มเป็น 2 เท่าในงาน AI coding แต่ยังไม่ได้เปิดเผยรายละเอียดการเปรียบเทียบและเวิร์กโหลดอย่างครบถ้วน
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Huawei announce at Huawei Connect 2026 about its OceanStor M900 AI memory storage for hyperscale inference SuperPoDs, including how. Article summary: Huawei announced OceanStor M900 Context Memory Storage: an SSD-backed, shared KV-cache tier for hyperscale AI inference SuperPoDs. It is intended to extend—not replace—accelerators’ HBM/DRAM or the SuperPoD interconnect:. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Huawei เปิดตัว OceanStor M900 Context Memory Storage ในฐานะโครงสร้างพื้นฐานจัดเก็บข้อมูลสำหรับการอนุมาน AI (AI inference) ในศูนย์ข้อมูล hyperscale จุดประสงค์ไม่ใช่การแทนที่ HBM หรือ DRAM บนตัวเร่งความเร็ว AI แต่เป็นการเพิ่มชั้นความจำบริบทแบบใช้ร่วมกันและขยายขนาดได้สำหรับ SuperPoD ซึ่ง KV Cache อาจกลายเป็นคอขวดสำคัญเมื่อใช้งานพรอมป์ตขนาดใหญ่มากหรือเวิร์กโหลด AI agent ที่ทำงานต่อเนื่องหลายขั้นตอน 2
23
ปัญหาที่ต้องแก้: KV Cache ใหญ่เกินกว่าจะอยู่ใน HBM และ DRAM เพียงอย่างเดียว
ระหว่างที่โมเดลภาษาขนาดใหญ่สร้างคำตอบ KV Cache จะเก็บสถานะระหว่างทางของโทเค็นที่ประมวลผลไปแล้ว การนำข้อมูลนี้กลับมาใช้ซ้ำมีประโยชน์อย่างมาก หากบริบทเดิมหรือบริบทที่เกี่ยวข้องกลับมาในรอบถัดไปของการสนทนา หรือในงานของ AI agent
Huawei ระบุว่า M900 ออกแบบมาเพื่อตอบข้อจำกัดด้านความจุของหน่วยความจำบนชิปและ DRAM สำหรับบริบทที่ยาวมากและการอนุมานแบบหลายรอบ ด้วย UnifiedBus ซึ่งบริษัทเรียกอีกชื่อว่า Lingqu ระบบสร้าง KV Cache แบบหลายชั้นที่ใช้ร่วมกันทั่วทั้งระบบในระดับเพตะไบต์ พร้อมการเชื่อมต่อแบบ one-hop และขยายชั้นแคชจากหน่วยความจำของตัวเร่งความเร็วและ DRAM ไปยัง SSD 2
26
กล่าวอย่างง่าย M900 มีเป้าหมายให้บริบทในปริมาณที่มากขึ้นถูกเก็บ แชร์ และนำกลับมาใช้ได้ โดยไม่จำเป็นต้องคงข้อมูลทั้งหมดไว้ในชั้นความจำที่มีต้นทุนสูงที่สุด
ตัวเลขความจุที่ Huawei ระบุ
Huawei ระบุว่า M900 หนึ่งคลัสเตอร์รองรับ KV Cache ได้สูงสุด 64 PB และอาจยกระดับ KV Cache ที่ NPU หนึ่งตัวใช้งานได้จากระดับ GB ไปสู่ระดับ TB เพื่อเพิ่มอัตราการพบข้อมูลในแคชสำหรับคำขอที่ใช้บริบทยาว 2
26
นี่คือสถาปัตยกรรมหน่วยความจำแบบใช้ร่วมกันในระดับ SuperPoD ไม่ใช่การเพิ่ม HBM ในชิปแต่ละตัวโดยตรง ดังนั้นประโยชน์ในทางปฏิบัติจะขึ้นอยู่กับวิธีที่ซอฟต์แวร์จัดสรร เรียกคืน และใช้ KV Cache ซ้ำ รวมถึงลักษณะคำขอจริงในระบบที่นำไปใช้งาน
สถาปัตยกรรม: KV semantics โดยตรงและการเข้าถึงจาก NPU สู่ SSD
ตามคำอธิบายของ Huawei M900 รวม CPU ตัวควบคุมเครือข่าย และตัวควบคุม NAND ไว้ในสถาปัตยกรรมเดียว บริษัทระบุว่าการออกแบบนี้ให้ native KV semantics และเปิดทางให้ NPU เข้าถึง SSD ได้โดยตรงแบบ one-hop โดยหลีกเลี่ยงการแปลงโปรโตคอลและการส่งต่อผ่าน CPU 20
26
เป้าหมายด้านประสิทธิภาพที่บริษัทเผยแพร่ ได้แก่
- เวลาเข้าถึงราว 60 ไมโครวินาที
- แบนด์วิดท์รวมต่อคลัสเตอร์สูงสุด 40 TB/s
- แบนด์วิดท์สูงกว่าโซลูชันอ้างอิงในตลาด 1.5 เท่า ตามข้อมูลของ Huawei
26
ตัวเลขเหล่านี้ควรอ่านในฐานะคำกล่าวอ้างของผู้ผลิต เนื่องจากประกาศดังกล่าวไม่ได้เปิดเผยรายละเอียดครบถ้วนเกี่ยวกับโมเดล ระดับการใช้งานพร้อมกัน อัตรา cache hit การตั้งค่าคลัสเตอร์ หรือวิธีเปรียบเทียบ การทดสอบอิสระบนเวิร์กโหลดสำหรับใช้งานจริงจึงยังจำเป็นต่อการประเมินอย่างมีนัยสำคัญ
Huawei อ้าง throughput และความทนทานของ SSD อย่างไร
สำหรับสถานการณ์ AI coding inference ทั่วไป Huawei ระบุว่า M900 ทำให้ throughput ของโทเค็นเพิ่มขึ้น 2 เท่า และลด เวลาแสดงโทเค็นแรก (time to first token หรือ TTFT) ลงครึ่งหนึ่ง 14 แต่เมื่อไม่มีรายละเอียดของค่าฐานและเวิร์กโหลด ตัวเลขนี้ยังไม่เพียงพอที่จะสรุปผลกับทุกโมเดลหรือทุก inference stack ได้
บริษัทยังอธิบายแนวทาง KV-aware adaptive storage ซึ่งใช้การประเมินคุณค่าและอายุการใช้งานของข้อมูลในแคชเพื่อเลือกสื่อจัดเก็บที่เหมาะสม Huawei อ้างว่ารองรับได้สูงสุด 24 DWPD และยืดอายุการอ่าน/เขียนของ SSD ได้ราว 16 เท่า ด้วยสื่อแบบไฮบริดและอัลกอริทึม retention ที่ปรับแต่งแล้ว 16
18 เช่นเดียวกัน ความทนทานดังกล่าวต้องได้รับการยืนยันภายใต้อัตราการเขียนและนโยบายบริหารแคชในการใช้งานจริง
บทบาทในแผน SuperPoD ที่ใหญ่กว่าเดิม
การเปิดตัว M900 เป็นการประกาศทิศทางเชิงสถาปัตยกรรมมากกว่าการเปิดตัวผลิตภัณฑ์จัดเก็บข้อมูลแบบแยกส่วน Huawei อธิบาย UnifiedBus ว่าเป็น interconnect ที่เชื่อมต่อคลัสเตอร์และ SuperPod สำหรับ agentic AI ขณะที่ M900 ทำหน้าที่เป็นชั้นจัดเก็บข้อมูลและความจำบริบทของสแตกนี้ 23
ในภาพรวมดังกล่าว
- ตัวเร่งความเร็ว Ascend ให้กำลังประมวลผล
- UnifiedBus/Lingqu ทำหน้าที่เชื่อมต่อและสนับสนุนการใช้ทรัพยากรร่วมกัน
- OceanStor M900 เพิ่ม KV Cache แบบถาวรและใช้ร่วมกันได้ในระดับ PB
ดังนั้น M900 ไม่ได้เพิ่มพลังคำนวณให้โมเดลด้วยตัวเอง และไม่ได้มาแทนที่ทั้งตัวเร่งความเร็วหรือ interconnect ความเร็วสูง สิ่งที่ระบบนี้สัญญาว่าจะช่วยลดคือคอขวดด้านความจำ ซึ่งเกิดขึ้นเมื่อบริบทยาวมากและการทำงานซ้ำหลายขั้นของ AI agent ทำให้ KV Cache มีความสำคัญพอ ๆ กับกำลังประมวลผล 2
23
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "Huawei OceanStor M900: ชั้นความจำบริบทใหม่สำหรับ AI inference" คืออะไร
ในงาน HUAWEI CONNECT 2026 Huawei เปิดตัว OceanStor M900 ชั้น KV Cache ที่ใช้ร่วมกันสำหรับ SuperPoD รองรับสูงสุด 64 PB ต่อคลัสเตอร์
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
ในงาน HUAWEI CONNECT 2026 Huawei เปิดตัว OceanStor M900 ชั้น KV Cache ที่ใช้ร่วมกันสำหรับ SuperPoD รองรับสูงสุด 64 PB ต่อคลัสเตอร์ M900 ใช้ Lingqu UnifiedBus สร้าง KV Cache แบบหลายชั้นระดับโลก เพื่อรองรับงานที่ใช้บริบทยาวมากและ AI agent ที่ต้องอนุมานหลายรอบ
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
Huawei อ้างเวลาเข้าถึงราว 60 ไมโครวินาที แบนด์วิดท์รวม 40 TB/s และ throughput ของโทเค็นเพิ่มเป็น 2 เท่าในงาน AI coding แต่ยังไม่ได้เปิดเผยรายละเอียดการเปรียบเทียบและเวิร์กโหลดอย่างครบถ้วน
แหล่งที่มา
huawei.comHuawei Introduces OceanStor M900 Context Memory Storage to Accelerate AI Inference in Hyperscale Data Centers - Huawei