Raptor ของ d-Matrix จะเชื่อมเข้าระบบ AI ระดับแร็กของ NVIDIA ผ่าน NVLink Fusion อย่างไร

ความร่วมมือระหว่าง d-Matrix กับ NVIDIA ผ่าน NVLink Fusion มีความหมายมากกว่าการนำชิป Raptor ไปต่อเพิ่มในเซิร์ฟเวอร์ทั่วไป เป้าหมายคือทำให้ Raptor ซึ่งเป็น XPU สำหรับงาน AI inference หรือการอนุมาน กลายเป็นองค์ประกอบหนึ่งของโครงสร้างพื้นฐาน AI ระดับแร็กของ NVIDIA โดยตรง

กล่าวอย่างง่าย Raptor จะได้ใช้ทั้งสถาปัตยกรรมแร็ก อินเตอร์คอนเน็กต์ความเร็วสูง และระบบเครือข่ายที่ NVIDIA มีอยู่แล้ว ขณะที่ d-Matrix โฟกัสกับชิปประมวลผล inference ที่เน้นหน่วยความจำของตนเอง 310

NVLink Fusion เปลี่ยนบทบาทของ Raptor อย่างไร

NVLink Fusion คือแนวทางของ NVIDIA สำหรับให้ชิปจากพันธมิตรเชื่อมเข้ากับโครงสร้างพื้นฐาน AI ของ NVIDIA ในกรณีของ d-Matrix นั่นหมายถึง Raptor จะเชื่อมกับเครือข่ายแบบ scale-up ของ NVLink, สถาปัตยกรรมแร็ก MGX และเครือข่าย scale-out Spectrum-X

NVIDIA ระบุว่าการใช้ระบบนิเวศแร็กที่ผ่านการตรวจสอบแล้ว ช่วยให้ผู้พัฒนาชิปแบบกำหนดเองนำผลิตภัณฑ์ไปสู่การใช้งานขนาดใหญ่ได้เร็วขึ้นและลดความเสี่ยง เมื่อเทียบกับการต้องประกอบระบบทุกชั้นขึ้นมาใหม่ด้วยตนเอง 3

ความต่างสำคัญจึงอยู่ที่ Raptor ไม่ได้ถูกวางตำแหน่งเป็นเพียงตัวเร่งความเร็วเดี่ยว ๆ ที่ต่อผ่านช่องทางขยายของเซิร์ฟเวอร์ แต่เป็นส่วนหนึ่งของแร็กตามแบบอ้างอิง MGX ที่มีโครงข่ายแบนด์วิดท์สูงและองค์ประกอบระบบที่กำหนดไว้ชัดเจน 310

องค์ประกอบจาก NVIDIA ที่ d-Matrix จะนำมาใช้

การออกแบบระบบที่ประกาศไว้จะใช้ชิ้นส่วนของ NVIDIA หลายส่วน ได้แก่

• Vera CPU สำหรับงานโฮสต์คอมพิวต์ในแร็ก
• NVLink switches สำหรับโครงข่าย scale-up ภายในระบบ
• BlueField-4 DPU สำหรับงานประมวลผลข้อมูลและงานโครงสร้างพื้นฐาน
• ConnectX-9 SuperNIC สำหรับอินพุต/เอาต์พุตเครือข่ายสมรรถนะสูง
• Spectrum-X Ethernet สำหรับขยายเครือข่ายออกไปนอกแร็ก หรือ scale-out 10

d-Matrix ยังทำงานกับ Astera Labs เพื่อพัฒนาโซลูชันการเชื่อมต่อแบบกำหนดเอง ซึ่งตั้งเป้าให้การไหลของข้อมูลในระบบมีปริมาณสูงและต่อเนื่อง 10

ภาพรวมจึงเป็นการแบ่งบทบาทกันค่อนข้างชัดเจน: d-Matrix นำ XPU สำหรับ inference มาให้ ขณะที่ NVIDIA จัดหาแบบอ้างอิงของแร็ก การเชื่อมต่อแบบ scale-up อุปกรณ์เครือข่าย และระบบนิเวศโครงสร้างพื้นฐาน AI โดยรอบ 310

เหตุใดจึงเน้นงาน inference ที่ตอบสนองไว

Raptor ถูกวางตำแหน่งสำหรับงาน inference ที่ความหน่วงของการสร้างโทเคนมีความสำคัญ ชิปเร่งความเร็วที่เน้นหน่วยความจำอาจเหมาะกับภาระงานที่ต้องเข้าถึงน้ำหนักของโมเดลซ้ำ ๆ ระหว่างการสร้างผลลัพธ์ ขณะที่แพลตฟอร์มของ NVIDIA เป็นฐานด้านการสื่อสารและการติดตั้งใช้งานในระดับแร็ก

ความร่วมมือนี้ไม่ได้หมายความว่า Raptor จะมาแทนที่ GPU ของ NVIDIA ในทุกงาน AI แต่เปิดทางให้เกิดระบบแบบผสม หรือ heterogeneous system ซึ่งชิป inference เฉพาะทางทำงานร่วมกับโครงสร้างพื้นฐานของ NVIDIA ได้ NVLink Fusion มีเป้าหมายชัดเจนในการรองรับโครงสร้างพื้นฐาน AI แบบกึ่งกำหนดเองที่ผสานชิปของพันธมิตรเข้ากับระบบระดับแร็กและเครือข่ายของ NVIDIA 26

เป้าหมายแร็ก 144 XPU: ตัวเลขที่ควรรอการยืนยัน

d-Matrix ระบุว่าตั้งเป้าจะนำเสนอระบบที่มี Raptor ได้สูงสุด 144 ตัว เชื่อมถึงกันด้วย fabric ของ NVLink แบบ all-to-all ชุดเดียว บริษัทระบุเป้าหมายระดับแร็กไว้ที่ 3D-stacked DRAM 2.3 TB และ แบนด์วิดท์หน่วยความจำรวม 7.2 PB/s เพื่อรองรับโมเดลที่มีพารามิเตอร์มากกว่า 4 ล้านล้านตัวที่ความละเอียด 4 บิต 24

อย่างไรก็ดี ตัวเลขเหล่านี้เป็นเป้าหมายผลิตภัณฑ์ในอนาคต และรายงานสาธารณะยังให้รายละเอียดหน่วยความจำกับแบนด์วิดท์ต่อชิปแตกต่างกันไป ดังนั้นสเปกต่ออุปกรณ์และขนาดโมเดลที่ใช้งานได้จริงยังต้องรอการยืนยันเมื่อผลิตภัณฑ์เข้าใกล้การเปิดตัวมากขึ้น นอกจากนี้ หน่วยความจำสำหรับรันไทม์ เมทาดาทาของโมเดล รูปแบบการควอนไทซ์ และซอฟต์แวร์ระบบ ล้วนมีผลต่อขนาดโมเดลที่นำไปใช้งานได้จริง

กำหนดการ: tape-out ปี 2026 และระบบรวมแร็กในปี 2027

Raptor ถูกอธิบายว่าเป็นดีไซน์ที่รวม compute die ขนาด 4 นาโนเมตรเข้ากับ DRAM แบบกำหนดเอง d-Matrix คาดว่าจะทำ tape-out หรือส่งแบบชิปขั้นสุดท้ายเข้าสู่กระบวนการผลิตได้ภายในสิ้นปี 2026 ส่วนระบบที่รวมเข้ากับแร็กคาดว่าจะเริ่มพร้อมใช้งานในไตรมาส 4 ปี 2027 1014

ดังนั้น นี่คือความร่วมมือเชิงโรดแมปผลิตภัณฑ์หลายปี ไม่ใช่ผลิตภัณฑ์แร็กร่วมที่วางจำหน่ายแล้วในปัจจุบัน 12

NVIDIA ได้อะไรจากการเปิดระบบให้ชิปภายนอก

การเปิดแพลตฟอร์มระดับแร็กให้ชิปของพันธมิตร ช่วยให้ NVIDIA ตอบโจทย์ลูกค้าที่ต้องการซิลิคอนเฉพาะทางโดยไม่จำเป็นต้องละทิ้งโครงสร้างพื้นฐานของ NVIDIA ทั้งหมด แม้ตัวประมวลผล inference จะมาจาก d-Matrix ระบบตามแผนก็ยังสามารถใช้ NVLink fabric, CPU, สวิตช์, DPU, SuperNIC, เครือข่าย Ethernet และสถาปัตยกรรม MGX ของ NVIDIA ได้ 310

นัยดังกล่าวเป็นข้อสรุปจากโครงสร้างระบบ ไม่ใช่ข้อมูลที่บริษัทเปิดเผยเกี่ยวกับส่วนแบ่งรายได้หรือเงื่อนไขเชิงพาณิชย์ โดยทั้งสองบริษัทไม่ได้เปิดเผยเงื่อนไขทางการเงินของข้อตกลง 1

Raptor อยู่ตรงไหนในระบบนิเวศ NVLink Fusion

NVIDIA เปิดตัว NVLink Fusion เพื่อรองรับโครงสร้างพื้นฐาน AI แบบกึ่งกำหนดเอง รายชื่อพันธมิตรช่วงแรกที่เปิดเผยต่อสาธารณะประกอบด้วย MediaTek, Marvell, Alchip Technologies, Astera Labs, Synopsys และ Cadence ขณะเดียวกัน NVIDIA ระบุว่า CPU ของ Fujitsu และ Qualcomm สามารถผสานกับ GPU ของ NVIDIA ผ่านแพลตฟอร์มนี้ได้เช่นกัน 26

การเข้าร่วมของ d-Matrix จึงขยายแนวคิดนี้ไปสู่ XPU ที่เน้น inference ประเด็นสำคัญไม่ได้อยู่ที่ชิปเพียงรุ่นเดียว แต่คือโมเดลแร็กที่ยืดหยุ่นขึ้น ซึ่งลูกค้าอาจสามารถผสมชิปคอมพิวต์เฉพาะทางกับอินเตอร์คอนเน็กต์และเครือข่ายของ NVIDIA ได้ แทนการต้องเลือกระหว่างระบบ NVIDIA ทั้งชุดหรือแพลตฟอร์มแยกต่างหากโดยสิ้นเชิง

ภูมิหลังของ d-Matrix

d-Matrix เปิดตัวตัวเร่งความเร็ว inference ชื่อ Corsair ในเดือนพฤศจิกายน 2024 28 ต่อมาในเดือนพฤศจิกายน 2025 บริษัทประกาศระดมทุน Series C ได้ 275 ล้านดอลลาร์สหรัฐ ที่มูลค่ากิจการ 2 พันล้านดอลลาร์สหรัฐ ทำให้ยอดเงินทุนสะสมอยู่ที่ 450 ล้านดอลลาร์สหรัฐ โดย M12 ซึ่งเป็นกองทุนร่วมลงทุนของ Microsoft เป็นหนึ่งในผู้ลงทุน 39

ความร่วมมือ Raptor ครั้งนี้จึงเป็นความพยายามของ d-Matrix ในการขยับจากแนวทางตัวเร่งความเร็ว inference แบบแยกเดี่ยว ไปสู่การติดตั้งใช้งานในระดับแร็กเต็มรูปแบบ แต่ข้อได้เปรียบด้านความหน่วง ความจุ และแบนด์วิดท์ที่บริษัทตั้งเป้าไว้ จะเปลี่ยนเป็นการใช้งานจริงในระบบผลิตได้มากเพียงใด ยังขึ้นกับชิปขั้นสุดท้าย การผสานซอฟต์แวร์ และผลทดสอบในงานจริงเมื่อระบบมีกำหนดออกสู่ตลาดในปี 2027