NVIDIA อ้าง Vera Rubin NVL72 เพิ่ม Throughput ของ Agentic AI สูงสุด 30 เท่า

NVIDIA กำลังวางตำแหน่ง Vera Rubin NVL72 ให้เป็นแพลตฟอร์มโครงสร้างพื้นฐาน AI สำหรับงานที่เอเจนต์ไม่ได้แค่ตอบคำถามครั้งเดียว แต่ต้องสร้างโทเคนต่อเนื่อง เรียกใช้เครื่องมือ รันโค้ด สร้างบริบทเพิ่ม และอาจเรียกเอเจนต์ย่อยเข้ามาทำงานร่วมกัน

ผลที่ NVIDIA เผยระบุว่า Vera Rubin NVL72 ให้ Throughput ของงาน Agentic AI ต่อเมกะวัตต์สูงกว่า GB300 NVL72 สูงสุด 30 เท่า และลดต้นทุนโทเคนได้สูงสุด 35 เท่า ในการทดสอบด้วยโมเดล DeepSeek V4 Pro บนเวิร์กโหลด AgentX ของ SemiAnalysis

อย่างไรก็ตาม ตัวเลขเหล่านี้ควรอ่านในฐานะ คำกล่าวอ้างด้านประสิทธิภาพจาก NVIDIA เนื่องจากข้อมูลที่มีอยู่ยังไม่แสดงราคาจริงของ Vera Rubin ต่อหนึ่งล้านโทเคน และยังไม่ใช่การตรวจสอบอิสระที่ยืนยันผลแบบเทียบกันภายใต้เงื่อนไขเดียวกันทุกประการ

30 เท่าที่ NVIDIA อ้าง มาจากการทดสอบอะไร

การเปรียบเทียบหลักมี 2 ประเด็น:

• Vera Rubin NVL72 ให้ Throughput ของ Agentic AI ต่อเมกะวัตต์สูงกว่า GB300 NVL72 สูงสุด 30 เท่า
• ต้นทุนต่อโทเคนลดลงสูงสุด 35 เท่า หรือหากแสดงผลในหน่วยขนาดใหญ่ ก็เทียบได้กับต้นทุนต่อหนึ่งล้านโทเคนที่ลดลงในระดับเดียวกัน
• การทดสอบใช้ DeepSeek V4 Pro บนเวิร์กโหลด AgentX ของ SemiAnalysis

AgentX ไม่ได้จำลองเพียงการถาม-ตอบสั้น ๆ แต่เล่นซ้ำเซสชันเขียนโค้ดในลักษณะใกล้เคียงงานจริง โดยมีทั้งบริบทที่ขยายตัว การเรียกใช้เครื่องมือ และการสร้างเอเจนต์ย่อย 6

ความแตกต่างนี้สำคัญ เพราะเอเจนต์อาจต้องสร้างคำตอบ ตรวจสอบผลลัพธ์ เรียก API หรือเครื่องมือภายนอก รันโค้ด สร้างงานใหม่ และใช้เหตุผลต่อบนบริบทที่ยาวขึ้นเรื่อย ๆ ภาระจึงไม่ได้ตกอยู่กับ GPU เพียงอย่างเดียว แต่ยังเพิ่มแรงกดดันต่อหน่วยความจำ เครือข่าย CPU และระบบไฟฟ้าของศูนย์ข้อมูลด้วย

อย่านำตัวเลข 30 เท่าไปคูณกับ Hopper

ตัวเลข 30 เท่าเป็นการเปรียบเทียบ Vera Rubin NVL72 กับ GB300 NVL72 โดยตรง ไม่ใช่การเทียบกับ Hopper

ในข้อมูลอีกชุดหนึ่ง NVIDIA ระบุว่า GB300 NVL72 ให้ Throughput ต่อเมกะวัตต์สูงกว่าโซลูชัน H200 ซึ่งอยู่บนสถาปัตยกรรม Hopper สูงสุด 15 เท่า เมื่อใช้ DeepSeek V4 Pro

ตัวเลขดังกล่าวช่วยให้เห็นภาพความก้าวหน้าข้ามรุ่น แต่ไม่ควรนำ 30 เท่ากับ 15 เท่ามาคูณกันแล้วสรุปว่า Vera Rubin เร็วกว่า Hopper 450 เท่า เพราะเป็นการเปรียบเทียบ “สูงสุด” คนละชุด และข้อมูลที่มีอยู่ไม่ได้แสดงตารางทดสอบเดียวที่วัด Vera Rubin, GB300 และ Hopper ภายใต้เงื่อนไขเดียวกันทั้งหมด

ข้อจำกัดเดียวกันนี้ใช้กับต้นทุนด้วย หลักฐานสนับสนุนคำกล่าวของ NVIDIA ว่าต้นทุนลดลงสูงสุด 35 เท่าเมื่อเทียบกับ GB300 แต่ยังไม่มีตัวเลขราคาจริงต่อหนึ่งล้านโทเคนของ Vera Rubin หรือการเปรียบเทียบต้นทุน Vera Rubin กับ Hopper โดยตรง

ภายใน Vera Rubin NVL72 มีอะไรบ้าง

NVL72 เป็นระบบคอมพิวเตอร์ระดับแร็กที่รวม 72 Rubin GPU และ 36 Vera CPU เข้ากับ ConnectX-9 SuperNIC และ BlueField-4 DPU 23

NVIDIA อธิบายว่า NVLink 6 ทำหน้าที่เป็นโครงข่ายสำหรับการขยายการทำงานภายในระบบ ขณะที่ Quantum-X800 InfiniBand และ Spectrum-X Ethernet ใช้สำหรับเชื่อมต่อและขยายระบบออกไปในระดับที่ใหญ่ขึ้น 23

แนวคิดสำคัญคือการมองทั้งแร็กเป็นระบบประมวลผลเดียวที่ทำงานประสานกันอย่างแนบแน่น ไม่ใช่เพียงการนำเซิร์ฟเวอร์ที่มีตัวเร่งความเร็วหลายเครื่องมาต่อรวมกัน การออกแบบเช่นนี้มีความสำคัญกับงานเอเจนต์ ซึ่งต้องส่งข้อมูลให้ GPU อย่างต่อเนื่อง พร้อมประสานงานกับ CPU เครือข่าย และระบบจัดเก็บข้อมูลไปพร้อมกัน

Vera CPU: CPU ที่ออกแบบมาสำหรับงานรอบการอนุมาน

Vera เป็น CPU จำนวน 88 คอร์ ที่ใช้คอร์ Olympus ซึ่ง NVIDIA ออกแบบเอง รองรับ Spatial Multithreading และหน่วยความจำ LPDDR5X โดยมีแบนด์วิดท์หน่วยความจำสูงสุด 1.2 TB/s NVIDIA ระบุว่า Vera ทำงานบางประเภทเสร็จเร็วกว่า CPU สถาปัตยกรรม x86 สูงสุด 1.8 เท่า ในเวิร์กโหลดอย่าง Agentic AI, Reinforcement Learning และการประมวลผลข้อมูล 15

บทบาทของ Vera ไม่ได้จำกัดอยู่ที่การรันระบบปฏิบัติการโฮสต์ทั่วไป แต่ครอบคลุมงานที่เกิดขึ้นรอบกระบวนการอนุมานของโมเดล เช่น

• การเรียกใช้เครื่องมือ
• การรันโค้ด
• การแยกสภาพแวดล้อมและการทำแซนด์บ็อกซ์
• การจัดการและประสานงานเอเจนต์
• การประมวลผลข้อมูลและการวิเคราะห์
• งานจำลองสถานการณ์และ Reinforcement Learning

แนวทางนี้มีเป้าหมายให้ GPU ทุ่มทรัพยากรกับการอนุมานมากขึ้น ขณะที่ CPU จัดการงานประกอบของวงจรเอเจนต์ เพื่อลดคอขวดที่ไม่ได้เกิดจากตัวเร่งความเร็วโดยตรง 159

BlueField-4 กับแนวคิดโครงสร้างพื้นฐานแบบ “Scale-In”

BlueField-4 เป็นองค์ประกอบสำหรับประมวลผลโครงสร้างพื้นฐานโดยเฉพาะ โดยรวม Grace CPU จำนวน 64 คอร์ หน่วยความจำ LPDDR5X และระบบเครือข่าย ConnectX-9 ไว้ใน DPU เดียว พร้อมการเชื่อมต่อสูงสุด 800 Gb/s 1

NVIDIA ระบุว่า BlueField-4 สามารถย้ายงานด้านการควบคุม ความปลอดภัย การเคลื่อนย้ายข้อมูล และการจัดการระบบออกจาก Host CPU และ GPU ได้ ทำให้ DPU ทำหน้าที่เป็นชั้นโครงสร้างพื้นฐานที่ช่วยให้ AI Factory ทำงานแบบแยกส่วน ปลอดภัย และคาดการณ์พฤติกรรมได้มากขึ้นในระดับขนาดใหญ่ 1

นี่คือที่มาของแนวคิด Scale-In ของ NVIDIA ซึ่งมองว่าประสิทธิภาพไม่ได้ขึ้นกับชิป GPU เพียงอย่างเดียว แต่ยังขึ้นกับความสามารถของทั้งแร็กในการจัดการการสื่อสาร พื้นที่จัดเก็บข้อมูล การจัดตารางงาน และความปลอดภัย โดยไม่ดึงทรัพยากรของตัวเร่งความเร็วไปใช้กับงานเหล่านี้มากเกินไป

DSX MaxLPS ช่วยเรื่องตัวเลขต่อเมกะวัตต์อย่างไร

DSX MaxLPS เป็นซอฟต์แวร์ภายใต้แนวทาง DSX AI Factory ของ NVIDIA ไม่ใช่ GPU หรือ CPU รุ่นแยกต่างหาก NVIDIA อธิบายว่าเครื่องมือนี้ออกแบบมาเพื่อเพิ่มประสิทธิภาพโทเคนต่อเมกะวัตต์ภายใต้งบประมาณพลังงานที่กำหนด โดยผสานการระบายความร้อนด้วยของเหลวเข้ากับการปรับแต่งระบบภายในแร็ก เพื่อให้ผู้ดูแลระบบสามารถใช้งาน GPU ได้มากขึ้นใกล้จุดที่ประหยัดพลังงานที่สุด

ดังนั้น DSX MaxLPS จึงเกี่ยวข้องกับการวัดประสิทธิภาพระดับ AI Factory ที่ใช้ในคำกล่าวอ้าง 30 เท่า เพราะจำนวนโทเคนที่ผลิตได้ต่อหน่วยพลังงานอาจได้รับผลจากทั้งชิป ซอฟต์แวร์ การจัดวางแร็ก ระบบระบายความร้อน และการตั้งค่าการทดสอบ อย่างไรก็ตาม ข้อมูลที่มีอยู่ยังไม่สามารถแยกได้ชัดเจนว่า ผลลัพธ์ที่ NVIDIA รายงานมาจากซิลิคอน ซอฟต์แวร์ การกำหนดค่าเวิร์กโหลด หรือการทำงานร่วมกันของทุกส่วนมากน้อยเพียงใด

แผนของ SpaceXAI สำหรับ Vera Rubin และ Starmind AI

NVIDIA และ SpaceXAI ระบุว่า SpaceXAI มีแผนใช้ Vera CPU กับงาน Agentic AI รุ่นถัดไป และจะขยายโครงสร้างพื้นฐานเบื้องหลัง Grok ด้วย Vera Rubin 45

ทั้งสองบริษัทยังกล่าวถึงแผนที่จะนำระบบ Vera Rubin NVL72 ที่ได้รับการปรับแต่งสำหรับงานเฉพาะขึ้นสู่วงโคจร เพื่อใช้กับดาวเทียม Starmind AI รุ่นแรก 4

แต่ข้อความดังกล่าวเป็นเพียง แผนการติดตั้งและพัฒนาในอนาคต ไม่ใช่หลักฐานว่าระบบ NVL72 ในวงโคจรได้ถูกปล่อยขึ้นสู่อวกาศหรือเริ่มให้บริการแล้ว

สรุป: จุดชี้ขาดอยู่ที่เงื่อนไขการใช้งานจริง

ความสำคัญของ Vera Rubin NVL72 อยู่ที่ความพยายามของ NVIDIA ในการวัดโครงสร้างพื้นฐาน AI ตามรูปแบบการทำงานของเอเจนต์จริง ซึ่งเป็นกระบวนการแบบวนซ้ำ ใช้บริบทจำนวนมาก เรียกใช้เครื่องมือ รันโค้ด และสร้างงานย่อยต่อเนื่อง

บนเวิร์กโหลดดังกล่าว NVIDIA รายงานว่า Vera Rubin NVL72 ให้ Throughput ต่อเมกะวัตต์สูงกว่า GB300 NVL72 สูงสุด 30 เท่า และลดต้นทุนโทเคนได้สูงสุด 35 เท่า

สำหรับผู้ให้บริการคลาวด์และทีมโครงสร้างพื้นฐาน คำถามสำคัญจึงไม่ใช่เพียงว่า “30 เท่าฟังดูมากแค่ไหน” แต่คือผลลัพธ์นี้จะยังคงอยู่หรือไม่เมื่อเปลี่ยนไปใช้โมเดล ระดับความหน่วง เป้าหมาย Tokens ต่อวินาที ความยาวบริบท จำนวนผู้ใช้พร้อมกัน งบพลังงาน และสมมติฐานต้นทุนรวมขององค์กรนั้น ๆ

ข้อมูลที่มีอยู่ยืนยันว่า NVIDIA เป็นผู้รายงานตัวเลขดังกล่าว พร้อมอธิบายสถาปัตยกรรมที่อยู่เบื้องหลัง แต่ยังไม่เพียงพอสำหรับการตัดสินขั้นสุดท้ายจากการตรวจสอบอิสระ