Câu trả lờiĐã xuất bản17 nguồn
Vera Rubin NVL72: NVIDIA tuyên bố hiệu suất AI tác vụ cao hơn 30 lần
NVIDIA cho biết Vera Rubin NVL72 đạt throughput suy luận AI tác vụ trên mỗi megawatt cao hơn tới 30 lần và chi phí trên mỗi token thấp hơn tới 35 lần so với GB300 NVL72 khi chạy DeepSeek V4 Pro trên bài thử SemiAnalys... So sánh trực tiếp của Vera Rubin là với GB300 NVL72.
Đăng bởiBiên tập bằng GPT-5.6 LunaHình ảnh được tạo bằng GPT Image 1.5
Câu trả lời nghiên cứu
Bài học chính
- NVIDIA cho biết Vera Rubin NVL72 đạt throughput suy luận AI tác vụ trên mỗi megawatt cao hơn tới 30 lần và chi phí trên mỗi token thấp hơn tới 35 lần so với GB300 NVL72 khi chạy DeepSeek V4 Pro trên bài thử SemiAnalys...
- So sánh trực tiếp của Vera Rubin là với GB300 NVL72. NVIDIA tách riêng cho biết GB300 NVL72 có throughput trên mỗi megawatt cao hơn tới 15 lần so với hệ thống Hopper trong một bài thử DeepSeek V4 Pro tương ứng.
- Vera Rubin NVL72 kết hợp 72 GPU Rubin với 36 CPU Vera; các DPU BlueField 4 đảm nhiệm một phần công việc về mạng, bảo mật, điều phối và di chuyển dữ liệu.
Prompt AI
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce about its next-generation Vera Rubin NVL72 platform’s efficiency for agentic AI workloads—including its claimed inf. Article summary: NVIDIA’s headline claim is that Vera Rubin NVL72 can deliver up to 30× higher agentic-inference throughput per megawatt than GB300 NVL72 and reduce cost per token by up to 35×, based on its stated SemiAnalysis AgentX res. Topic tags: general, documentation, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
NVIDIA đang định vị Vera Rubin NVL72 như một nền tảng hạ tầng dành cho các tác vụ AI mà tác nhân liên tục sinh token, gọi công cụ, thực thi mã, tạo thêm ngữ cảnh và khởi chạy tác nhân phụ. Theo kết quả do NVIDIA công bố, hệ thống đạt throughput cao hơn tới 30 lần trên mỗi megawatt so với GB300 NVL72 và giảm chi phí token tới 35 lần trong bài thử AgentX với DeepSeek V4 Pro.
Đây là những tuyên bố đáng chú ý, nhưng cần được đọc đúng phạm vi. Dữ liệu được cung cấp chưa nêu chi phí cụ thể bằng USD cho mỗi triệu token của Vera Rubin, đồng thời chưa chứng minh các mức tăng nói trên bằng một phép kiểm chứng độc lập, hoàn toàn tương đồng giữa các hệ thống.
NVIDIA tuyên bố Vera Rubin đạt kết quả gì?
Các con số chính gồm:
- Throughput AI tác vụ trên mỗi megawatt cao hơn tới 30 lần so với GB300 NVL72.
- Chi phí trên mỗi token, hoặc trên mỗi triệu token khi quy đổi theo quy mô đó, thấp hơn tới 35 lần so với GB300 NVL72.
- Bài thử sử dụng DeepSeek V4 Pro trên workload AgentX của SemiAnalysis.
AgentX không mô phỏng một câu hỏi - câu trả lời ngắn và độc lập. Bài thử phát lại các phiên lập trình mang phong cách sản xuất, trong đó ngữ cảnh tăng dần, tác nhân gọi công cụ và tạo ra các tác nhân phụ. 6
Điểm khác biệt này rất quan trọng. Một tác nhân có thể tạo câu trả lời, kiểm tra kết quả, gọi công cụ bên ngoài, chạy mã, tạo nhiệm vụ mới rồi tiếp tục suy luận trên một ngữ cảnh lớn hơn nhiều. Vì vậy, hạ tầng không chỉ phải xử lý phản hồi ban đầu của mô hình mà còn phải đáp ứng hoạt động của bộ nhớ, mạng, CPU và hệ thống điện.
Vera Rubin so với Hopper như thế nào?
Tuyên bố tăng 30 lần là phép so sánh trực tiếp giữa Vera Rubin NVL72 và GB300 NVL72, không phải Hopper. Trong tài liệu liên quan đến AgentX, NVIDIA cho biết riêng GB300 NVL72 có throughput trên mỗi megawatt cao hơn tới 15 lần so với hệ thống H200 thuộc kiến trúc Hopper khi chạy DeepSeek V4 Pro.
Con số này giúp phác họa tiến trình qua các thế hệ, nhưng không thể nhân 30 với 15 để tạo thành tuyên bố tăng 450 lần. Đây là hai phép so sánh “lên tới” riêng biệt, trong khi dữ liệu hiện có không cung cấp một bảng thử nghiệm thống nhất đặt Vera Rubin, GB300 và Hopper dưới cùng điều kiện.
Giới hạn tương tự cũng áp dụng cho chi phí. Bằng chứng hiện có ủng hộ tuyên bố của NVIDIA rằng chi phí giảm tối đa 35 lần so với GB300, nhưng chưa đưa ra giá USD cụ thể cho mỗi triệu token của Vera Rubin hoặc con số so sánh chi phí trực tiếp giữa Vera Rubin và Hopper.
Bên trong nền tảng Vera Rubin NVL72 có gì?
NVL72 là một hệ thống quy mô tủ rack, kết hợp 72 GPU Rubin và 36 CPU Vera cùng ConnectX-9 SuperNIC và BlueField-4 DPU. NVIDIA mô tả NVLink 6 là lớp kết nối mở rộng trong rack, còn Quantum-X800 InfiniBand và Spectrum-X Ethernet đảm nhiệm kết nối mở rộng giữa các rack. 2
3
Thiết kế này xem cả rack như một hệ thống tính toán tích hợp chặt chẽ thay vì tập hợp các máy chủ tăng tốc độc lập. Cách tiếp cận đó đặc biệt phù hợp với AI tác vụ, bởi hiệu suất phụ thuộc vào khả năng cung cấp dữ liệu liên tục cho GPU, đồng thời điều phối hoạt động của CPU, mạng và lưu trữ.
Vì sao CPU Vera quan trọng với AI tác vụ?
Vera là CPU 88 lõi sử dụng các lõi Olympus do NVIDIA thiết kế. CPU này hỗ trợ Spatial Multithreading và bộ nhớ LPDDR5X, với băng thông bộ nhớ lên tới 1,2 TB/giây. NVIDIA cho biết Vera có thể hoàn thành tác vụ nhanh hơn tới 1,8 lần so với CPU x86 trong các workload như AI tác vụ, học tăng cường và xử lý dữ liệu. 1
5
Vera không chỉ đóng vai trò chạy hệ điều hành máy chủ thông thường. CPU này được thiết kế để xử lý phần việc xung quanh quá trình suy luận, gồm:
- Sử dụng công cụ
- Thực thi mã
- Sandbox và điều phối
- Xử lý, phân tích dữ liệu
- Mô phỏng và học tăng cường
Bằng cách tăng tốc các công việc này, kiến trúc của NVIDIA hướng tới việc giữ GPU tập trung vào suy luận, đồng thời giảm nút thắt trong phần còn lại của vòng lặp tác nhân. 1
5
9
BlueField-4 và lớp hạ tầng “Scale-In”
BlueField-4 là thành phần xử lý hạ tầng chuyên dụng của NVIDIA. DPU này kết hợp CPU Grace 64 lõi, bộ nhớ LPDDR5X và kết nối mạng ConnectX-9, với băng thông kết nối lên tới 800 Gb/giây. 1
NVIDIA cho biết BlueField-4 chuyển các chức năng như điều khiển, bảo mật, di chuyển dữ liệu và điều phối khỏi CPU máy chủ và GPU. Theo mô hình này, DPU trở thành lớp hạ tầng giúp hệ thống AI quy mô lớn hoạt động biệt lập, an toàn và ổn định hơn. 1
Đó là cơ sở cho cách NVIDIA gọi là “Scale-In”: hiệu quả không chỉ phụ thuộc vào con chip GPU. Khả năng xử lý giao tiếp, lưu trữ, lập lịch và bảo mật mà không chiếm năng lực của bộ tăng tốc cũng ảnh hưởng trực tiếp đến số token tạo ra trên mỗi đơn vị điện năng.
DSX MaxLPS đóng vai trò gì?
DSX MaxLPS là phần mềm thuộc cách tiếp cận AI factory rộng hơn của NVIDIA, không phải một GPU hay CPU Vera Rubin độc lập. NVIDIA mô tả đây là bộ công nghệ nhằm tối đa hóa hiệu suất token trên mỗi megawatt trong một ngân sách điện cố định. Phương pháp này kết hợp làm mát bằng chất lỏng với tối ưu hóa trong rack, qua đó giúp nhà vận hành đưa nhiều GPU hơn tới vùng hoạt động có hiệu suất năng lượng tốt.
Điều đó khiến DSX MaxLPS có liên quan đến tuyên bố hiệu quả 30 lần: chỉ số được quảng bá được đo ở cấp độ AI factory, nơi hệ thống làm mát, cấu hình rack và phần mềm hạ tầng đều có thể ảnh hưởng đến số token tạo ra trên mỗi đơn vị điện năng. Tuy nhiên, dữ liệu hiện có chưa cho biết cụ thể mức cải thiện đến từ silicon, phần mềm, cấu hình thử nghiệm hay sự kết hợp của cả ba yếu tố.
Kế hoạch triển khai Vera Rubin của SpaceXAI
NVIDIA và SpaceXAI cho biết SpaceXAI có kế hoạch triển khai CPU Vera cho thế hệ workload AI tác vụ tiếp theo, đồng thời mở rộng hạ tầng phía sau Grok bằng Vera Rubin. 4
5
Hai bên cũng nêu kế hoạch đưa một hệ thống Vera Rubin NVL72 được tối ưu hóa lên quỹ đạo để phục vụ vệ tinh AI Starmind thế hệ đầu tiên. 4
Đây là các kế hoạch triển khai, chưa phải bằng chứng cho thấy một hệ thống dựa trên NVL72 đã được phóng lên quỹ đạo hoặc đi vào vận hành.
Điều đáng chú ý với người mua hạ tầng
Ý nghĩa lớn nhất của Vera Rubin NVL72 nằm ở nỗ lực đo lường hạ tầng AI theo cách các tác nhân thực sự hoạt động: thông qua những phiên tương tác dài, lặp đi lặp lại, tiêu thụ nhiều ngữ cảnh và liên tục gọi công cụ, chạy mã hoặc tạo tác nhân phụ. Trong workload này, NVIDIA báo cáo throughput trên mỗi megawatt cao hơn tới 30 lần và chi phí token thấp hơn tới 35 lần so với GB300 NVL72.
Với các doanh nghiệp và đội ngũ hạ tầng, câu hỏi quan trọng không chỉ là hệ số “30 lần” nghe lớn đến mức nào. Cần kiểm tra liệu kết quả có giữ nguyên với mô hình, mục tiêu độ trễ, độ dài ngữ cảnh, mức đồng thời, ngân sách điện và cách tính tổng chi phí của chính họ hay không. Bằng chứng hiện có xác lập tuyên bố của NVIDIA cùng kiến trúc đứng phía sau, nhưng chưa đủ để đưa ra kết luận độc lập cuối cùng.
Studio Global AI
Tiếp tục nghiên cứu của bạn
Trang này bao gồm câu trả lời dựa trên nguồn mà bạn có thể tiếp tục bên trong Studio Global.
Người ta cũng hỏi
Câu trả lời ngắn gọn cho "Vera Rubin NVL72: NVIDIA tuyên bố hiệu suất AI tác vụ cao hơn 30 lần" là gì?
NVIDIA cho biết Vera Rubin NVL72 đạt throughput suy luận AI tác vụ trên mỗi megawatt cao hơn tới 30 lần và chi phí trên mỗi token thấp hơn tới 35 lần so với GB300 NVL72 khi chạy DeepSeek V4 Pro trên bài thử SemiAnalys...
Những điểm chính cần xác nhận đầu tiên là gì?
NVIDIA cho biết Vera Rubin NVL72 đạt throughput suy luận AI tác vụ trên mỗi megawatt cao hơn tới 30 lần và chi phí trên mỗi token thấp hơn tới 35 lần so với GB300 NVL72 khi chạy DeepSeek V4 Pro trên bài thử SemiAnalys... So sánh trực tiếp của Vera Rubin là với GB300 NVL72. NVIDIA tách riêng cho biết GB300 NVL72 có throughput trên mỗi megawatt cao hơn tới 15 lần so với hệ thống Hopper trong một bài thử DeepSeek V4 Pro tương ứng.
Tôi nên làm gì tiếp theo trong thực tế?
Vera Rubin NVL72 kết hợp 72 GPU Rubin với 36 CPU Vera; các DPU BlueField 4 đảm nhiệm một phần công việc về mạng, bảo mật, điều phối và di chuyển dữ liệu.