Nvidia今次公布的重點，不只是「下一代GPU快幾多」，而是將Vera Rubin包裝成一座由晶片、機櫃、網絡、電源管理到軟件一條龍整合的「AI工廠」。目標是應付需要多輪推理、工具呼叫、程式執行及子代理協作的Agentic AI工作負載，令每一度電可以完成更多有效工作。

不過，最搶眼的效能數字主要來自Nvidia公布的供應商測試，並非獨立、同行評審的驗證。因此，「最高30倍」及「成本低35倍」應視為特定模型、工作負載及系統配置下的結果，而非所有AI服務都必然可以達到的幅度。8

Vera Rubin NVL72：一個液冷機櫃變成一部AI超級電腦

Vera Rubin NVL72將72粒Rubin GPU、36粒Vera CPU、ConnectX-9 SuperNIC、BlueField-4 DPU，以及第六代NVLink交換器，整合於一個液冷機櫃之內。設計上，72粒GPU可以作為一個緊密耦合的Scale-Up運算域運作，同時透過Quantum-X800 InfiniBand或Spectrum-X Ethernet連接其他機櫃，擴展成更大型的AI集群。36

換句話說，Nvidia賣的不是一張獨立顯卡，而是一套盡量減少數據搬運、通訊延遲及電力浪費的完整基礎設施。對需要長上下文及連續互動的AI Agent來說，GPU峰值算力只是其中一環；CPU、記憶體頻寬、機櫃內互連和跨機櫃網絡同樣會左右實際吞吐量。

AgentX測試：DeepSeek V4 Pro跑出最高30倍每兆瓦吞吐量

Nvidia表示，Vera Rubin NVL72在Agentic AI工作負載上，較GB300 NVL72的每兆瓦吞吐量最高高出30倍，而引用的比較中Token成本最高可降低35倍。89 Nvidia早前亦曾以較廣泛的Rubin平台比較Blackwell，聲稱推理Token成本最高可降低10倍。11

今次測試採用SemiAnalysis的AgentX工作負載，內容是重播接近實際生產環境的Agent程式編碼工作階段，保留上下文增長、工具呼叫及子代理生成等元素；測試模型則包括DeepSeek V4 Pro。89

這類測試與一般「問一句、答一句」的聊天基準不同。AI Agent可能要反覆推理、檢索資料、呼叫工具、執行程式碼，再把結果交回模型繼續處理。當互動輪數增加，CPU協調工作、記憶體頻寬及互連效率，便不再是配角。

Hopper及每百萬Token成本：現時不應過度解讀

現有資料足以支持Nvidia對GB300的比較，但未有提供一個來自一手來源、可以直接對照的Hopper倍數；同樣沒有足夠資料核實一個精確的「每百萬Token多少美元」價格。因此，現時不能負責任地寫成Vera Rubin相對Hopper固定快了某個倍數，亦不能把宣傳中的成本倍數直接換算成所有客戶都適用的美元單價。

Nvidia所強調的方向是：Agentic AI因為涉及反覆推理及工具使用，消耗的Token會遠高於一次性聊天；實際每Token成本仍會受到模型、上下文長度、回應速度目標、利用率、電費、冷卻及整體系統配置影響。

DSX MaxLPS：由「開盡部機」轉向「每度電做最多Token」

Nvidia將DSX描述為一套涵蓋晶片、系統、軟件、數據中心設施及合作夥伴技術的端到端AI工廠設計。當中的DSX MaxLPS軟件，重點不是單純令硬件以最高瞬時功率運作，而是最大化每單位電力可以處理的Token吞吐量，從而降低每Token成本。1215

實際意義是，AI工廠可以更有策略地分配電力及散熱資源，在電力供應和冷卻能力已經成為部署樽頸時，優化整個系統的有效產出。這亦反映AI數據中心的競爭，正由「有幾多加速器」逐步轉向「有限電力可以產生幾多可售賣的AI服務」。

Vera CPU：88個Olympus核心，專為Agent周邊工作而設

Vera是Nvidia自家設計、兼容Armv9.2的CPU。它配備88個Olympus核心及176條Spatial Multithreading執行緒，針對推理過程周邊的大量並行CPU工作，包括數據處理、工作流程編排、資料檢索、工具執行、沙盒程式碼及模擬等。210

Vera採用SOCAMM2 LPDDR5X記憶體，最高提供1.2TB/s總記憶體頻寬，即每個核心最高約14GB/s。第二代Scalable Coherency Fabric則把88個核心、共享L3快取及記憶體子系統連接起來，最高提供3.4TB/s雙向切分頻寬；Nvidia表示，晶片配備164MB統一L3快取。78

以Grace作比較，Nvidia聲稱Vera的記憶體頻寬為2.4倍、記憶體容量為3倍，而用於保持CPU與GPU記憶體一致性的NVLink-C2C頻寬則是兩倍。1

這個設計思路值得留意：Agent並非只有GPU生成Token。每次工具呼叫、資料搬運、程式碼執行及任務編排，都可能令CPU成為瓶頸。Nvidia希望以更高單執行緒表現、更多並行執行緒及高記憶體頻寬，減少GPU等候CPU或數據的時間。

Scale-In到底做甚麼？NVLink、InfiniBand及Ethernet各司其職

Nvidia所說的「Scale-In」可以理解為機櫃內的Scale-Up網絡，與跨機櫃的Scale-Out並不是同一層：

• Scale-In／Scale-Up： 第六代NVLink 6令72粒GPU以一個緊密耦合的機櫃級運算系統運作。Nvidia列出的規格是每粒GPU具備3.6TB/s雙向GPU對GPU頻寬，整個機櫃的GPU頻寬則達260TB/s。3
• Scale-Out： Quantum-X800 InfiniBand或Spectrum-X Ethernet把多個機櫃連接成更大的集群。3
• 數據及基礎設施卸載： ConnectX-9 SuperNIC及BlueField-4 DPU負責網絡、儲存、安全及數據路徑工作，減少主CPU和GPU處理這些額外工作的負擔。36

這種分層設計的核心，是讓需要頻繁交換數據的GPU留在低延遲、高頻寬的NVLink域內；當工作負載需要擴展到更多機櫃時，再由InfiniBand或Ethernet負責對外連接。Nvidia因此把競爭範圍由GPU本身推到交換器、網絡卡、DPU及整套系統架構。

SpaceXAI合作：地面Grok基礎設施，再延伸到Starmind

Nvidia表示，SpaceXAI將部署Vera CPU，支援下一代Agentic AI工作負載；同時，SpaceXAI會以Vera Rubin平台擴展Grok背後的AI基礎設施，目標是逐步提升至吉瓦級運算容量。14

雙方亦計劃把這套架構延伸至Starmind軌道運算項目，經優化的Nvidia硬件將成為面向太空環境的運算載荷基礎。1412但要留意，這是計劃中的部署，並不代表現時已經有一座正在運作的軌道AI數據中心；公開資料亦未足以證實一個已落實的完整發射及營運時間表。

對Nvidia意味着甚麼？由GPU供應商變成整座AI工廠的架構商

如果Vera Rubin的工作負載數字最終能在客戶部署中重現，最大價值未必只是模型跑得更快，而是同一個受限的電力預算之下，可以完成更多Agent任務。理論上，這可能降低每個生成Token所涉及的電力、冷卻、網絡及資本成本。

更具戰略性的變化，是Nvidia正由GPU延伸至自家Arm CPU、CPU與GPU一致性互連、機櫃級交換、DPU，以及AI工廠營運軟件。這種垂直整合有助Nvidia對抗GPU競爭者及傳統CPU供應商，但代價是客戶對Nvidia硬件、網絡及軟件生態的依賴亦會加深。

所以，Vera Rubin的真正看點，不只是規格表上的72粒GPU，而是Nvidia能否把「每兆瓦完成更多AI工作」這個宣傳說法，變成數據中心營運商可以長期量度、部署及賺錢的實際結果。

Nvidia今次公布的重點，不只是「下一代GPU快幾多」，而是將Vera Rubin包裝成一座由晶片、機櫃、網絡、電源管理到軟件一條龍整合的「AI工廠」。目標是應付需要多輪推理、工具呼叫、程式執行及子代理協作的Agentic AI工作負載，令每一度電可以完成更多有效工作。

不過，最搶眼的效能數字主要來自Nvidia公布的供應商測試，並非獨立、同行評審的驗證。因此，「最高30倍」及「成本低35倍」應視為特定模型、工作負載及系統配置下的結果，而非所有AI服務都必然可以達到的幅度。8

Vera Rubin NVL72：一個液冷機櫃變成一部AI超級電腦

Vera Rubin NVL72將72粒Rubin GPU、36粒Vera CPU、ConnectX-9 SuperNIC、BlueField-4 DPU，以及第六代NVLink交換器，整合於一個液冷機櫃之內。設計上，72粒GPU可以作為一個緊密耦合的Scale-Up運算域運作，同時透過Quantum-X800 InfiniBand或Spectrum-X Ethernet連接其他機櫃，擴展成更大型的AI集群。36

換句話說，Nvidia賣的不是一張獨立顯卡，而是一套盡量減少數據搬運、通訊延遲及電力浪費的完整基礎設施。對需要長上下文及連續互動的AI Agent來說，GPU峰值算力只是其中一環；CPU、記憶體頻寬、機櫃內互連和跨機櫃網絡同樣會左右實際吞吐量。

AgentX測試：DeepSeek V4 Pro跑出最高30倍每兆瓦吞吐量

Nvidia表示，Vera Rubin NVL72在Agentic AI工作負載上，較GB300 NVL72的每兆瓦吞吐量最高高出30倍，而引用的比較中Token成本最高可降低35倍。89 Nvidia早前亦曾以較廣泛的Rubin平台比較Blackwell，聲稱推理Token成本最高可降低10倍。11

今次測試採用SemiAnalysis的AgentX工作負載，內容是重播接近實際生產環境的Agent程式編碼工作階段，保留上下文增長、工具呼叫及子代理生成等元素；測試模型則包括DeepSeek V4 Pro。89

這類測試與一般「問一句、答一句」的聊天基準不同。AI Agent可能要反覆推理、檢索資料、呼叫工具、執行程式碼，再把結果交回模型繼續處理。當互動輪數增加，CPU協調工作、記憶體頻寬及互連效率，便不再是配角。

Hopper及每百萬Token成本：現時不應過度解讀

現有資料足以支持Nvidia對GB300的比較，但未有提供一個來自一手來源、可以直接對照的Hopper倍數；同樣沒有足夠資料核實一個精確的「每百萬Token多少美元」價格。因此，現時不能負責任地寫成Vera Rubin相對Hopper固定快了某個倍數，亦不能把宣傳中的成本倍數直接換算成所有客戶都適用的美元單價。

Nvidia所強調的方向是：Agentic AI因為涉及反覆推理及工具使用，消耗的Token會遠高於一次性聊天；實際每Token成本仍會受到模型、上下文長度、回應速度目標、利用率、電費、冷卻及整體系統配置影響。

DSX MaxLPS：由「開盡部機」轉向「每度電做最多Token」

Nvidia將DSX描述為一套涵蓋晶片、系統、軟件、數據中心設施及合作夥伴技術的端到端AI工廠設計。當中的DSX MaxLPS軟件，重點不是單純令硬件以最高瞬時功率運作，而是最大化每單位電力可以處理的Token吞吐量，從而降低每Token成本。1215

實際意義是，AI工廠可以更有策略地分配電力及散熱資源，在電力供應和冷卻能力已經成為部署樽頸時，優化整個系統的有效產出。這亦反映AI數據中心的競爭，正由「有幾多加速器」逐步轉向「有限電力可以產生幾多可售賣的AI服務」。

Vera CPU：88個Olympus核心，專為Agent周邊工作而設

Vera是Nvidia自家設計、兼容Armv9.2的CPU。它配備88個Olympus核心及176條Spatial Multithreading執行緒，針對推理過程周邊的大量並行CPU工作，包括數據處理、工作流程編排、資料檢索、工具執行、沙盒程式碼及模擬等。210

Vera採用SOCAMM2 LPDDR5X記憶體，最高提供1.2TB/s總記憶體頻寬，即每個核心最高約14GB/s。第二代Scalable Coherency Fabric則把88個核心、共享L3快取及記憶體子系統連接起來，最高提供3.4TB/s雙向切分頻寬；Nvidia表示，晶片配備164MB統一L3快取。78

以Grace作比較，Nvidia聲稱Vera的記憶體頻寬為2.4倍、記憶體容量為3倍，而用於保持CPU與GPU記憶體一致性的NVLink-C2C頻寬則是兩倍。1

這個設計思路值得留意：Agent並非只有GPU生成Token。每次工具呼叫、資料搬運、程式碼執行及任務編排，都可能令CPU成為瓶頸。Nvidia希望以更高單執行緒表現、更多並行執行緒及高記憶體頻寬，減少GPU等候CPU或數據的時間。

Scale-In到底做甚麼？NVLink、InfiniBand及Ethernet各司其職

Nvidia所說的「Scale-In」可以理解為機櫃內的Scale-Up網絡，與跨機櫃的Scale-Out並不是同一層：

• Scale-In／Scale-Up： 第六代NVLink 6令72粒GPU以一個緊密耦合的機櫃級運算系統運作。Nvidia列出的規格是每粒GPU具備3.6TB/s雙向GPU對GPU頻寬，整個機櫃的GPU頻寬則達260TB/s。3
• Scale-Out： Quantum-X800 InfiniBand或Spectrum-X Ethernet把多個機櫃連接成更大的集群。3
• 數據及基礎設施卸載： ConnectX-9 SuperNIC及BlueField-4 DPU負責網絡、儲存、安全及數據路徑工作，減少主CPU和GPU處理這些額外工作的負擔。36

這種分層設計的核心，是讓需要頻繁交換數據的GPU留在低延遲、高頻寬的NVLink域內；當工作負載需要擴展到更多機櫃時，再由InfiniBand或Ethernet負責對外連接。Nvidia因此把競爭範圍由GPU本身推到交換器、網絡卡、DPU及整套系統架構。

SpaceXAI合作：地面Grok基礎設施，再延伸到Starmind

Nvidia表示，SpaceXAI將部署Vera CPU，支援下一代Agentic AI工作負載；同時，SpaceXAI會以Vera Rubin平台擴展Grok背後的AI基礎設施，目標是逐步提升至吉瓦級運算容量。14

雙方亦計劃把這套架構延伸至Starmind軌道運算項目，經優化的Nvidia硬件將成為面向太空環境的運算載荷基礎。1412但要留意，這是計劃中的部署，並不代表現時已經有一座正在運作的軌道AI數據中心；公開資料亦未足以證實一個已落實的完整發射及營運時間表。

對Nvidia意味着甚麼？由GPU供應商變成整座AI工廠的架構商

如果Vera Rubin的工作負載數字最終能在客戶部署中重現，最大價值未必只是模型跑得更快，而是同一個受限的電力預算之下，可以完成更多Agent任務。理論上，這可能降低每個生成Token所涉及的電力、冷卻、網絡及資本成本。

更具戰略性的變化，是Nvidia正由GPU延伸至自家Arm CPU、CPU與GPU一致性互連、機櫃級交換、DPU，以及AI工廠營運軟件。這種垂直整合有助Nvidia對抗GPU競爭者及傳統CPU供應商，但代價是客戶對Nvidia硬件、網絡及軟件生態的依賴亦會加深。

所以，Vera Rubin的真正看點，不只是規格表上的72粒GPU，而是Nvidia能否把「每兆瓦完成更多AI工作」這個宣傳說法，變成數據中心營運商可以長期量度、部署及賺錢的實際結果。