英伟达正在把 Vera Rubin NVL72 描绘成一套面向“智能体式 AI”（agentic AI）的机架级基础设施。与只生成一次答案的传统问答不同，AI 智能体往往需要反复生成 token、调用工具、执行代码、创建子任务，并在不断变长的上下文中继续推理。

英伟达公布的测试结果显示，在 DeepSeek V4 Pro 模型和 SemiAnalysis AgentX 工作负载下，Vera Rubin NVL72 相比 GB300 NVL72 的每兆瓦吞吐量最高提升 30 倍，每百万 token 成本最高降低 35 倍。

不过，这些数字首先应被理解为英伟达公布的性能声明，而不是已经完成独立、完全对等验证的行业结论。现有材料没有给出 Vera Rubin 的具体美元级“每百万 token 成本”，也没有提供一张让 Vera Rubin、GB300 与 Hopper 在完全相同条件下直接对照的统一测试表。

30 倍提升究竟测的是什么？

AgentX 并不是一次性问答基准，而是回放具有生产风格的智能体编程会话。测试会保留上下文增长、工具调用和子智能体生成等环节，用来观察基础设施如何处理更接近真实部署的智能体请求。6

这一区别很关键。一个智能体可能先生成代码，再检查结果、调用外部工具、执行程序、创建新的任务，最后带着更大的上下文继续推理。整个循环会同时增加对显存与内存、网络、CPU、存储和电力的压力，而不只是考验 GPU 本身的计算能力。

因此，英伟达强调的“每兆瓦吞吐量”，衡量的是在固定能源预算下能够完成多少智能体推理工作，而不是普通聊天场景中的单次响应速度。

Vera Rubin 与 Hopper：不能把两个数字直接相乘

Vera Rubin NVL72 的 30 倍比较对象是 GB300 NVL72，并不是 Hopper。英伟达在相关材料中另称，运行 DeepSeek V4 Pro 时，GB300 NVL72 相比 H200 Hopper 系统的每兆瓦吞吐量最高提升 15 倍。

这两个数字可以用来说明英伟达所描述的代际进步，但不能据此得出 Vera Rubin 比 Hopper 高 450 倍的结论。它们是两组独立的“最高”值，现有证据没有证明三种平台是在同一套条件、同一张测试表中连续测得的。

成本比较也存在同样限制。目前有依据的说法是：Vera Rubin 相比 GB300 的 token 成本最高降低 35 倍；但材料没有给出 Vera Rubin 的具体每百万 token 美元价格，也没有提供 Vera Rubin 对 Hopper 的明确成本倍数。

NVL72 机架里有什么？

Vera Rubin NVL72 将以下组件整合为一个紧密协同的机架级系统：

• 72 颗 Rubin GPU
• 36 颗 Vera CPU
• ConnectX-9 SuperNIC 网络适配器
• BlueField-4 DPU 数据处理器

英伟达称，NVLink 6 负责机架内的横向扩展连接；Quantum-X800 InfiniBand 和 Spectrum-X Ethernet 则承担跨系统的纵向扩展网络连接。23

这种设计并不是简单地把多台独立加速服务器放进同一个机柜，而是试图让整个机架像一台统一的计算机一样工作。对于智能体负载而言，这种协同尤其重要，因为模型推理能否持续获得数据，取决于 GPU、CPU、网络与存储之间的调度是否顺畅。

为什么 88 核 Vera CPU 会影响智能体性能？

Vera 是一款拥有 88 个 NVIDIA 设计 Olympus 核心的 CPU，采用 Spatial Multithreading 技术和 LPDDR5X 内存，最高提供 1.2 TB/s 内存带宽。英伟达称，在智能体 AI、强化学习和数据处理等工作负载中，Vera 的任务完成速度最高可达到 x86 CPU 的 1.8 倍。15

它的定位并不只是运行传统主机操作系统，而是处理模型推理周围的大量 CPU 侧工作，包括：

• 工具调用
• 代码执行
• 沙箱环境与任务编排
• 数据处理和分析
• 仿真与强化学习

如果这些环节由专门的 CPU 更快地完成，GPU 就能更专注于推理计算，减少智能体循环中“模型在等待外围任务”的时间。英伟达的思路是：智能体基础设施的瓶颈不只在加速器，也在模型之外的整个执行链路。159

BlueField-4：英伟达所说的“Scale-In”基础设施层

BlueField-4 是英伟达用于基础设施处理的专用 DPU。它将一颗 64 核 Grace CPU、LPDDR5X 内存和 ConnectX-9 网络连接集成在一起，网络连接能力最高可达 800 Gb/s。1

英伟达表示，BlueField-4 可以把控制、安全、数据搬运和编排等基础设施任务从主机 CPU 和 GPU 上卸载下来。这样一来，DPU 就像 AI 工厂中的基础设施层，为大规模系统提供更隔离、更安全、更可预测的运行环境。1

这也是英伟达“Scale-In”概念的核心：提升效率不只是把 GPU 芯片做得更快，还要让机架在通信、存储、调度和安全方面尽量少占用加速器资源。

DSX MaxLPS 如何参与效率提升？

DSX MaxLPS 不是 Vera Rubin 的另一颗 GPU 或 CPU，而是英伟达 DSX AI 工厂方案中的软件套件。英伟达称，该套件的目标是在固定功率预算下最大化每兆瓦 token 性能，从而降低 AI 工厂的 token 成本。其方案结合液冷和机架内优化，让运营方能够部署更多 GPU，并使它们更接近能效更高的运行点。

因此，DSX MaxLPS 与 30 倍效率声明有关：相关指标是在 AI 工厂层面计算的，冷却方式、机架配置和基础设施软件都可能影响单位功耗能够生成的 token 数量。

但现有材料没有拆分说明这次提升分别有多少来自 Rubin 芯片、Vera CPU、软件栈、冷却系统、机架配置或测试方法。换言之，30 倍数字反映的是整套系统与配置的结果，不能自动等同于单颗 GPU 的芯片级提升。

SpaceXAI 的部署计划

英伟达与 SpaceXAI 表示，SpaceXAI 计划部署 Vera CPU，为下一代智能体 AI 工作负载提供支持，并利用 Vera Rubin 扩展 Grok 背后的 AI 基础设施。45

双方还介绍了将优化版 Vera Rubin NVL72 系统延伸至轨道、用于第一代 Starmind AI 卫星的计划。4

需要注意的是，这些目前仍是计划中的部署安排，并不等于搭载 NVL72 的轨道系统已经发射或投入运行。

对基础设施采购方意味着什么？

Vera Rubin NVL72 的真正看点，在于英伟达试图用更接近智能体实际工作方式的测试来衡量 AI 基础设施：长时间、多轮次、上下文不断增长，并且伴随工具、代码和子智能体的调用。在这类工作负载上，英伟达报告称 Vera Rubin 相比 GB300 NVL72 的每兆瓦吞吐量最高提升 30 倍，每百万 token 成本最高降低 35 倍。

但对云服务商和企业基础设施团队来说，关键并不是倍数听起来有多惊人，而是这一结果能否在自己的模型、延迟目标、上下文长度、并发量、功耗上限和总拥有成本假设下复现。

目前的证据足以说明英伟达声称了什么，以及 Vera Rubin 为何围绕智能体工作负载进行设计；但它还不足以给出最终的独立性能结论。

英伟达正在把 Vera Rubin NVL72 描绘成一套面向“智能体式 AI”（agentic AI）的机架级基础设施。与只生成一次答案的传统问答不同，AI 智能体往往需要反复生成 token、调用工具、执行代码、创建子任务，并在不断变长的上下文中继续推理。

英伟达公布的测试结果显示，在 DeepSeek V4 Pro 模型和 SemiAnalysis AgentX 工作负载下，Vera Rubin NVL72 相比 GB300 NVL72 的每兆瓦吞吐量最高提升 30 倍，每百万 token 成本最高降低 35 倍。

不过，这些数字首先应被理解为英伟达公布的性能声明，而不是已经完成独立、完全对等验证的行业结论。现有材料没有给出 Vera Rubin 的具体美元级“每百万 token 成本”，也没有提供一张让 Vera Rubin、GB300 与 Hopper 在完全相同条件下直接对照的统一测试表。

30 倍提升究竟测的是什么？

AgentX 并不是一次性问答基准，而是回放具有生产风格的智能体编程会话。测试会保留上下文增长、工具调用和子智能体生成等环节，用来观察基础设施如何处理更接近真实部署的智能体请求。6

这一区别很关键。一个智能体可能先生成代码，再检查结果、调用外部工具、执行程序、创建新的任务，最后带着更大的上下文继续推理。整个循环会同时增加对显存与内存、网络、CPU、存储和电力的压力，而不只是考验 GPU 本身的计算能力。

因此，英伟达强调的“每兆瓦吞吐量”，衡量的是在固定能源预算下能够完成多少智能体推理工作，而不是普通聊天场景中的单次响应速度。

Vera Rubin 与 Hopper：不能把两个数字直接相乘

Vera Rubin NVL72 的 30 倍比较对象是 GB300 NVL72，并不是 Hopper。英伟达在相关材料中另称，运行 DeepSeek V4 Pro 时，GB300 NVL72 相比 H200 Hopper 系统的每兆瓦吞吐量最高提升 15 倍。

这两个数字可以用来说明英伟达所描述的代际进步，但不能据此得出 Vera Rubin 比 Hopper 高 450 倍的结论。它们是两组独立的“最高”值，现有证据没有证明三种平台是在同一套条件、同一张测试表中连续测得的。

成本比较也存在同样限制。目前有依据的说法是：Vera Rubin 相比 GB300 的 token 成本最高降低 35 倍；但材料没有给出 Vera Rubin 的具体每百万 token 美元价格，也没有提供 Vera Rubin 对 Hopper 的明确成本倍数。

NVL72 机架里有什么？

Vera Rubin NVL72 将以下组件整合为一个紧密协同的机架级系统：

• 72 颗 Rubin GPU
• 36 颗 Vera CPU
• ConnectX-9 SuperNIC 网络适配器
• BlueField-4 DPU 数据处理器

英伟达称，NVLink 6 负责机架内的横向扩展连接；Quantum-X800 InfiniBand 和 Spectrum-X Ethernet 则承担跨系统的纵向扩展网络连接。23

这种设计并不是简单地把多台独立加速服务器放进同一个机柜，而是试图让整个机架像一台统一的计算机一样工作。对于智能体负载而言，这种协同尤其重要，因为模型推理能否持续获得数据，取决于 GPU、CPU、网络与存储之间的调度是否顺畅。

为什么 88 核 Vera CPU 会影响智能体性能？

Vera 是一款拥有 88 个 NVIDIA 设计 Olympus 核心的 CPU，采用 Spatial Multithreading 技术和 LPDDR5X 内存，最高提供 1.2 TB/s 内存带宽。英伟达称，在智能体 AI、强化学习和数据处理等工作负载中，Vera 的任务完成速度最高可达到 x86 CPU 的 1.8 倍。15

它的定位并不只是运行传统主机操作系统，而是处理模型推理周围的大量 CPU 侧工作，包括：

• 工具调用
• 代码执行
• 沙箱环境与任务编排
• 数据处理和分析
• 仿真与强化学习

如果这些环节由专门的 CPU 更快地完成，GPU 就能更专注于推理计算，减少智能体循环中“模型在等待外围任务”的时间。英伟达的思路是：智能体基础设施的瓶颈不只在加速器，也在模型之外的整个执行链路。159

BlueField-4：英伟达所说的“Scale-In”基础设施层

BlueField-4 是英伟达用于基础设施处理的专用 DPU。它将一颗 64 核 Grace CPU、LPDDR5X 内存和 ConnectX-9 网络连接集成在一起，网络连接能力最高可达 800 Gb/s。1

英伟达表示，BlueField-4 可以把控制、安全、数据搬运和编排等基础设施任务从主机 CPU 和 GPU 上卸载下来。这样一来，DPU 就像 AI 工厂中的基础设施层，为大规模系统提供更隔离、更安全、更可预测的运行环境。1

这也是英伟达“Scale-In”概念的核心：提升效率不只是把 GPU 芯片做得更快，还要让机架在通信、存储、调度和安全方面尽量少占用加速器资源。

DSX MaxLPS 如何参与效率提升？

DSX MaxLPS 不是 Vera Rubin 的另一颗 GPU 或 CPU，而是英伟达 DSX AI 工厂方案中的软件套件。英伟达称，该套件的目标是在固定功率预算下最大化每兆瓦 token 性能，从而降低 AI 工厂的 token 成本。其方案结合液冷和机架内优化，让运营方能够部署更多 GPU，并使它们更接近能效更高的运行点。

因此，DSX MaxLPS 与 30 倍效率声明有关：相关指标是在 AI 工厂层面计算的，冷却方式、机架配置和基础设施软件都可能影响单位功耗能够生成的 token 数量。

但现有材料没有拆分说明这次提升分别有多少来自 Rubin 芯片、Vera CPU、软件栈、冷却系统、机架配置或测试方法。换言之，30 倍数字反映的是整套系统与配置的结果，不能自动等同于单颗 GPU 的芯片级提升。

SpaceXAI 的部署计划

英伟达与 SpaceXAI 表示，SpaceXAI 计划部署 Vera CPU，为下一代智能体 AI 工作负载提供支持，并利用 Vera Rubin 扩展 Grok 背后的 AI 基础设施。45

双方还介绍了将优化版 Vera Rubin NVL72 系统延伸至轨道、用于第一代 Starmind AI 卫星的计划。4

需要注意的是，这些目前仍是计划中的部署安排，并不等于搭载 NVL72 的轨道系统已经发射或投入运行。

对基础设施采购方意味着什么？

Vera Rubin NVL72 的真正看点，在于英伟达试图用更接近智能体实际工作方式的测试来衡量 AI 基础设施：长时间、多轮次、上下文不断增长，并且伴随工具、代码和子智能体的调用。在这类工作负载上，英伟达报告称 Vera Rubin 相比 GB300 NVL72 的每兆瓦吞吐量最高提升 30 倍，每百万 token 成本最高降低 35 倍。

但对云服务商和企业基础设施团队来说，关键并不是倍数听起来有多惊人，而是这一结果能否在自己的模型、延迟目标、上下文长度、并发量、功耗上限和总拥有成本假设下复现。

目前的证据足以说明英伟达声称了什么，以及 Vera Rubin 为何围绕智能体工作负载进行设计；但它还不足以给出最终的独立性能结论。