AI Agent跑分首秀：英伟达Blackwell Ultra凭何实现20倍能效碾压？

• 全场最高性能：在所有测试平台中取得了压倒性的最高性能。
• 惊人的能效比：与上一代基于Hopper架构的 NVIDIA HGX H200 系统相比，GB300 NVL72在20 tokens/s和60 tokens/s这两个对智能体流畅性至关重要的SLO等级上，每兆瓦电力支持的并发智能体数量均高达20倍 。
• 绝对数量碾压：从Artificial Analysis官方社交媒体发布的详细数据来看，在最宽松的SLO条件下（20 tokens/s输出速度、10秒首token延迟），GB300的机架级解耦配置支持了惊人的61,340个并发智能体。作为对比，上一代的H200为2,594个，AMD的MI355X为3,551个，同代单节点B300解耦配置为21,053个 。

这些数字意味着，在相同电力成本下，部署Blackwell Ultra的数据中心可以驱动数量远超以往的AI编程智能体，从而可能彻底改变AI工厂的单位经济模型。

制胜密码：软硬协同的“全栈革命”

英伟达将如此巨大的性能飞跃，归功于其标志性的“全栈式”协同设计策略，这绝非单点突破，而是一场系统工程上的胜利 ：

1. 硬件架构基石：Blackwell Ultra GB300 NVL72通过NVLink技术将72颗GPU紧密互联为一个巨型GPU，极大扩展了处理复杂MoE模型的物理显存和带宽上限。
2. 软件优化魔法：新一代的CUDA内核专为重叠通信与计算设计，这对需要频繁调用的MoE模型至关重要。同时，TensorRT-LLM推理引擎引入了WideEP/DeepEP、DeepGEMM以及融合MoE内核等一系列前沿优化，确保在并发智能体数量飙升时，系统效率依然能维持在极高水平。
3. 面向未来的架构：采用**解耦（Disaggregated）**架构可以将模型的Prefill（理解）和Decode（生成）阶段分离到不同的硬件上，针对各自的计算特点进行极致优化，这是支撑起数万并发智能体而系统不至崩溃的关键。

更宏大的棋局：全面围猎“智能体AI”时代

AgentPerf的惊艳首秀并非偶然事件，而是英伟达一场精心策划、多点合围的战略行动，旨在将Blackwell Ultra打造成智能体AI规模化部署的事实标准。

• 补齐基准测试版图：在此之前，Blackwell Ultra已在传统的MLPerf战场上证明了自己。在MLPerf Training v5.1中，英伟达横扫了全部七项基准测试，创下了LLM预训练和微调的最快纪录 。而在MLPerf Inference v5.1及更新的v6.0中，GB300 NVL72在全新的推理基准DeepSeek-R1上，实现了比前代Blackwell高出1.4倍的吞量量，且继续持有所有其他基准测试的单GPU性能记录 。AgentPerf的加入，为这场压倒性的性能叙事增添了至关重要的“智能体”维度。
• 生态验证与商业闭环：光有实验室跑分远远不够。英伟达同步抛出了商业化应用的铁证：合作伙伴Together AI正利用Blackwell平台驱动广受欢迎的AI编程工具Cursor的智能体功能；而DeepInfra则在其上运行着Pam.ai的AI数字员工。这表明Blackwell平台已经具备生产就绪的能力，而不仅仅是benchmark上的明星 。
• 清晰的路线图展望：英伟达在官方博客中适时地预告了下一代Vera Rubin架构（已进入生产阶段），将其定位为智能体AI能力的下一个跳跃点，并预告了将带来50 PFLOPs的NVFP4计算和增强的LLM工具调用加速能力，向外界传递出技术路线清晰、持续领先的强烈信号 。

综上所述，AA-AgentPerf的首轮成绩，不仅是英伟达Blackwell Ultra平台的一次性能炫技，更是一次产业风向的精确展示。当AI的竞争焦点从单纯的“聊天”能力转向复杂、多步的“办事”能力时，衡量硬件优劣的标尺也必须随之而变。英伟达正试图用这一新基准告诉世界：在这场向智能体AI进化的浪潮中，它已凭借全栈协同的硬实力，率先在算力基础设施的起跑线上划定了新的标准。