為咗公平比較唔同規模同耗電嘅系統，所有結果都會按「每個加速器」同「每兆瓦（MW）」進行歸一化處理，等大家唔單止睇到總吞吐量，仲睇到用電效率 。

Nvidia GB300 NVL72嘅嚇人成績

喺今次發佈嘅首批結果入面，Nvidia嘅GB300 NVL72（Blackwell Ultra架構）係咁多測試平台入面嘅冠軍，特別係喺行緊DeepSeek V4 Pro呢個大型混合專家（MoE）模型嘅時候，呢個模型正正係當今最勁嗰批代理AI嘅縮影 。

數字有幾誇張？

• 每瓦特效能暴升20倍：對比Nvidia上一代嘅HGX H200（Hopper架構）系統，無論喺20 tokens/s定係60 tokens/s嘅SLO級別，Blackwell Ultra每兆瓦可以支援嘅並行代理數量都多成20倍 。呢個唔係淨係快啲咁簡單，而係代表喺同樣嘅電費同散熱成本下，你可以營運嘅AI代理規模係幾何級咁跳升。
• 61,000+並行代理：根據Artificial Analysis喺社交平台貼出嘅原始數據，GB300機架級分離式配置（rack-scale disaggregated）喺最容易嘅SLO級別（即係要求每秒輸出20個token，首token延遲10秒內），總共支援到61,340個並行代理 。

跑分背後：Nvidia嘅agent AI大台戰略

呢次跑分並唔係獨立事件，而係Nvidia精心策劃嘅一系列動作嘅其中一環，目標係要將Blackwell Ultra定位成「代理式AI時代嘅終極基礎設施」。

1. 軟硬件全棧優化嘅故事

Nvidia將呢個20倍嘅效能飛躍，歸功於極致嘅軟硬件協同設計：

• NVLink高速互連將72粒GPU砌成一個巨型運算結構（fabric），大大減少通訊瓶頸 。
• 專為MoE模型而設嘅CUDA核心，可以重疊通訊同運算，唔會嘥時間等 。
• TensorRT LLM嘅一堆優化技術，例如WideEP/DeepEP、DeepGEMM、fused MoE等等，確保喺越嚟越多代理同時開工、並行session不斷增加嘅情況下，依然可以保持高效率 。

2. 延續跑分霸權

AgentPerf只係Nvidia跑分版圖嘅最新一塊拼圖。佢哋嘅Blackwell Ultra平台已經喺唔同測試入面橫掃：

• MLPerf Inference v5.1：喺DeepSeek-R1嘅吞吐量比Blackwell高出1.4倍 。
• MLPerf Training v5.1：喺全部七個訓練基準測試入面都創咗最快訓練時間嘅紀錄，包括最重型嘅Llama 3.1 405B模型，用5,120粒Blackwell GPU，10分鐘就搞掂預訓練 。
• MLPerf Inference v6.0（預覽）：初步結果顯示，DeepSeek-R1嘅處理速度比半年前嘅提交快咗2.7倍，用288粒Blackwell Ultra GPU每秒處理到250萬個token 。

3. 用生態系統實例做背書

跑分靚仔還跑分靚仔，最重要係真係有人用。Nvidia特別強調，生態合作夥伴已經將Blackwell應用喺真實嘅代理式AI工作上面：

• Together AI 正喺度用Blackwell為Cursor呢個知名AI編碼工具背後嘅代理式編碼功能提供算力 。
• DeepInfra 都係用Blackwell去支援Pam.ai嘅「AI員工」（AI workforce） 。
  目的好明顯，就係話畀市場知，Blackwell Ultra唔係實驗室嘅玩具，而係已經準備好投入生產環境嘅成熟平台。

4. 下一代路線圖已經準備好

Nvidia喺官方網誌入面，仲特登「劇透」咗下一代嘅Vera Rubin架構（而家已經投產），暗示呢個將會係撐起未來更大規模代理式AI容量嘅下一步 。喺技術深入探討嘅文章入面，更提到預計會由50 PFLOPs嘅NVFP4算力同埋更強嘅LLM工具呼叫加速功能，去進一步推高效能天花板 。

總括嚟講，AA-AgentPerf嘅首批結果，唔單止係Nvidia Blackwell Ultra嘅一場效能大勝，更加係一個業界訊號：AI嘅競爭焦點，已經由「傾偈」轉向「做嘢」。而Nvidia正喺度用佢一貫嘅軟硬件整合能力，試圖為呢個新時代定下硬件標準。

為咗公平比較唔同規模同耗電嘅系統，所有結果都會按「每個加速器」同「每兆瓦（MW）」進行歸一化處理，等大家唔單止睇到總吞吐量，仲睇到用電效率 。

Nvidia GB300 NVL72嘅嚇人成績

喺今次發佈嘅首批結果入面，Nvidia嘅GB300 NVL72（Blackwell Ultra架構）係咁多測試平台入面嘅冠軍，特別係喺行緊DeepSeek V4 Pro呢個大型混合專家（MoE）模型嘅時候，呢個模型正正係當今最勁嗰批代理AI嘅縮影 。

數字有幾誇張？

• 每瓦特效能暴升20倍：對比Nvidia上一代嘅HGX H200（Hopper架構）系統，無論喺20 tokens/s定係60 tokens/s嘅SLO級別，Blackwell Ultra每兆瓦可以支援嘅並行代理數量都多成20倍 。呢個唔係淨係快啲咁簡單，而係代表喺同樣嘅電費同散熱成本下，你可以營運嘅AI代理規模係幾何級咁跳升。
• 61,000+並行代理：根據Artificial Analysis喺社交平台貼出嘅原始數據，GB300機架級分離式配置（rack-scale disaggregated）喺最容易嘅SLO級別（即係要求每秒輸出20個token，首token延遲10秒內），總共支援到61,340個並行代理 。

跑分背後：Nvidia嘅agent AI大台戰略

呢次跑分並唔係獨立事件，而係Nvidia精心策劃嘅一系列動作嘅其中一環，目標係要將Blackwell Ultra定位成「代理式AI時代嘅終極基礎設施」。

1. 軟硬件全棧優化嘅故事

Nvidia將呢個20倍嘅效能飛躍，歸功於極致嘅軟硬件協同設計：

• NVLink高速互連將72粒GPU砌成一個巨型運算結構（fabric），大大減少通訊瓶頸 。
• 專為MoE模型而設嘅CUDA核心，可以重疊通訊同運算，唔會嘥時間等 。
• TensorRT LLM嘅一堆優化技術，例如WideEP/DeepEP、DeepGEMM、fused MoE等等，確保喺越嚟越多代理同時開工、並行session不斷增加嘅情況下，依然可以保持高效率 。

2. 延續跑分霸權

AgentPerf只係Nvidia跑分版圖嘅最新一塊拼圖。佢哋嘅Blackwell Ultra平台已經喺唔同測試入面橫掃：

• MLPerf Inference v5.1：喺DeepSeek-R1嘅吞吐量比Blackwell高出1.4倍 。
• MLPerf Training v5.1：喺全部七個訓練基準測試入面都創咗最快訓練時間嘅紀錄，包括最重型嘅Llama 3.1 405B模型，用5,120粒Blackwell GPU，10分鐘就搞掂預訓練 。
• MLPerf Inference v6.0（預覽）：初步結果顯示，DeepSeek-R1嘅處理速度比半年前嘅提交快咗2.7倍，用288粒Blackwell Ultra GPU每秒處理到250萬個token 。

3. 用生態系統實例做背書

跑分靚仔還跑分靚仔，最重要係真係有人用。Nvidia特別強調，生態合作夥伴已經將Blackwell應用喺真實嘅代理式AI工作上面：

• Together AI 正喺度用Blackwell為Cursor呢個知名AI編碼工具背後嘅代理式編碼功能提供算力 。
• DeepInfra 都係用Blackwell去支援Pam.ai嘅「AI員工」（AI workforce） 。
  目的好明顯，就係話畀市場知，Blackwell Ultra唔係實驗室嘅玩具，而係已經準備好投入生產環境嘅成熟平台。

4. 下一代路線圖已經準備好

Nvidia喺官方網誌入面，仲特登「劇透」咗下一代嘅Vera Rubin架構（而家已經投產），暗示呢個將會係撐起未來更大規模代理式AI容量嘅下一步 。喺技術深入探討嘅文章入面，更提到預計會由50 PFLOPs嘅NVFP4算力同埋更強嘅LLM工具呼叫加速功能，去進一步推高效能天花板 。

總括嚟講，AA-AgentPerf嘅首批結果，唔單止係Nvidia Blackwell Ultra嘅一場效能大勝，更加係一個業界訊號：AI嘅競爭焦點，已經由「傾偈」轉向「做嘢」。而Nvidia正喺度用佢一貫嘅軟硬件整合能力，試圖為呢個新時代定下硬件標準。