Vultr 攜手 HPE 與 NVIDIA：直擊 HPE Discover 2026 次世代 AI 資料中心

• AI 效能：最高可達 1,440 PFLOPS 的 FP4 AI 效能
• 記憶體：每顆 GPU 配備 279 GB 的 HBM3e 記憶體（整個機櫃總計 37 TB），記憶體頻寬達 8 TB/s
• 架構：專為超過 1 兆個參數的大型 AI 模型訓練、微調與即時推論最佳化
• 散熱：採用全液冷設計，並整合至 HPE 的 AI 工廠架構中

GB300 NVL72 被譽為新一代的「推論/訓練主力戰將」，其敘事主軸明確圍繞著「每 token 成本（cost-per-token）」，反映業界正積極朝向大規模營運化 AI 模型、實現即時應用的方向邁進 。根據 NVIDIA 產品頁面，它在密集 FP4 Tensor Core FLOPS 上比前代 NVIDIA Blackwell GPU 提升了 1.5 倍，注意力運算效能更是提升了 2 倍 。

高速網路骨幹：AI 推論的生命線

高速網路是此次部署的關鍵基石。所有 NVIDIA GB300 NVL72 系統皆透過 NVIDIA Spectrum-X 乙太網路相互連結，這是一個無損、高吞吐量的乙太網路架構，旨在消除多節點 AI 工作負載中的效能瓶頸 。

該部署採用 400GbE 與 800GbE 互連、光纖收發器、NVIDIA Spectrum-X 乙太網路交換器與 SuperNIC 。若缺乏這樣的網路架構，將企業級推論規模化時，會產生致命的延遲與頻寬瓶頸。NVIDIA 的企業參考架構文件也證實，這種雙平面網路設計正是為了支援大規模的 AI 訓練與推論，讓即時應用與萬億參數模型成為可能 。

策略轉向：從訓練到推論

雖然這套基礎架構同時支援訓練與推論 ，但本次公告特別強調了企業對 AI 推論（生產部署） 關注度的提升。以下幾點訊號說明了這一轉變：

• GB300 NVL72 是專為「測試時間擴展推論（test-time scaling inference）與 AI 推理任務」而打造
• 它明確以「每 token 成本」為敘事核心，將價值衡量從原始訓練吞吐量轉向推論輸出
• HPE 在大會上的整體訊息則聚焦於如何讓 AI 在兼顧安全、治理、規模與主權的前提下，正式導入生產環境

這清楚表明：企業已經度過實驗階段，現在迫切需要能在大規模生產環境中部署 AI 模型的最佳化架構。

HPE Discover 2026 的其他亮點

除了與 Vultr 的合作，HPE 在會上也公布了多項相關計畫：

• 代理式 AI（Agentic AI）布局：HPE 宣布與 NVIDIA 合作，計畫將代理式 AI 正式導入生產環境，強調安全性、治理、規模化與主權
• 客戶導入案例：S k y Co., Ltd. 部署了 HPE Private Cloud AI，這是 NVIDIA AI Computing by HPE 產品組合的一部分
• 阿根廷 Nubax 案例：該公司推出以用量計費的 AI 即服務（AI-as-a-service）模式，在供應鏈預測上提升了 62.5% 的準確度，等待時間縮短 35%，並節省 40% 的成本，背後動力正是 NVIDIA AI Computing by HPE

這對企業 AI 意味著什麼

Vultr 選擇 HPE 與 NVIDIA，標誌著一個重大的產業轉折點。作為全球最大的私有超大規模雲端商，Vultr 押注企業客戶需要能同時應付訓練與即時推論的雲端規模基礎架構。透過結合 NVIDIA 機櫃級 GPU 運算與 HPE 的工廠架構、液冷技術與服務，Vultr 正將自己定位為能服務下一波企業 AI 工作負載的關鍵角色——從模型訓練到生產級推論，全面涵蓋萬億參數模型。