Vultr 揀 HPE 同 NVIDIA 打造新一代 AI 數據中心 | HPE Discover 2026 直擊

• AI 性能： 最高 1,440 PFLOPS FP4 AI 性能
• 記憶體： 每張 GPU 有 279 GB HBM3e 記憶體（成個機架總共 37 TB），每張 GPU 頻寬達 8 TB/s
• 架構： 專為訓練、微調同即時推理超過 1 萬億參數嘅大型 AI 模型而優化
• 散熱： 全液冷設計，整合到 HPE 嘅 AI 工廠架構入面

GB300 NVL72 俾人形容為「新嘅 inference/training 主力機」，有明確嘅 cost-per-token 論述，反映業界而家係要將 AI 模型大規模商業化用喺即時應用 。根據 NVIDIA 產品頁面，佢嘅密集 FP4 Tensor Core FLOPS 比 NVIDIA Blackwell GPU 多 1.5 倍，注意力性能高 2 倍 。

高頻寬網絡：AI 推理嘅骨幹

高頻寬網絡係成個部署嘅基石。NVIDIA GB300 NVL72 系統用 NVIDIA Spectrum-X Ethernet 網絡 連接，呢個係一個無損、高吞吐量嘅乙太網結構，專門消除多節點 AI 工作負載嘅瓶頸 。

部署包括 400GbE 同 800GbE 互連、光收發器、NVIDIA Spectrum-X Ethernet 交換機同上級 NIC 。無咗呢個網絡結構，將推理擴展到企業級吞吐量就會造成致命嘅延遲同頻寬瓶頸。NVIDIA 企業參考架構確認咗呢個雙平面網絡設計係用嚟推動大規模 AI 訓練同推理嘅企業數據中心，支援即時應用同萬億參數模型 。

策略轉向：由訓練轉向推理

雖然呢個基建同時支援訓練同推理 ，但公告特別強調企業對 AI 推理（生產部署） 嘅關注日益增加。有幾個信號顯示呢個轉變：

• GB300 NVL72 係專為「test-time scaling inference 同 AI 推理任務」而設
• 明確用成本 per token 嚟定位，即係價值衡量係睇推理輸出量而非純訓練吞吐量
• HPE 喺會上嘅整體信息係要將 AI 帶入生產環境，強調安全、管治、規模同數據主權

意思好清楚：企業已經過咗實驗階段，而家係要搵專為生產環境部署 AI 模型而優化嘅基建。

HPE Discover Las Vegas 2026 其他發佈

除咗 Vultr 合作之外，HPE 仲宣佈咗幾項相關計劃：

• Agentic AI 推動： HPE 宣佈咗一個更大規模嘅計劃，同 NVIDIA 一齊將 agentic AI 帶入生產，強調安全、管治、規模同數據主權
• 客戶部署： S k y Co., Ltd. 部署咗 HPE Private Cloud AI，屬於 NVIDIA AI Computing by HPE 組合
• Nubax 喺阿根廷： 呢間公司推出咗按用量收費嘅 AI-as-a-service 模式，供應鏈預測改善咗 62.5%，等候時間短咗 35%，成本慳咗 40%，都由 NVIDIA AI Computing by HPE 驅動

對企業 AI 嘅意義

Vultr 揀 HPE 同 NVIDIA 係一個重要嘅轉捩點。作為全球最大嘅私營超大規模雲商，Vultr 賭嘅係企業客戶需要嘅基建要同時應付訓練同即時推理，仲要達到雲級規模。將 NVIDIA 嘅機架級 GPU 運算同 HPE 嘅工廠架構、液冷技術同服務結合埋一齊，Vultr 係要自己做下一波企業 AI 工作負載嘅主要供應商——由模型訓練到萬億參數模型嘅生產推理。