雲端運算公司 Modal 於 2026 年 10 月 19 日表示,計劃在旗下 Sandboxes 服務採用輝達(Nvidia)的 Vera 中央處理器,為 AI 代理提供運算支援。這是 Modal 首次在原有英特爾(Intel)及超微(AMD)處理器以外,加入 Arm 架構 CPU。
1
公司公布的重點是:在多個工作同時執行的測試中,Vera 的吞吐量最高達同等英特爾 Granite Rapids x86 系統的兩倍。要留意,這是公司自行測試的結果,並不代表每個 AI 代理任務都會快一倍。
7
「吞吐量兩倍」實際代表甚麼?
Modal 的 Agentless Agent Bench 測試採用 50 項 Terminal-Bench 參考解答及相應驗證程序。Modal 表示,測試移除了網絡呼叫,並在預先啟動、同時運作的 Docker 容器中執行工作,集中測試編譯、搜尋檔案、Git 操作及裝置模擬等 CPU 任務。
在這些並行測試中,Modal 稱 Vera 的任務吞吐量最高達同等 Intel Granite Rapids x86 系統的兩倍。 吞吐量指一段時間內整體完成了多少工作,和單一任務的執行速度不是同一回事。測試負載較輕時,Vera 通常較快,但優勢並非每次都有,幅度亦不大。
7
結果只適用於 Modal 選用的測試和工作負載。測試由 Modal 公布,現有報道指出結果未經獨立核實,因此不應視為其他 AI 工作或部署環境的效能保證。
7
記憶體頻寬或有助應付並行工作
Sandboxes 工作負載可能涉及大量容器同時進行 CPU 運算。Modal 指出,Vera 的記憶體頻寬有助支援更多容器並行運作。 輝達公布的規格列明,Vera 的 LPDDR5X 記憶體頻寬最高可達每秒 1.2 TB。
這提供了一個技術上的可能解釋:較高記憶體頻寬或有助處理並行工作。不過,單憑這項規格,不能獨立證明它就是 Modal 測試結果的成因;目前的效能說法仍是 Modal 對指定測試所得的報告。
採用 Vera,還要處理軟件和基建配套
Vera 是 Arm 架構處理器,與輝達 Vera Rubin 平台相關,亦有獨立 CPU 伺服器版本。 對 Modal 而言,加入 Vera 不只是更換伺服器硬件,亦代表要在過往採用英特爾及超微 CPU 的基礎上,支援另一種處理器架構。
1
Modal 表示,為支援新架構,需調整旗下基礎設施及映像檔建置系統。 換言之,測試跑得理想,不代表現有軟件映像和系統可以不作修改、即時兼容。
加入新選項,並非轉投單一供應商
Modal 計劃保留與英特爾及超微的合作,同時加入 Vera。
13 因此,今次安排是採用多種 CPU 的混合配置,而非全面轉用輝達。某款處理器在特定並行工作中表現較好,亦不等於它最適合所有任務;現有報道未有交代 Modal 會如何在不同 CPU 之間分配工作。
7
13
對輝達而言,這令公司有機會打入一間原本依賴英特爾及超微為 AI 代理提供運算的雲端服務商。
1 不過,今次公布的重點仍然較明確:Modal 計劃加入 Vera;公司測試稱它在指定負載下帶來較高吞吐量;而要正式支援另一種架構,基建工作仍未完成。
1