雲端運算新創 Modal 於 2026 年 10 月 19 日表示,計畫在 Sandboxes 服務中採用輝達(Nvidia)的 Vera CPU,為 AI 代理提供運算環境。這將讓 Arm 架構處理器首度加入 Modal 原先以 Intel、AMD 晶片為主的相關工作負載。
1
Modal 公布的測試亮點是:在並行負載下,Vera 的任務吞吐量最高可達相當級距 Intel Granite Rapids x86 系統的兩倍。這是公司自行測得的結果,並不表示每個代理任務都能在一半時間內完成。
7
測試測了什麼?「吞吐量 2 倍」又代表什麼?
Modal 的 Agentless Agent Bench 使用 50 組 Terminal-Bench 參考解答及其驗證程式。Modal 表示,測試移除了網路呼叫,並在預先暖機、同時運行的 Docker 容器中執行,以聚焦編譯、搜尋檔案、Git 操作與裝置模擬等 CPU 工作。
在這類並行測試中,Modal 回報 Vera 的任務吞吐量最高達到相當級距 Intel Granite Rapids x86 機器的兩倍。 「吞吐量」指一段時間內整體完成的工作量,和單一任務的執行速度並非同一回事。低負載、一次只跑一項工作的測試中,Vera 多數時候較快,但優勢並非每次都有,幅度也不大。
7
這些結果只適用於 Modal 選定的基準測試與工作負載。測試由 Modal 發布,現有報導指出尚未經獨立驗證,因此不宜視為其他 AI 工作或部署環境也必然能取得相同表現。
7
記憶體頻寬可能扮演的角色
Sandboxes 工作負載可能涉及大量容器同時執行 CPU 工作。Modal 指出,Vera 的記憶體頻寬有助於支援更多容器並行運作。 輝達公布的規格列出,Vera 的 LPDDR5X 記憶體頻寬最高可達每秒 1.2 TB。
高記憶體頻寬或可說明處理器如何支撐大量並行工作,但這本身不能獨立證明它就是 Modal 測試結果的成因。實際量測到的數字,仍是 Modal 在特定測試中回報的吞吐量。
Vera 是什麼?Modal 還得調整哪些部分?
Vera 是 Arm 架構 CPU,與輝達 Vera Rubin 平台相關,也有獨立 CPU 伺服器形式。 對 Modal 而言,導入 Vera 意味著支援的處理器架構將不再只有過去採用的 Intel 與 AMD 平台。
1
Modal 表示,為了支援不同的 CPU 架構,必須調整基礎設施與映像檔建置系統。 換言之,基準測試跑出較佳結果,不代表既有軟體映像檔和系統不經修改就能直接相容。
新增選項,不是全面改用輝達
Modal 計畫在加入 Vera 的同時,維持與 Intel、AMD 的合作關係。
13 這代表公司走向多種處理器並行,而非獨家轉用輝達。某一種並行工作負載測出優勢,也不能據此斷定單一 CPU 適合所有任務;現有報導並未詳述 Modal 將如何在不同處理器之間分配工作。
7
13
對輝達來說,Modal 這筆 CPU 業務讓公司有機會切入一家原先依賴 Intel、AMD 的雲端服務商。
1 不過,眼前進展仍有明確範圍:Modal 計畫導入 Vera,公司測試在特定並行負載下顯示吞吐量提升,而支援新架構所需的基礎設施調整仍待完成。
1