華為推出 OceanStor M900 Context Memory Storage，針對 hyperscale 數據中心的 AI 推理而設。佢嘅角色唔係取代加速器上嘅 HBM 或 DRAM，而係為 SuperPoD 補上一層可共用、可擴展嘅「上下文記憶」：當超長 prompt、多輪對話及 Agent 任務令 KV Cache 變成瓶頸時，可以儲存及重用更多上下文。223

核心問題：KV Cache 唔可能永遠只塞喺 HBM 同 DRAM

大型語言模型做推理時，KV Cache 會保存模型已處理 token 嘅中間狀態。當同一段、或者相近嘅上下文喺之後對話回合與 Agent 步驟再出現，若能重用呢些快取，便可避免重複處理。

華為將 M900 定位為處理超長上下文、多輪推理下 HBM、晶片內記憶體及 DRAM 容量不足嘅方案。系統透過 UnifiedBus（亦稱 Lingqu／靈衢）建立「一跳直達」嘅 PB 級全域分層 KV Cache，將快取層由加速器記憶體及 DRAM 延伸至 SSD。226

簡單講，M900 想做嘅係：毋須將所有上下文一直留喺最昂貴嘅記憶體層，仍可把更多 context 保存、共用同重用。

容量賣點：單一集群最高 64PB

華為表示，單一 M900 集群可提供最高 64PB KV Cache；每個 NPU 可用嘅 KV Cache 容量，目標由 GB 級提升至 TB 級，以提高長上下文請求嘅快取命中率。226

要留意，呢個係 SuperPoD 層面嘅共用記憶體架構，唔等於每粒晶片本地 HBM 容量增加。實際效益仍取決於推理軟件點樣分配、取回及重用 KV Cache，以及實際請求嘅上下文相似度和工作負載組成。

架構：原生 KV 語義，NPU 一跳連 SSD

按華為說法，M900 把 CPU、網絡控制器與 NAND 控制器整合到同一架構，提供原生 KV 語義；NPU 可一跳直連 SSD，避開協議轉換及 CPU 轉發。2026

華為公布嘅指標包括：

• 約 60 微秒存取延遲；
• 每個集群最高 40TB/s 聚合存取頻寬；
• 相對業界方案頻寬高 1.5 倍，按華為說法。26

以上均屬廠商聲稱。公告未有完整交代模型、併發量、快取命中率、集群配置及比較方法；要判斷喺真實生產環境嘅效果，仍需要具代表性工作負載下嘅獨立基準測試。

吞吐量同 SSD 壽命：有數字，但要睇測試細節

華為稱，喺一個典型 AI 編程推理場景，M900 可做到 token 吞吐量加倍，而首個 token 生成時間（TTFT）減半。14 不過，由於未公開 baseline 同工作負載細節，呢組數字未足以推論到所有模型或所有推理平台。

另外，系統採用所謂 KV-aware adaptive storage：根據快取資料價值及預計保留時間，決定擺放到邊種儲存媒介。華為聲稱，配合混合媒介及優化 retention 演算法，可支援最高 24 DWPD，並把 SSD 讀寫壽命提高約 16 倍。1618 同樣地，實際耐久度要視乎寫入量、快取淘汰策略及營運條件，仍有待獨立驗證。

M900 喺華為 SuperPoD 策略入面做咩角色？

M900 唔只係一部儲存設備，亦係華為「運算、網絡、儲存協同設計」方向嘅一部分。華為把 UnifiedBus／Lingqu 定位為連接集群及 SuperPoD 嘅互連架構，以支援 Agentic AI；而 M900 就係當中提供持久化、PB 級共用 KV Cache 嘅上下文儲存層。23

可以咁理解：

• Ascend 加速器負責運算；
• UnifiedBus／Lingqu 負責高速互連與資源共享；
• OceanStor M900 提供可擴展嘅分層 KV Cache。

所以，M900 本身唔會增加模型算力，亦唔會取代加速器或高速互連。佢瞄準嘅係另一個日益明顯嘅限制：當長上下文與反覆執行嘅 Agent 步驟令 KV Cache 壓力急升，記憶體與快取管理已經可以同算力一樣，左右 AI 推理系統嘅效率。223

華為推出 OceanStor M900 Context Memory Storage，針對 hyperscale 數據中心的 AI 推理而設。佢嘅角色唔係取代加速器上嘅 HBM 或 DRAM，而係為 SuperPoD 補上一層可共用、可擴展嘅「上下文記憶」：當超長 prompt、多輪對話及 Agent 任務令 KV Cache 變成瓶頸時，可以儲存及重用更多上下文。223

核心問題：KV Cache 唔可能永遠只塞喺 HBM 同 DRAM

大型語言模型做推理時，KV Cache 會保存模型已處理 token 嘅中間狀態。當同一段、或者相近嘅上下文喺之後對話回合與 Agent 步驟再出現，若能重用呢些快取，便可避免重複處理。

華為將 M900 定位為處理超長上下文、多輪推理下 HBM、晶片內記憶體及 DRAM 容量不足嘅方案。系統透過 UnifiedBus（亦稱 Lingqu／靈衢）建立「一跳直達」嘅 PB 級全域分層 KV Cache，將快取層由加速器記憶體及 DRAM 延伸至 SSD。226

簡單講，M900 想做嘅係：毋須將所有上下文一直留喺最昂貴嘅記憶體層，仍可把更多 context 保存、共用同重用。

容量賣點：單一集群最高 64PB

華為表示，單一 M900 集群可提供最高 64PB KV Cache；每個 NPU 可用嘅 KV Cache 容量，目標由 GB 級提升至 TB 級，以提高長上下文請求嘅快取命中率。226

要留意，呢個係 SuperPoD 層面嘅共用記憶體架構，唔等於每粒晶片本地 HBM 容量增加。實際效益仍取決於推理軟件點樣分配、取回及重用 KV Cache，以及實際請求嘅上下文相似度和工作負載組成。

架構：原生 KV 語義，NPU 一跳連 SSD

按華為說法，M900 把 CPU、網絡控制器與 NAND 控制器整合到同一架構，提供原生 KV 語義；NPU 可一跳直連 SSD，避開協議轉換及 CPU 轉發。2026

華為公布嘅指標包括：

• 約 60 微秒存取延遲；
• 每個集群最高 40TB/s 聚合存取頻寬；
• 相對業界方案頻寬高 1.5 倍，按華為說法。26

以上均屬廠商聲稱。公告未有完整交代模型、併發量、快取命中率、集群配置及比較方法；要判斷喺真實生產環境嘅效果，仍需要具代表性工作負載下嘅獨立基準測試。

吞吐量同 SSD 壽命：有數字，但要睇測試細節

華為稱，喺一個典型 AI 編程推理場景，M900 可做到 token 吞吐量加倍，而首個 token 生成時間（TTFT）減半。14 不過，由於未公開 baseline 同工作負載細節，呢組數字未足以推論到所有模型或所有推理平台。

另外，系統採用所謂 KV-aware adaptive storage：根據快取資料價值及預計保留時間，決定擺放到邊種儲存媒介。華為聲稱，配合混合媒介及優化 retention 演算法，可支援最高 24 DWPD，並把 SSD 讀寫壽命提高約 16 倍。1618 同樣地，實際耐久度要視乎寫入量、快取淘汰策略及營運條件，仍有待獨立驗證。

M900 喺華為 SuperPoD 策略入面做咩角色？

M900 唔只係一部儲存設備，亦係華為「運算、網絡、儲存協同設計」方向嘅一部分。華為把 UnifiedBus／Lingqu 定位為連接集群及 SuperPoD 嘅互連架構，以支援 Agentic AI；而 M900 就係當中提供持久化、PB 級共用 KV Cache 嘅上下文儲存層。23

可以咁理解：

• Ascend 加速器負責運算；
• UnifiedBus／Lingqu 負責高速互連與資源共享；
• OceanStor M900 提供可擴展嘅分層 KV Cache。

所以，M900 本身唔會增加模型算力，亦唔會取代加速器或高速互連。佢瞄準嘅係另一個日益明顯嘅限制：當長上下文與反覆執行嘅 Agent 步驟令 KV Cache 壓力急升，記憶體與快取管理已經可以同算力一樣，左右 AI 推理系統嘅效率。223