答案已發布19 個來源
華為 OceanStor M900：把 AI 推理的 KV 快取變成共享資源
華為稱 OceanStor M900 可透過 UnifiedBus，在晶片記憶體、DRAM 與 SSD 之間建立共享 KV 快取；64 PB 指單一叢集容量，不是單顆 NPU 的記憶體。[3][6][17] 約 60 微秒存取延遲、每叢集 40 TB/s 彙總頻寬，以及特定場景的效能提升，均屬華為公布的數據，不能視為每次請求都能達到的表現。[28][33]
發布者使用 GPT-6 Sol 編輯圖片由 GPT Image 2 生成
研究答案
重點整理
- 華為稱 OceanStor M900 可透過 UnifiedBus，在晶片記憶體、DRAM 與 SSD 之間建立共享 KV 快取；64 PB 指單一叢集容量，不是單顆 NPU 的記憶體。[3][6][17]
- 約 60 微秒存取延遲、每叢集 40 TB/s 彙總頻寬，以及特定場景的效能提升，均屬華為公布的數據，不能視為每次請求都能達到的表現。[28][33]
AI 提示詞
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Huawei’s OceanStor M900 Context Memory Storage, introduced at HUAWEI CONNECT 2026 for AI inference SuperPoDs, and how does its Unifi. Article summary: Huawei’s OceanStor M900 is a storage system for SuperPoD AI inference, introduced at HUAWEI CONNECT 2026. It uses UnifiedBus to make the key–value (KV) cache—a reusable record of attention calculations—available across a. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
華為在 2026 年華為全聯接大會推出 OceanStor M900，定位為供 SuperPoD AI 推理系統使用的上下文記憶儲存設備。它要解決的問題是：提示詞愈長、對話與 AI 代理的互動愈多，推理時產生的資訊就愈難全部留在運算單元附近的記憶體中。1
9
為什麼要共用 KV 快取？
KV 快取（key–value cache）保存模型處理提示詞時已計算的資訊。若新請求能重用相同的前段內容，系統便可能省下重新計算的工夫；但前提是快取仍然可用，而且請求確實有可重用的部分。1
3
6
M900 透過華為的 UnifiedBus（靈衢）網路，讓 KV 快取跨晶片記憶體、DRAM 與 SSD 分層存放並共享。華為稱，單一叢集可提供 64 PB KV 快取容量，讓單顆 NPU（神經網路處理單元）可存取的快取規模由 GB 級擴展至 TB 級。這裡的 64 PB 是叢集共享儲存容量，並非每顆 NPU 內建 64 PB 記憶體。3
6
17
SSD 上的快取，如何趕上推理需求？
SSD 容量較大，但取用速度是關鍵。華為提出從 SuperPoD 的 NPU 到 SSD 的「一跳直通」路徑，整合 CPU、網路控制器與 NAND 控制器功能，以減少傳統路徑中的協定轉換及 CPU 轉送步驟。華為公布的數字是約 60 微秒存取延遲、每叢集 40 TB/s 彙總頻寬；後者是整個叢集的合計值，兩者都不是每次快取讀取的效能保證。3
6
28
32
效益與證據，應該分開看
若請求命中可重用的快取，較少重複運算可能縮短產生第一個 token 的等待時間，並騰出運算能力處理更多 token。華為稱，在典型 AI 程式碼場景中，推理叢集的 token 吞吐量提高一倍、首個 token 生成時間減半；成效不能直接套用到所有工作負載。28
33
華為亦稱，KV 感知式資料配置可管理快取在不同儲存媒體上的保留時間；其公布的 SSD 耐用度最高為每日 24 次全碟寫入（24 DWPD）、壽命提升 16 倍，並以穩定運行三年為目標。這套設計意在減少重複運算及儲存設備更換，降低每個 token 的推理成本。不過，現有資料尚未獨立驗證這些效能、壽命與成本效益在實際 SuperPoD 部署中的表現。6
8
33
Studio Global AI
繼續深入研究
這個頁面包含附來源佐證的答案，你可以在 Studio Global 內繼續追問。
大家也會問
「華為 OceanStor M900：把 AI 推理的 KV 快取變成共享資源」的簡短答案是什麼？
華為稱 OceanStor M900 可透過 UnifiedBus，在晶片記憶體、DRAM 與 SSD 之間建立共享 KV 快取；64 PB 指單一叢集容量，不是單顆 NPU 的記憶體。[3][6][17]
最值得優先驗證的重點是什麼？
華為稱 OceanStor M900 可透過 UnifiedBus，在晶片記憶體、DRAM 與 SSD 之間建立共享 KV 快取；64 PB 指單一叢集容量，不是單顆 NPU 的記憶體。[3][6][17] 約 60 微秒存取延遲、每叢集 40 TB/s 彙總頻寬，以及特定場景的效能提升，均屬華為公布的數據，不能視為每次請求都能達到的表現。[28][33]
來源
huawei.comAdvancing the Agentic World, Building a Solid Silicon ...
e.huawei.comOceanStor Data Storage - Huawei Enterprise