答案已發布19 來源
華為 OceanStor M900 點樣用 64 PB 共享 KV Cache 加快 AI 推理？
OceanStor M900 透過 UnifiedBus，把 SuperPoD 的 KV Cache 由片上記憶體及 DRAM 擴展至共享 SSD；華為聲稱單一叢集可提供 64 PB 容量。 華為公布約 60 微秒存取延遲及每叢集 40 TB/s 總頻寬；這些是系統層面的數字，不代表每次讀取都有同樣速度。
發布者使用 GPT-6 Sol 編輯圖片由 GPT Image 2 生成
研究答案
重點
- OceanStor M900 透過 UnifiedBus，把 SuperPoD 的 KV Cache 由片上記憶體及 DRAM 擴展至共享 SSD；華為聲稱單一叢集可提供 64 PB 容量。
- 華為公布約 60 微秒存取延遲及每叢集 40 TB/s 總頻寬；這些是系統層面的數字，不代表每次讀取都有同樣速度。
AI 提示
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Huawei’s OceanStor M900 Context Memory Storage, introduced at HUAWEI CONNECT 2026 for AI inference SuperPoDs, and how does its Unifi. Article summary: Huawei’s OceanStor M900 is a storage system for SuperPoD AI inference, introduced at HUAWEI CONNECT 2026. It uses UnifiedBus to make the key–value (KV) cache—a reusable record of attention calculations—available across a. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
AI 對話愈長、智能體反覆處理的任務愈多，推理系統就愈需要保留已經計算過、之後可能用得着的內容。華為在 HUAWEI CONNECT 2026 推出的 OceanStor M900，正是面向 SuperPoD AI 推理系統的「上下文記憶」儲存方案：它的重點不是增加單顆晶片的記憶體，而是讓多個加速器共用更大的快取空間。1
9
KV Cache 為何要共享？
KV Cache（鍵值快取）保存模型處理提示詞時產生的計算資料。如果新請求可以沿用已快取的相同前綴，系統便毋須從頭處理該部分。問題是，長篇上下文和多輪智能體任務會令快取需求增加，難以全放在神經網絡處理器（NPU）附近的記憶體。M900 的做法，是讓 SuperPoD 內的 NPU 共用分層 KV Cache。1
3
6
64 PB 是整個叢集容量，不是單顆 NPU 的記憶體
M900 利用華為的 UnifiedBus 網絡，把 KV Cache 橫跨片上記憶體、DRAM 和 SSD 組成共享資源池。華為聲稱，單一叢集可提供 64 PB KV Cache 容量，而單顆 NPU 可取用的快取容量則由 GB 級提升至 TB 級。兩者不能混為一談：64 PB 指叢集的共享容量，並非每顆 NPU 內置 64 PB 記憶體。保留更多上下文，有機會增加重用快取的機會；實際收益仍取決於請求之間有多少內容真的可以重用。3
6
17
要令 SSD 這一層跟得上推理需求，華為採用 NPU 至 SSD 的「一跳」存取路徑，並整合 CPU、網絡控制器及 NAND 控制器功能，以省去部分傳統協議轉換和 CPU 轉發步驟。華為公布的數字是約 60 微秒存取延遲、每叢集 40 TB/s 總存取頻寬；它們是架構及系統層面的聲稱，不能當作每次快取讀取的保證。3
6
28
32
回應會快幾多？還要看快取命中
當請求能沿用已計算的內容，首個生成 token 有機會更快出現；少了重複計算，系統亦可能騰出更多資源處理其他 token。華為表示，在一個典型 AI 編程場景中，這套架構令推理叢集的 token 吞吐量增加一倍，並把產生首個 token 所需時間減半。這是特定工作負載下的廠商數據，不應理解為所有模型和請求都會有同等提升。28
33
華為亦提出按 KV Cache 特性安排資料存放位置及保留時間。公司聲稱 SSD 最高可支援每日 24 次全碟寫入量（DWPD），壽命提升 16 倍，並以穩定運行三年為目標。其成本盤算是減少重複運算和更換 SSD 的需要，從而降低每個 token 的推理成本；但現有資料未有獨立證實這些效能、壽命或成本效益已在實際 SuperPoD 部署中實現。6
8
33
Studio Global AI
繼續你的研究
此頁麵包含一個有來源支援的答案，您可以在 Studio Global 內繼續。
人們還問
「華為 OceanStor M900 點樣用 64 PB 共享 KV Cache 加快 AI 推理？」的簡短答案是什麼？
OceanStor M900 透過 UnifiedBus，把 SuperPoD 的 KV Cache 由片上記憶體及 DRAM 擴展至共享 SSD；華為聲稱單一叢集可提供 64 PB 容量。
首先要驗證的關鍵點是什麼？
OceanStor M900 透過 UnifiedBus，把 SuperPoD 的 KV Cache 由片上記憶體及 DRAM 擴展至共享 SSD；華為聲稱單一叢集可提供 64 PB 容量。 華為公布約 60 微秒存取延遲及每叢集 40 TB/s 總頻寬；這些是系統層面的數字，不代表每次讀取都有同樣速度。
來源
huawei.comAdvancing the Agentic World, Building a Solid Silicon ...
e.huawei.comOceanStor Data Storage - Huawei Enterprise