答え公開済み2 か月前Last edited 2 か月前19 ソース

OceanStor M900、AI推論の「記憶」をどう共有する？

OceanStor M900は、AI推論中の計算結果を再利用するKVキャッシュを、チップ内メモリーやDRAMからSSDへ拡張し、SuperPoD内で共有する仕組みだ。 Huaweiが示す64PBはクラスタ全体の容量。約60マイクロ秒のアクセス遅延と40TB/秒の帯域幅も、すべての要求で達成される値ではない。

公開者GPT-6 Sol で編集GPT Image 2 で画像を生成

Studio Global AIで検索して事実確認さらにトレンドページを見る

研究の答え

重要なポイント

OceanStor M900は、AI推論中の計算結果を再利用するKVキャッシュを、チップ内メモリーやDRAMからSSDへ拡張し、SuperPoD内で共有する仕組みだ。
Huaweiが示す64PBはクラスタ全体の容量。約60マイクロ秒のアクセス遅延と40TB/秒の帯域幅も、すべての要求で達成される値ではない。
トークン処理量や応答速度、SSD寿命の改善はHuaweiの主張であり、提示された資料だけでは実運用での成果を独立に確認できない。

Conceptual illustration of shared storage for AI inference — What is Huawei’s OceanStor M900 Context Memory Storage, introduced at HUAWEI CONNECT 2026 for AI inference SuperPoDs, and how does its UnifiAI-generated illustration; not a photograph of the OceanStor M900.
AI プロンプト
Create a landscape editorial hero image for this Studio Global article: What is Huawei’s OceanStor M900 Context Memory Storage, introduced at HUAWEI CONNECT 2026 for AI inference SuperPoDs, and how does its Unifi. Article summary: Huawei’s OceanStor M900 is a storage system for SuperPoD AI inference, introduced at HUAWEI CONNECT 2026. It uses UnifiedBus to make the key–value (KV) cache—a reusable record of attention calculations—available across a. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
openai.com

Huaweiが「HUAWEI CONNECT 2026」で発表したOceanStor M900は、同社のAI推論システム「SuperPoD」向けのストレージだ。狙いは、長い入力文や複数回にわたるAIエージェントとのやり取りで増える計算済みの文脈を、複数の演算装置から再利用できるようにすることにある。1 9

KVキャッシュを共有する理由

KVキャッシュは、モデルが入力を処理した際の計算結果を保持する仕組みだ。後続の要求が同じ入力部分を利用できれば、その部分を最初から計算し直さずに済む。ただし、文脈が長くなるほどキャッシュも大きくなり、AI演算装置であるNPUの近くにあるメモリーだけでは収まりにくくなる。M900は、この容量の制約を共有ストレージで緩和しようとする。1 3 6

Huaweiによると、M900は接続技術「UnifiedBus」を使い、チップ内メモリー、DRAM、SSDにまたがるKVキャッシュを一つの共有プールとして扱う。1クラスタ当たり64PBの容量を提供し、各NPUが利用できるキャッシュをGB級からTB級へ広げるという。64PBはクラスタ全体の共有容量であり、1基のNPUに64PBのメモリーを搭載するという意味ではない。保持できる文脈が増えても、再利用できる入力部分が少ない処理では効果は限られる。3 6 17

SSDを推論に使うためのアクセス経路

SSD上のキャッシュを素早く取り出すため、HuaweiはSuperPoDのNPUからSSDまでを「1ホップ」で結ぶ構成を説明している。CPU、ネットワークコントローラー、NANDコントローラーの機能を統合し、従来の経路で必要だった一部のプロトコル変換やCPUによる中継を省く設計だ。同社が示すアクセス遅延は約60マイクロ秒、帯域幅はクラスタ全体で合計40TB/秒。いずれもシステム構成について公表された値で、個々のキャッシュ参照が必ずその速度になるわけではない。3 6 28 32

速さとコストの改善は、どこまで確認できたか

再利用可能なキャッシュに当たれば、最初の回答が表示されるまでの時間を短縮し、計算の重複を減らせる可能性がある。Huaweiは典型的なAIによるコード作成の処理で、推論クラスタのトークン処理量が2倍になり、最初のトークンが出るまでの時間が半分になったと主張する。ただし、特定の処理条件での数字を、あらゆる用途に当てはめることはできない。28 33

M900には、KVキャッシュを保存する期間に応じて配置先の記憶媒体を調整する仕組みもあるという。Huaweiが挙げるSSDの耐久性は最大24 DWPD（ドライブ容量相当のデータを1日に書き込める回数）で、寿命は16倍に改善し、3年間の安定稼働を目標としている。計算のやり直しやSSD交換を減らし、トークン当たりの推論コストを下げるのが狙いだ。ただし、提示された資料からは、性能・寿命・コストの改善が実運用のSuperPoDで独立に検証されたとはいえない。6 8 33

Studio Global AI

研究を続けてください

このページにはソースに裏付けされた回答が含まれており、Studio Global 内で続行できます。

Studio Global AIで検索して事実確認

人々も尋ねます