AntwortenVeröffentlicht17 Quellen
Huawei OceanStor M900: Gemeinsamer KV-Cache mit bis zu 64 PB für KI-Inferenz
Auf der HUAWEI CONNECT 2026 stellte Huawei den OceanStor M900 vor – eine gemeinsam nutzbare KV Cache Schicht für KI Inferenz in Hyperscale Rechenzentren und SuperPoDs mit bis zu 64 PB pro Cluster. Über den Lingqu UnifiedBus soll der M900 einen globalen, mehrstufigen KV Cache bereitstellen und besonders lange Kontext...
Veröffentlicht vonBearbeitet mit GPT-5.6 TerraBilder erstellt mit GPT Image 2
Forschungsantwort
Wichtige Erkenntnisse
- Auf der HUAWEI CONNECT 2026 stellte Huawei den OceanStor M900 vor – eine gemeinsam nutzbare KV Cache Schicht für KI Inferenz in Hyperscale Rechenzentren und SuperPoDs mit bis zu 64 PB pro Cluster.
- Über den Lingqu UnifiedBus soll der M900 einen globalen, mehrstufigen KV Cache bereitstellen und besonders lange Kontexte sowie mehrstufige Agenten Inferenz unterstützen.
- Huawei nennt rund 60 µs Zugriffszeit, 40 TB/s aggregierte Bandbreite und den doppelten Token Durchsatz für ein KI Coding Szenario.
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Huawei announce at Huawei Connect 2026 about its OceanStor M900 AI memory storage for hyperscale inference SuperPoDs, including how. Article summary: Huawei announced OceanStor M900 Context Memory Storage: an SSD-backed, shared KV-cache tier for hyperscale AI inference SuperPoDs. It is intended to extend—not replace—accelerators’ HBM/DRAM or the SuperPoD interconnect:. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Huawei hat den OceanStor M900 Context Memory Storage als Speichersystem für KI-Inferenz in Hyperscale-Rechenzentren vorgestellt. Er soll HBM und DRAM in Beschleunigern nicht ersetzen, sondern SuperPoDs um eine gemeinsam genutzte, skalierbare Kontextspeicher-Schicht ergänzen. Das ist vor allem bei sehr langen Eingaben und mehrstufigen Agenten-Workloads relevant, bei denen der KV-Cache zum Engpass werden kann. 2
23
Warum der KV-Cache zum Flaschenhals wird
Bei der Inferenz großer Sprachmodelle hält der KV-Cache Zwischenzustände bereits verarbeiteter Tokens vor. Diese Daten erneut zu verwenden, kann helfen, wenn derselbe oder ein ähnlicher Kontext in weiteren Gesprächsrunden oder Agenten-Schritten wieder benötigt wird.
Huawei positioniert den M900 für Szenarien, in denen On-Chip-Speicher und DRAM bei extrem langen Kontextfenstern und mehrstufiger Inferenz kapazitiv an Grenzen stoßen. Über UnifiedBus, von Huawei auch Lingqu genannt, soll ein globaler, mehrstufiger KV-Cache mit One-Hop-Verbindungen entstehen. Dabei wird die Cache-Ebene von Accelerator-Speicher und DRAM bis auf SSDs erweitert. 2
26
Praktisch bedeutet das: Ein deutlich größerer Teil des Kontextes soll gespeichert, zwischen Ressourcen geteilt und wiederverwendet werden können, ohne dauerhaft in den teuersten Speicherklassen liegen zu müssen.
Bis zu 64 PB KV-Cache pro Cluster
Huawei gibt für einen M900-Cluster eine KV-Cache-Kapazität von bis zu 64 PB an. Außerdem soll sich der nutzbare KV-Cache pro NPU von der Größenordnung Gigabyte auf Terabyte erhöhen. Das Ziel sind höhere Cache-Trefferquoten bei Anfragen mit langen Kontexten. 2
26
Dabei handelt es sich nicht um mehr lokalen HBM-Speicher auf einem einzelnen Chip, sondern um eine gemeinsame Speicherschicht auf SuperPoD-Ebene. Wie viel das im Betrieb bringt, hängt daher unter anderem davon ab, wie die Software den KV-Cache verteilt, abruft und wiederverwendet – sowie vom tatsächlichen Anfrageprofil eines Rechenzentrums.
Architektur: Direkter NPU-zu-SSD-Zugriff
Nach Angaben von Huawei integriert der M900 CPU, Netzwerk-Controller und NAND-Controller in einer Architektur. Das soll native KV-Semantik ermöglichen und einen One-Hop-Zugriff von der NPU auf SSDs erlauben – ohne Protokollumsetzung und CPU-Weiterleitung. 20
26
Zu den veröffentlichten Herstellerangaben gehören:
- rund 60 Mikrosekunden Zugriffszeit,
- bis zu 40 TB/s aggregierte Bandbreite pro Cluster,
- 1,5-mal höhere Bandbreite als Vergleichslösungen am Markt, so Huawei.
26
Diese Werte sind als Herstellerangaben einzuordnen. Die Ankündigung nennt keine vollständigen Informationen zu Modell, Parallelität, Cache-Trefferquote, Cluster-Konfiguration oder Vergleichsmethodik. Für eine belastbare Einordnung wären unabhängige Benchmarks mit repräsentativen Produktions-Workloads nötig.
Angaben zu Durchsatz und SSD-Haltbarkeit
Für ein typisches Szenario der KI-gestützten Programmierung spricht Huawei von einem doppelt so hohen Token-Durchsatz und einer um die Hälfte verkürzten Time to First Token (TTFT). 14 Ohne Angaben zum Vergleichssystem und zur konkreten Last lassen sich diese Zahlen allerdings nicht pauschal auf andere Modelle oder Inferenz-Stacks übertragen.
Zusätzlich beschreibt das Unternehmen ein Konzept namens KV-aware Adaptive Storage. Dabei soll die Speicherplatzierung den Wert und die erwartete Lebensdauer von Cache-Daten berücksichtigen, um das passende Speichermedium zu wählen. Huawei nennt bis zu 24 DWPD (Drive Writes Per Day) sowie eine etwa 16-fach höhere SSD-Lebensdauer bei Lese- und Schreibvorgängen durch Hybridmedien und einen optimierten Retention-Algorithmus. 16
18 Auch diese Haltbarkeitswerte müssten unter realen Schreibraten und Cache-Verwaltungsrichtlinien überprüft werden.
Baustein für Huaweis SuperPoD-Strategie
Der M900 ist weniger eine isolierte Storage-Ankündigung als ein Baustein in Huaweis Architektur für KI-SuperPoDs. UnifiedBus soll Cluster und SuperPoDs für agentische KI-Anwendungen verbinden; der OceanStor M900 fungiert darin als Speicher- und Kontextschicht. 23
Die Aufgabenteilung sieht vereinfacht so aus:
- Ascend-Beschleuniger liefern die Rechenleistung,
- UnifiedBus/Lingqu stellt die Verbindung und Ressourcenfreigabe bereit,
- OceanStor M900 ergänzt eine persistente, gemeinsam nutzbare KV-Cache-Schicht im Petabyte-Maßstab.
Der M900 erhöht damit nicht selbst die Rechenleistung eines Modells und ersetzt weder Beschleuniger noch Hochgeschwindigkeits-Interconnects. Sein Versprechen liegt darin, den Speicherdruck zu mindern, der entsteht, wenn große Kontextfenster und wiederholte Agenten-Schritte den KV-Cache ähnlich wichtig machen wie die Rechenleistung. 2
23
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „Huawei OceanStor M900: Gemeinsamer KV-Cache mit bis zu 64 PB für KI-Inferenz“?
Auf der HUAWEI CONNECT 2026 stellte Huawei den OceanStor M900 vor – eine gemeinsam nutzbare KV Cache Schicht für KI Inferenz in Hyperscale Rechenzentren und SuperPoDs mit bis zu 64 PB pro Cluster.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
Auf der HUAWEI CONNECT 2026 stellte Huawei den OceanStor M900 vor – eine gemeinsam nutzbare KV Cache Schicht für KI Inferenz in Hyperscale Rechenzentren und SuperPoDs mit bis zu 64 PB pro Cluster. Über den Lingqu UnifiedBus soll der M900 einen globalen, mehrstufigen KV Cache bereitstellen und besonders lange Kontexte sowie mehrstufige Agenten Inferenz unterstützen.
Was soll ich als nächstes in der Praxis tun?
Huawei nennt rund 60 µs Zugriffszeit, 40 TB/s aggregierte Bandbreite und den doppelten Token Durchsatz für ein KI Coding Szenario.
Quellen
huawei.comHuawei Introduces OceanStor M900 Context Memory Storage to Accelerate AI Inference in Hyperscale Data Centers - Huawei