AnswersPublished17 sources
Huawei OceanStor M900 voegt een gedeelde contextlaag toe aan AI-SuperPoDs
Huawei presenteerde op HUAWEI CONNECT 2026 de OceanStor M900: een gedeelde KV cachelaag voor AI inferentie in hyperscale SuperPoDs, met een geclaimde capaciteit van maximaal 64 PB per cluster. Via Lingqu UnifiedBus poolt en verdeelt het systeem KV cache over acceleratorgeheugen, DRAM en SSD's, gericht op zeer lange...
Gepubliceerd doorBewerkt met GPT-5.6 TerraAfbeeldingen gegenereerd met GPT Image 2
Research answer
Key takeaways
- Huawei presenteerde op HUAWEI CONNECT 2026 de OceanStor M900: een gedeelde KV cachelaag voor AI inferentie in hyperscale SuperPoDs, met een geclaimde capaciteit van maximaal 64 PB per cluster.
- Via Lingqu UnifiedBus poolt en verdeelt het systeem KV cache over acceleratorgeheugen, DRAM en SSD's, gericht op zeer lange contexten en agentic AI workloads met meerdere stappen.
- Huawei claimt circa 60 µs toegangslatentie, 40 TB/s totale bandbreedte en een verdubbeling van de token throughput bij AI programmeerinferentie; onafhankelijke benchmarks ontbreken nog.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Huawei announce at Huawei Connect 2026 about its OceanStor M900 AI memory storage for hyperscale inference SuperPoDs, including how. Article summary: Huawei announced OceanStor M900 Context Memory Storage: an SSD-backed, shared KV-cache tier for hyperscale AI inference SuperPoDs. It is intended to extend—not replace—accelerators’ HBM/DRAM or the SuperPoD interconnect:. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Huawei heeft de OceanStor M900 Context Memory Storage gepresenteerd als opslaginfrastructuur voor AI-inferentie in hyperscale datacenters. Het systeem is niet bedoeld als vervanger van HBM of DRAM in accelerators, maar als een gedeelde en schaalbare contextlaag voor SuperPoDs. Dat is vooral relevant wanneer lange prompts en meerstaps agentic AI-workloads de KV-cache tot een belangrijk knelpunt maken. 2
23
Waarom KV-cache steeds vaker de beperkende factor is
Tijdens de inferentie van een groot taalmodel bewaart de KV-cache tussentijdse informatie van tokens die al zijn verwerkt. Die cache opnieuw gebruiken is waardevol wanneer dezelfde of verwante context terugkomt in volgende beurten van een gesprek of in stappen van een AI-agent.
Huawei positioneert de M900 als antwoord op de capaciteitsgrenzen van on-chip geheugen en DRAM bij zeer lange contextvensters en multi-turn-inferentie. Met UnifiedBus, dat Huawei ook Lingqu noemt, bouwt het systeem volgens de fabrikant een wereldwijde, meerlaagse KV-cache met one-hopverbindingen. De cachelaag wordt daarbij uitgebreid van acceleratorgeheugen en DRAM naar SSD's. 2
26
Praktisch betekent dat: een groter deel van de context kan worden opgeslagen, gedeeld en opnieuw gebruikt zonder dat alles in de duurste geheugenniveaus hoeft te blijven staan.
Tot 64 PB gedeelde contextcache per cluster
Huawei zegt dat een M900-cluster maximaal 64 PB aan KV-cache kan bieden. De beschikbare KV-cache per NPU zou daardoor van de gigabyte- naar de terabyteklasse kunnen groeien, met als doel een hogere cache-hitratio voor aanvragen met een lange context. 2
26
Dit is gedeeld geheugen op SuperPoD-niveau, geen uitbreiding van de lokale HBM in een chip. De praktische waarde hangt dus af van hoe software KV-cache verdeelt, terughaalt en hergebruikt, én van de daadwerkelijke mix van aanvragen in een productieomgeving.
Architectuur: directe NPU-naar-SSD-toegang
Volgens Huawei combineert de M900 CPU, netwerkcontroller en NAND-controller in één architectuur. Daarmee zou het systeem native KV-semantiek bieden en een one-hopverbinding tussen NPU en SSD mogelijk maken, zonder protocolconversie of CPU-forwarding. 20
26
De door Huawei gepubliceerde doelwaarden zijn:
- circa 60 microseconden toegangslatentie;
- maximaal 40 TB/s totale bandbreedte per cluster;
- 1,5× hogere bandbreedte dan referentieoplossingen in de markt, volgens Huawei.
26
Dit zijn leveranciersclaims. De aankondiging bevat geen volledige informatie over het gebruikte model, de gelijktijdige belasting, cache-hitratio's, clusterconfiguratie of vergelijkingsmethode. Onafhankelijke benchmarks met representatieve productieworkloads zijn daarom nodig om die prestaties goed te kunnen beoordelen.
Claims over throughput en SSD-duurzaamheid
Voor een typisch AI-programmeerscenario claimt Huawei een verdubbeling van de token-throughput en een halvering van de time to first token (TTFT). 14 Zonder details over de baseline en de workload zijn deze cijfers niet zonder meer toepasbaar op andere modellen of inference-stacks.
Ook beschrijft Huawei een aanpak voor KV-aware adaptive storage. Daarbij houdt de plaatsingslogica rekening met de verwachte waarde en levensduur van cachedata om een passend opslagmedium te kiezen. De fabrikant claimt ondersteuning tot 24 DWPD en een circa 16× langere lees-/schrijflevensduur van SSD's dankzij hybride media en een geoptimaliseerd retentiealgoritme. 16
18
Ook deze duurzaamheidsclaim moet nog blijken onder echte schrijflasten en cachebeheerbeleid in productieomgevingen.
Onderdeel van Huawei's bredere SuperPoD-strategie
De M900 is vooral een architectuurverklaring, niet alleen een losse storageaankondiging. Huawei presenteert UnifiedBus als interconnect voor de koppeling van clusters en SuperPoDs voor agentic AI; de M900 fungeert als opslag- en contextlaag binnen die stack. 23
In dat model:
- leveren Ascend-accelerators de rekenkracht;
- verzorgen UnifiedBus/Lingqu de interconnect en het delen van resources;
- voegt OceanStor M900 persistente, gedeelde KV-cache op petabyteschaal toe.
De M900 voegt dus niet zelfstandig modelrekenkracht toe en vervangt geen accelerators of snelle interconnects. De belofte is vooral het verminderen van de geheugendruk die ontstaat wanneer grote contextvensters en herhaalde agentstappen KV-cache bijna net zo belangrijk maken als compute. 2
23
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Huawei OceanStor M900 voegt een gedeelde contextlaag toe aan AI-SuperPoDs"?
Huawei presenteerde op HUAWEI CONNECT 2026 de OceanStor M900: een gedeelde KV cachelaag voor AI inferentie in hyperscale SuperPoDs, met een geclaimde capaciteit van maximaal 64 PB per cluster.
What are the key points to validate first?
Huawei presenteerde op HUAWEI CONNECT 2026 de OceanStor M900: een gedeelde KV cachelaag voor AI inferentie in hyperscale SuperPoDs, met een geclaimde capaciteit van maximaal 64 PB per cluster. Via Lingqu UnifiedBus poolt en verdeelt het systeem KV cache over acceleratorgeheugen, DRAM en SSD's, gericht op zeer lange contexten en agentic AI workloads met meerdere stappen.
What should I do next in practice?
Huawei claimt circa 60 µs toegangslatentie, 40 TB/s totale bandbreedte en een verdubbeling van de token throughput bij AI programmeerinferentie; onafhankelijke benchmarks ontbreken nog.
Sources
huawei.comHuawei Introduces OceanStor M900 Context Memory Storage to Accelerate AI Inference in Hyperscale Data Centers - Huawei