AnswersPublished17 sources
Huawei vil gjøre kontekstminne til en delt ressurs i AI-superklynger
På HUAWEI CONNECT 2026 presenterte Huawei OceanStor M900, et delt KV cache lag for hyperskalerte AI inferens SuperPoDs med opptil 64 PB per klynge. M900 bruker Lingqu UnifiedBus til å samle og nivådele KV cache fra akseleratorminne og DRAM til SSD er, med sikte på svært lange kontekster og flertrinns agentoppgaver.
Publisert avRedigert med GPT-5.6 TerraBilder generert med GPT Image 2
Research answer
Key takeaways
- På HUAWEI CONNECT 2026 presenterte Huawei OceanStor M900, et delt KV cache lag for hyperskalerte AI inferens SuperPoDs med opptil 64 PB per klynge.
- M900 bruker Lingqu UnifiedBus til å samle og nivådele KV cache fra akseleratorminne og DRAM til SSD er, med sikte på svært lange kontekster og flertrinns agentoppgaver.
- Huawei oppgir rundt 60 µs tilgangstid, 40 TB/s samlet båndbredde og dobbelt token gjennomstrømming i et AI kodingsscenario.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Huawei announce at Huawei Connect 2026 about its OceanStor M900 AI memory storage for hyperscale inference SuperPoDs, including how. Article summary: Huawei announced OceanStor M900 Context Memory Storage: an SSD-backed, shared KV-cache tier for hyperscale AI inference SuperPoDs. It is intended to extend—not replace—accelerators’ HBM/DRAM or the SuperPoD interconnect:. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Huawei har presentert OceanStor M900 Context Memory Storage, et lagringssystem for AI-inferens i hyperskalerte datasentre. Ideen er ikke å erstatte HBM eller DRAM i AI-akseleratorene, men å legge til et delt og skalerbart lag for kontekstminne i SuperPoDs – svært store AI-klynger. Her kan KV-cache bli en flaskehals når modellene håndterer lange instrukser og agentoppgaver med mange trinn. 2
23
Hvorfor KV-cache blir et minneproblem
Når en språkmodell kjører inferens, lagrer KV-cache mellomtilstand fra tokenene modellen allerede har behandlet. Denne tilstanden kan gjenbrukes når samme eller beslektet kontekst dukker opp igjen senere i en samtale eller i en agentoppgave.
Huawei plasserer M900 som et svar på kapasitetsbegrensningene i prosessorens minne og vanlig DRAM ved svært lange kontekstvinduer og inferens over flere runder. Med UnifiedBus – også omtalt som Lingqu – skal systemet bygge en global KV-cache i flere nivåer, med én-hopps forbindelser, og utvide cache-laget fra akseleratorminne og DRAM til SSD-er. 2
26
Kort fortalt er målet å kunne lagre, dele og gjenbruke langt mer av konteksten uten at alt må ligge permanent i de dyreste minnenivåene.
Huaweis kapasitetsløfte: opptil 64 PB per klynge
Ifølge Huawei kan én M900-klynge levere opptil 64 PB KV-cache. Selskapet sier også at tilgjengelig KV-cache per NPU – en AI-akselerator – kan løftes fra gigabyte- til terabyte-nivå. Hensikten er høyere treffrate i cachen for forespørsler med lang kontekst. 2
26
Dette er altså delt minne på SuperPoD-nivå, ikke en utvidelse av den lokale HBM-kapasiteten i hver enkelt brikke. Den reelle verdien vil derfor avhenge av hvordan programvaren plasserer, henter og gjenbruker KV-cache, og av hva slags forespørsler som faktisk dominerer i et produksjonsmiljø.
Arkitekturen: direkte vei fra NPU til SSD
Huawei opplyser at M900 samler CPU, nettverkskontroller og NAND-kontroller i én arkitektur. Det skal gi systemet innebygget KV-semantikk og gjøre det mulig med én-hopps tilgang fra NPU til SSD, uten protokollkonvertering og videresending via CPU. 20
26
Selskapets oppgitte mål er:
- rundt 60 mikrosekunders tilgangsforsinkelse,
- opptil 40 TB/s samlet båndbredde per klynge,
- 1,5 ganger høyere båndbredde enn referanseløsninger i markedet, ifølge Huawei.
26
Tallene er leverandørens egne påstander. Kunngjøringen oppgir ikke fullt modellgrunnlag, samtidighetsnivå, cache-treffrater, klyngeoppsett eller metodikk for sammenligningen. Uavhengige tester med representative produksjonslaster vil være nødvendig for å vurdere ytelsen ordentlig.
Påstander om raskere tokens og mer holdbare SSD-er
I et typisk scenario for AI-basert programmering oppgir Huawei doblet token-gjennomstrømming og halvert tid til første token (TTFT). 14 Uten detaljer om referansesystemet og arbeidslasten kan tallene ikke uten videre generaliseres til alle modeller eller inferensplattformer.
Huawei beskriver også KV-bevisst adaptiv lagring, der plasseringen av data skal styres av cachens verdi og forventede levetid. Selskapet hevder opptil 24 DWPD – daglige overskrivinger av hele diskens kapasitet – og om lag 16 ganger lengre lese-/skrivelevetid for SSD-medier gjennom hybride lagringsmedier og en optimalisert retensjonsalgoritme. 16
18
Også disse utholdenhetstallene må bekreftes under reelle skrivebelastninger og faktiske retningslinjer for cache-administrasjon.
En del av Huaweis større SuperPoD-plan
M900-lanseringen er først og fremst et arkitekturgrep, ikke bare en ny lagringslansering. Huawei beskriver UnifiedBus som en sammenkoblingsteknologi for klynger og SuperPoDs i agentbasert AI, mens M900 skal fungere som lagrings- og kontekstlaget i denne stakken. 23
I denne modellen skal:
- Ascend-akseleratorene levere beregningskraften,
- UnifiedBus/Lingqu stå for sammenkobling og ressursdeling,
- OceanStor M900 tilby vedvarende, delt KV-cache i petabyte-skala.
M900 tilfører dermed ikke modellberegning på egen hånd og erstatter verken akseleratorer eller høyhastighetsnettverk. Løftet er heller å redusere minnepresset som oppstår når lange kontekstvinduer og gjentatte agenttrinn gjør KV-cache nesten like sentralt som selve regnekraften. 2
23
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Huawei vil gjøre kontekstminne til en delt ressurs i AI-superklynger"?
På HUAWEI CONNECT 2026 presenterte Huawei OceanStor M900, et delt KV cache lag for hyperskalerte AI inferens SuperPoDs med opptil 64 PB per klynge.
What are the key points to validate first?
På HUAWEI CONNECT 2026 presenterte Huawei OceanStor M900, et delt KV cache lag for hyperskalerte AI inferens SuperPoDs med opptil 64 PB per klynge. M900 bruker Lingqu UnifiedBus til å samle og nivådele KV cache fra akseleratorminne og DRAM til SSD er, med sikte på svært lange kontekster og flertrinns agentoppgaver.
What should I do next in practice?
Huawei oppgir rundt 60 µs tilgangstid, 40 TB/s samlet båndbredde og dobbelt token gjennomstrømming i et AI kodingsscenario.
Sources
huawei.comHuawei Introduces OceanStor M900 Context Memory Storage to Accelerate AI Inference in Hyperscale Data Centers - Huawei