AnswersPublished17 sources
Huawei OceanStor M900 porta la memoria di contesto condivisa nei SuperPoD per l’AI
Al HUAWEI CONNECT 2026, Huawei ha presentato OceanStor M900, un livello di KV Cache condivisa per SuperPoD dedicati all’inferenza AI hyperscale, con una capacità dichiarata fino a 64 PB per cluster. Il sistema usa Lingqu UnifiedBus per creare una KV Cache globale e multilivello, pensata per richieste con contesti mo...
Pubblicato daModificato con GPT-5.6 TerraImmagini generate con GPT Image 2
Research answer
Key takeaways
- Al HUAWEI CONNECT 2026, Huawei ha presentato OceanStor M900, un livello di KV Cache condivisa per SuperPoD dedicati all’inferenza AI hyperscale, con una capacità dichiarata fino a 64 PB per cluster.
- Il sistema usa Lingqu UnifiedBus per creare una KV Cache globale e multilivello, pensata per richieste con contesti molto estesi e inferenza agentica su più turni.
- Huawei dichiara circa 60 microsecondi di latenza, 40 TB/s di banda aggregata e il doppio del throughput di token in uno scenario di AI coding; mancano però dettagli completi su configurazioni e metodologia di confronto.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Huawei announce at Huawei Connect 2026 about its OceanStor M900 AI memory storage for hyperscale inference SuperPoDs, including how. Article summary: Huawei announced OceanStor M900 Context Memory Storage: an SSD-backed, shared KV-cache tier for hyperscale AI inference SuperPoDs. It is intended to extend—not replace—accelerators’ HBM/DRAM or the SuperPoD interconnect:. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Huawei ha presentato OceanStor M900 Context Memory Storage come infrastruttura di storage per l’inferenza AI nei data center hyperscale. Non è progettato per sostituire HBM o DRAM degli acceleratori: l’obiettivo è aggiungere ai SuperPoD un livello di memoria di contesto condivisa e scalabile, dove la KV Cache può diventare un collo di bottiglia con prompt molto lunghi e workload agentici articolati in più passaggi. 2
23
Perché la KV Cache non può restare soltanto in HBM e DRAM
Durante l’inferenza di un grande modello linguistico, la KV Cache conserva stati intermedi relativi ai token già elaborati. Riutilizzarla è utile quando lo stesso contesto, o un contesto correlato, torna nelle fasi successive di una conversazione o di un’attività svolta da un agente AI.
Huawei propone M900 come risposta ai limiti di capacità della memoria on-chip e della DRAM negli scenari con finestre di contesto estremamente lunghe e inferenza multi-turno. Attraverso UnifiedBus, chiamato dall’azienda anche Lingqu, il sistema costruisce una KV Cache globale e multilivello con connessioni in un solo hop, estendendo il livello di cache dalla memoria dell’acceleratore e dalla DRAM agli SSD. 2
26
In pratica, l’idea è conservare, condividere e riusare una quota molto più ampia del contesto senza doverla mantenere interamente nei livelli di memoria più costosi.
Fino a 64 PB di KV Cache per cluster
Huawei afferma che un cluster M900 può offrire fino a 64 PB di KV Cache. L’azienda sostiene inoltre che la KV Cache disponibile per singola NPU possa passare dalla scala dei GB a quella dei TB, con l’obiettivo di aumentare i cache hit rate nelle richieste a contesto lungo. 2
26
Si tratta di un’architettura di memoria condivisa a livello di SuperPoD, non di un aumento della HBM locale di un singolo chip. Il valore pratico dipenderà quindi dal modo in cui il software distribuisce, recupera e riutilizza la KV Cache, oltre che dal mix effettivo di richieste in produzione.
Architettura: semantica KV nativa e accesso diretto da NPU a SSD
Secondo Huawei, M900 integra CPU, controller di rete e controller NAND in un’unica architettura. L’azienda afferma che questo abiliti una semantica KV nativa e un accesso NPU-SSD in un solo hop, evitando conversioni di protocollo e inoltro tramite CPU. 20
26
I dati dichiarati da Huawei includono:
- circa 60 microsecondi di latenza di accesso;
- fino a 40 TB/s di banda aggregata per cluster;
- una banda 1,5 volte superiore alle soluzioni di riferimento del mercato, secondo l’azienda.
26
Questi valori vanno letti come dichiarazioni del fornitore. L’annuncio non pubblica dettagli completi su modello utilizzato, concorrenza delle richieste, cache hit ratio, configurazione del cluster o metodologia di confronto. Per una valutazione concreta serviranno benchmark indipendenti su carichi di lavoro rappresentativi della produzione.
Throughput e durata degli SSD: cosa dichiara Huawei
In un tipico scenario di inferenza per programmazione assistita dall’AI, Huawei dichiara il raddoppio del throughput di token e un dimezzamento del time to first token (TTFT), cioè del tempo necessario a ricevere il primo token della risposta. 14 Senza dati pubblici su baseline e workload, queste cifre non permettono però di estendere la conclusione a tutti i modelli o stack di inferenza.
L’azienda descrive inoltre un sistema di storage adattivo KV-aware: la logica di collocamento dei dati considera valore e durata prevista della cache per scegliere il supporto di memorizzazione più adatto. Huawei dichiara fino a 24 DWPD e un miglioramento di circa 16 volte della durata di lettura/scrittura degli SSD grazie a supporti ibridi e a un algoritmo di retention ottimizzato. 16
18 Anche in questo caso, la resistenza effettiva dovrà essere verificata con ritmi di scrittura e politiche di gestione della cache realistici.
Il ruolo nel progetto SuperPoD di Huawei
M900 è soprattutto un tassello di architettura, non un annuncio di storage isolato. Huawei descrive UnifiedBus come un’interconnessione fra cluster e SuperPoD destinata alle applicazioni di AI agentica; OceanStor M900 costituisce il livello di storage e memoria di contesto di questa pila. 23
Nel modello delineato dall’azienda:
- gli acceleratori Ascend forniscono la capacità di calcolo;
- UnifiedBus/Lingqu gestisce l’interconnessione e la condivisione delle risorse;
- OceanStor M900 aggiunge KV Cache persistente e condivisa su scala petabyte.
M900, quindi, non aggiunge da solo potenza di calcolo al modello e non sostituisce né gli acceleratori né le interconnessioni ad alta velocità. La promessa è alleggerire il vincolo di memoria che emerge quando contesti estesi e passaggi agentici ripetuti rendono la KV Cache importante quanto il compute. 2
23
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Huawei OceanStor M900 porta la memoria di contesto condivisa nei SuperPoD per l’AI"?
Al HUAWEI CONNECT 2026, Huawei ha presentato OceanStor M900, un livello di KV Cache condivisa per SuperPoD dedicati all’inferenza AI hyperscale, con una capacità dichiarata fino a 64 PB per cluster.
What are the key points to validate first?
Al HUAWEI CONNECT 2026, Huawei ha presentato OceanStor M900, un livello di KV Cache condivisa per SuperPoD dedicati all’inferenza AI hyperscale, con una capacità dichiarata fino a 64 PB per cluster. Il sistema usa Lingqu UnifiedBus per creare una KV Cache globale e multilivello, pensata per richieste con contesti molto estesi e inferenza agentica su più turni.
What should I do next in practice?
Huawei dichiara circa 60 microsecondi di latenza, 40 TB/s di banda aggregata e il doppio del throughput di token in uno scenario di AI coding; mancano però dettagli completi su configurazioni e metodologia di confronto.
Sources
huawei.comHuawei Introduces OceanStor M900 Context Memory Storage to Accelerate AI Inference in Hyperscale Data Centers - Huawei