AnswersPublished17 sources
Huawei OceanStor M900 posouvá kontextovou paměť pro AI inference na petabajtovou úroveň
Huawei na HUAWEI CONNECT 2026 představila OceanStor M900 jako sdílenou vrstvu KV Cache pro hyperscale AI inference SuperPody, s kapacitou až 64 PB na cluster. Systém přes propojení Lingqu UnifiedBus sdružuje a vrství KV Cache mezi pamětí akcelerátoru, DRAM a SSD; míří hlavně na dlouhý kontext a vícekrokové agentní ú...
PublikovalUpraveno pomocí GPT-5.6 TerraObrázky vytvořeny pomocí GPT Image 2
Research answer
Key takeaways
- Huawei na HUAWEI CONNECT 2026 představila OceanStor M900 jako sdílenou vrstvu KV Cache pro hyperscale AI inference SuperPody, s kapacitou až 64 PB na cluster.
- Systém přes propojení Lingqu UnifiedBus sdružuje a vrství KV Cache mezi pamětí akcelerátoru, DRAM a SSD; míří hlavně na dlouhý kontext a vícekrokové agentní úlohy.
- Huawei uvádí latenci kolem 60 μs, agregovanou propustnost 40 TB/s a dvojnásobný token throughput v ukázkovém scénáři AI programování.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Huawei announce at Huawei Connect 2026 about its OceanStor M900 AI memory storage for hyperscale inference SuperPoDs, including how. Article summary: Huawei announced OceanStor M900 Context Memory Storage: an SSD-backed, shared KV-cache tier for hyperscale AI inference SuperPoDs. It is intended to extend—not replace—accelerators’ HBM/DRAM or the SuperPoD interconnect:. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Huawei představila OceanStor M900 Context Memory Storage, úložný systém pro AI inference v hyperscale datových centrech. Nemá nahrazovat HBM ani DRAM přímo u AI akcelerátorů. Jeho úlohou je přidat pro SuperPody sdílenou a škálovatelnou vrstvu kontextové paměti, když se KV Cache stává limitem při extrémně dlouhých vstupech a vícekrokových úlohách AI agentů. 2
23
Proč je KV Cache problémem
Při inferenci velkého jazykového modelu si KV Cache ukládá mezistav z tokenů, které model už zpracoval. Když se stejný nebo podobný kontext vrací v další části konverzace či v navazujících krocích agenta, lze jej znovu využít místo opakovaného výpočtu.
Právě velmi dlouhá kontextová okna a inference na více kol podle Huawei narážejí na omezenou kapacitu paměti na čipu a DRAM. OceanStor M900 má přes síť UnifiedBus, kterou Huawei označuje také jako Lingqu, vytvářet globální víceúrovňovou KV Cache s jednoskokovým přístupem. Cache se tak rozšiřuje z paměti akcelerátoru a DRAM i na SSD. 2
26
Prakticky to znamená pokus uchovat, sdílet a opakovaně používat větší část kontextu, aniž by celý musel zůstávat v nejdražších a nejrychlejších paměťových vrstvách.
Až 64 PB KV Cache na cluster
Huawei uvádí, že jeden cluster M900 může nabídnout až 64 PB KV Cache. Zároveň tvrdí, že využitelná KV Cache na jednu NPU může vyrůst z řádu gigabajtů do řádu terabajtů, což má zvýšit podíl požadavků obsloužených z cache při práci s dlouhým kontextem. 2
26
Nejde však o navýšení lokální HBM v samotném čipu. M900 je architektura sdílené paměti na úrovni SuperPodu. Její reálný přínos proto bude záviset na tom, jak software KV Cache rozděluje, načítá a znovu využívá — i na skladbě skutečných požadavků konkrétního nasazení.
Architektura: nativní KV operace a přístup NPU–SSD na jeden skok
Podle Huawei M900 spojuje CPU, síťový řadič a řadič NAND do jediné architektury. Ta má poskytovat nativní práci s key-value daty a umožnit přímý jednoskokový přístup z NPU k SSD bez konverze protokolů a bez přeposílání přes CPU. 20
26
Zveřejněné parametry Huawei zahrnují:
- přístupovou latenci přibližně 60 μs,
- agregovanou propustnost clusteru až 40 TB/s,
- propustnost 1,5× vyšší než u srovnávaných řešení na trhu, podle Huawei.
26
Tyto hodnoty je nutné chápat jako tvrzení výrobce. Oznámení neuvádí úplné informace o modelu, souběžné zátěži, poměru zásahů do cache, konfiguraci clusteru ani metodice srovnání. Pro posouzení v praxi budou zapotřebí nezávislé benchmarky na reprezentativních produkčních úlohách.
Co Huawei slibuje pro throughput a životnost SSD
V typickém scénáři inference pro AI programování Huawei uvádí dvojnásobnou propustnost tokenů a poloviční dobu do prvního tokenu (TTFT). 14 Bez detailů o výchozím stavu a charakteru pracovní zátěže ale nelze tato čísla zobecnit na všechny modely ani inference stacky.
Firma rovněž popisuje systém KV-aware adaptive storage. Při ukládání má zohledňovat hodnotu a předpokládanou životnost položek v cache a podle toho volit vhodné médium. Huawei deklaruje až 24 DWPD a přibližně 16× delší životnost SSD při čtení a zápisu díky kombinaci hybridních médií a optimalizovaného retenčního algoritmu. 16
18 I zde bude potřeba ověření při reálné intenzitě zápisů a konkrétních pravidlech správy cache.
Součást širší architektury SuperPodů
M900 není jen samostatné úložiště. Huawei jej zasazuje do širší koncepce, v níž UnifiedBus propojuje clustery a SuperPody pro agentní AI. OceanStor M900 zde tvoří úložnou a kontextovou vrstvu celé infrastruktury. 23
Rozdělení rolí je následující:
- akcelerátory Ascend dodávají výpočetní výkon,
- UnifiedBus/Lingqu zajišťuje propojení a sdílení zdrojů,
- OceanStor M900 přidává perzistentní, sdílenou KV Cache v petabajtovém měřítku.
M900 tedy sám o sobě nezvyšuje výpočetní výkon modelu a nenahrazuje ani akcelerátory, ani vysokorychlostní propojovací infrastrukturu. Jeho příslibem je snížit tlak na paměť ve chvíli, kdy se kvůli dlouhému kontextu a opakovaným krokům AI agentů stává KV Cache podobně důležitým omezením jako samotný výpočet. 2
23
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Huawei OceanStor M900 posouvá kontextovou paměť pro AI inference na petabajtovou úroveň"?
Huawei na HUAWEI CONNECT 2026 představila OceanStor M900 jako sdílenou vrstvu KV Cache pro hyperscale AI inference SuperPody, s kapacitou až 64 PB na cluster.
What are the key points to validate first?
Huawei na HUAWEI CONNECT 2026 představila OceanStor M900 jako sdílenou vrstvu KV Cache pro hyperscale AI inference SuperPody, s kapacitou až 64 PB na cluster. Systém přes propojení Lingqu UnifiedBus sdružuje a vrství KV Cache mezi pamětí akcelerátoru, DRAM a SSD; míří hlavně na dlouhý kontext a vícekrokové agentní úlohy.
What should I do next in practice?
Huawei uvádí latenci kolem 60 μs, agregovanou propustnost 40 TB/s a dvojnásobný token throughput v ukázkovém scénáři AI programování.
Sources
huawei.comHuawei Introduces OceanStor M900 Context Memory Storage to Accelerate AI Inference in Hyperscale Data Centers - Huawei