AnswersPublished17 sources
Huawei OceanStor M900 ma odciążyć pamięć AI: cache KV do 64 PB dla SuperPoDów
Podczas HUAWEI CONNECT 2026 firma pokazała OceanStor M900 — współdzieloną warstwę cache’u KV dla hiperskalowych SuperPoDów obsługujących inferencję AI; pojedynczy klaster ma oferować do 64 PB pojemności. System oparty na interkonekcie UnifiedBus, nazywanym też Lingqu, ma tworzyć globalny, wielowarstwowy cache KV dla...
Opublikowane przezEdytowane za pomocą GPT-5.6 TerraObrazy wygenerowane za pomocą GPT Image 2
Research answer
Key takeaways
- Podczas HUAWEI CONNECT 2026 firma pokazała OceanStor M900 — współdzieloną warstwę cache’u KV dla hiperskalowych SuperPoDów obsługujących inferencję AI; pojedynczy klaster ma oferować do 64 PB pojemności.
- System oparty na interkonekcie UnifiedBus, nazywanym też Lingqu, ma tworzyć globalny, wielowarstwowy cache KV dla bardzo długich kontekstów oraz wieloetapowych zadań agentowych.
- Huawei deklaruje około 60 µs opóźnienia, 40 TB/s łącznej przepustowości i dwukrotnie wyższą przepustowość tokenów w scenariuszu AI coding.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Huawei announce at Huawei Connect 2026 about its OceanStor M900 AI memory storage for hyperscale inference SuperPoDs, including how. Article summary: Huawei announced OceanStor M900 Context Memory Storage: an SSD-backed, shared KV-cache tier for hyperscale AI inference SuperPoDs. It is intended to extend—not replace—accelerators’ HBM/DRAM or the SuperPoD interconnect:. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Huawei zaprezentował OceanStor M900 Context Memory Storage jako system pamięci masowej dla inferencji AI w hiperskalowych centrach danych. Nie ma on zastępować pamięci HBM ani DRAM w akceleratorach. Jego zadaniem jest dodanie współdzielonej, skalowalnej warstwy pamięci kontekstu dla SuperPodów, w których cache KV staje się ograniczeniem przy bardzo długich promptach i wieloetapowych zadaniach agentowych. 2
23
Dlaczego cache KV staje się problemem
Podczas inferencji dużego modelu językowego cache KV przechowuje stan pośredni związany z tokenami już przetworzonymi przez model. Gdy ten sam albo zbliżony kontekst wraca w kolejnych turach rozmowy czy działaniach agenta, ponowne wykorzystanie tego stanu może ograniczyć zbędne obliczenia.
Huawei pozycjonuje M900 jako odpowiedź na ograniczoną pojemność pamięci na układzie i DRAM przy wyjątkowo długich oknach kontekstu oraz inferencji wieloturowej. Dzięki UnifiedBus, określanemu przez firmę również nazwą Lingqu, system ma tworzyć globalny, wielowarstwowy cache KV z połączeniami jednokrokowymi i rozszerzać tę warstwę od pamięci akceleratora oraz DRAM do dysków SSD. 2
26
W praktyce chodzi o to, by znacznie większa część kontekstu mogła być przechowywana, współdzielona i ponownie używana bez konieczności trzymania jej wyłącznie w najdroższych warstwach pamięci.
Deklaracja: do 64 PB cache’u KV w klastrze
Według Huawei pojedynczy klaster M900 może zapewnić do 64 PB cache’u KV. Producent twierdzi też, że dostępna pamięć KV przypadająca na NPU może wzrosnąć z poziomu gigabajtów do terabajtów, co ma podnieść współczynnik trafień cache’u przy zapytaniach wymagających długiego kontekstu. 2
26
To nie jest zwiększenie lokalnej pamięci HBM pojedynczego układu. Mowa o współdzielonej pamięci na poziomie SuperPoda. Jej realna wartość będzie więc zależała od tego, jak oprogramowanie przydziela, odzyskuje i ponownie wykorzystuje cache KV oraz jaki jest faktyczny profil zapytań w danym wdrożeniu.
Architektura: bezpośrednia ścieżka NPU–SSD
Huawei podaje, że M900 łączy w jednej architekturze CPU, kontroler sieciowy i kontroler NAND. Ma to zapewniać natywną semantykę KV oraz jednokrokowy dostęp z NPU do SSD, bez konwersji protokołów i pośrednictwa CPU. 20
26
Opublikowane przez firmę deklaracje obejmują:
- około 60 mikrosekund opóźnienia dostępu,
- do 40 TB/s łącznej przepustowości na klaster,
- przepustowość 1,5 raza wyższą od rozwiązań referencyjnych na rynku — według Huawei.
26
To deklaracje producenta. Komunikat nie zawiera pełnych informacji o modelu, poziomie współbieżności, współczynnikach trafień cache’u, konfiguracji klastra ani metodologii porównania. Do rzetelnej oceny potrzebne będą niezależne testy na reprezentatywnych obciążeniach produkcyjnych.
Tokeny, TTFT i trwałość SSD: co twierdzi Huawei
W typowym scenariuszu inferencji dla programowania wspomaganego przez AI Huawei deklaruje dwukrotnie wyższą przepustowość tokenów oraz o połowę krótszy czas do pierwszego tokenu (TTFT). 14 Bez szczegółów dotyczących punktu odniesienia i obciążenia nie można jednak przenosić tych wyników na wszystkie modele ani stosy inferencyjne.
Firma opisuje też mechanizm KV-aware adaptive storage. Logika rozmieszczania danych ma uwzględniać wartość i czas życia wpisów cache’u, aby wybierać odpowiednie medium pamięci masowej. Huawei deklaruje obsługę do 24 DWPD oraz około 16-krotne wydłużenie trwałości odczytów i zapisów SSD dzięki hybrydowym nośnikom i zoptymalizowanemu algorytmowi retencji. 16
18
Również te parametry powinny zostać potwierdzone w rzeczywistych środowiskach, przy konkretnych intensywnościach zapisu i politykach zarządzania cache’em.
Element większej architektury SuperPodów
Premiera M900 jest przede wszystkim deklaracją architektoniczną, a nie wyłącznie prezentacją nowej macierzy pamięci masowej. Huawei przedstawia UnifiedBus jako interkonekt łączący klastry i SuperPody dla agentowej AI, natomiast M900 ma pełnić rolę warstwy pamięci masowej i kontekstu w tym stosie. 23
W tym układzie:
- akceleratory Ascend dostarczają moc obliczeniową,
- UnifiedBus/Lingqu odpowiada za połączenie i współdzielenie zasobów,
- OceanStor M900 dodaje trwały, współdzielony cache KV w skali petabajtów.
M900 nie zwiększa więc samodzielnie mocy obliczeniowej modelu i nie zastępuje ani akceleratorów, ani szybkich interkonektów. Jego obietnicą jest zmniejszenie presji na pamięć, która pojawia się wtedy, gdy długie okna kontekstu i powtarzalne kroki agentów sprawiają, że cache KV staje się równie ważny jak sama moc obliczeniowa. 2
23
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Huawei OceanStor M900 ma odciążyć pamięć AI: cache KV do 64 PB dla SuperPoDów"?
Podczas HUAWEI CONNECT 2026 firma pokazała OceanStor M900 — współdzieloną warstwę cache’u KV dla hiperskalowych SuperPoDów obsługujących inferencję AI; pojedynczy klaster ma oferować do 64 PB pojemności.
What are the key points to validate first?
Podczas HUAWEI CONNECT 2026 firma pokazała OceanStor M900 — współdzieloną warstwę cache’u KV dla hiperskalowych SuperPoDów obsługujących inferencję AI; pojedynczy klaster ma oferować do 64 PB pojemności. System oparty na interkonekcie UnifiedBus, nazywanym też Lingqu, ma tworzyć globalny, wielowarstwowy cache KV dla bardzo długich kontekstów oraz wieloetapowych zadań agentowych.
What should I do next in practice?
Huawei deklaruje około 60 µs opóźnienia, 40 TB/s łącznej przepustowości i dwukrotnie wyższą przepustowość tokenów w scenariuszu AI coding.
Sources
huawei.comHuawei Introduces OceanStor M900 Context Memory Storage to Accelerate AI Inference in Hyperscale Data Centers - Huawei