AnswersPublished19 sources
Miten Huawei OceanStor M900:n jaettu KV-välimuisti toimii?
Huawei ilmoittaa OceanStor M900:n tarjoavan jopa 64 PB jaettua KV välimuistia klusteria kohti. Yhtiön ilmoittamat noin 60 mikrosekunnin viive ja 40 TB/s:n yhteenlaskettu kaistanleveys kuvaavat järjestelmää, eivät jokaisen pyynnön toteutuvaa suorituskykyä.
JulkaisijaMuokattu mallilla GPT-6 SolKuvat luotu mallilla GPT Image 2
Research answer
Key takeaways
- Huawei ilmoittaa OceanStor M900:n tarjoavan jopa 64 PB jaettua KV välimuistia klusteria kohti.
- Yhtiön ilmoittamat noin 60 mikrosekunnin viive ja 40 TB/s:n yhteenlaskettu kaistanleveys kuvaavat järjestelmää, eivät jokaisen pyynnön toteutuvaa suorituskykyä.
- Välimuistin hyöty riippuu siitä, kuinka paljon pyynnöissä on uudelleenkäytettävää sisältöä.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Huawei’s OceanStor M900 Context Memory Storage, introduced at HUAWEI CONNECT 2026 for AI inference SuperPoDs, and how does its Unifi. Article summary: Huawei’s OceanStor M900 is a storage system for SuperPoD AI inference, introduced at HUAWEI CONNECT 2026. It uses UnifiedBus to make the key–value (KV) cache—a reusable record of attention calculations—available across a. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Huawei esitteli OceanStor M900:n HUAWEI CONNECT 2026 -tapahtumassa SuperPoD-tekoälyjärjestelmiensä tallennusratkaisuksi. Sen tarkoitus on pitää mallin aiemmin laskemaa kontekstia useamman laskentayksikön käytettävissä, kun syötteet, keskustelut ja tekoälyagenttien tehtäväketjut pitenevät. 1
9
Miksi KV-välimuistia jaetaan?
Kun tekoälymalli käsittelee syötettä, se tuottaa avain–arvo- eli KV-välimuistiin tietoa, jota voidaan hyödyntää myöhemmässä päättelyssä. Jos uusi pyyntö sisältää sopivan jo käsitellyn alkuosan, mallin ei tarvitse laskea sitä kokonaan uudelleen. Pitkissä keskusteluissa tästä voi olla hyötyä, mutta kaikkea välimuistia on vaikea pitää tekoälykiihdyttimen eli NPU:n lähellä olevassa muistissa. M900:n idea on laajentaa välimuistia ja jakaa se SuperPoD-järjestelmän käyttöön. 1
3
6
Mitä 64 petatavun kapasiteetti tarkoittaa?
Huawein UnifiedBus-yhteysverkko yhdistää KV-välimuistin tasoja sirulla olevasta muistista keskusmuistiin eli DRAMiin ja edelleen SSD-levyille. Huawein mukaan yksi M900-klusteri voi tarjota 64 petatavua (PB) jaettua KV-välimuistia, jolloin yksittäisen NPU:n käytettävissä oleva kapasiteetti kasvaa gigatavuluokasta teratavuluokkaan. 64 PB on klusterin tallennuskapasiteetti, ei yhden NPU:n sisäinen muisti. Suurempi välimuisti voi vähentää samoja laskutoimituksia vain silloin, kun pyynnöissä todella on uudelleenkäytettävää sisältöä. 3
6
17
SSD-tason nopeuttamiseksi Huawei kuvaa NPU:n ja SSD-levyjen välille yhden hypyn yhteyden. Ratkaisussa yhdistetään suorittimen, verkko-ohjaimen ja NAND-muistiohjaimen toimintoja, jotta osa tavanomaisista protokollamuunnoksista ja suorittimen kautta kulkevista vaiheista jää pois. Huawei ilmoittaa käyttöviiveeksi noin 60 mikrosekuntia ja klusterin yhteenlasketuksi kaistanleveydeksi 40 TB/s. Nämä ovat ilmoitettuja järjestelmätason lukuja, eivät lupaus jokaisen välimuistihaun nopeudesta. 3
6
28
32
Nopeutuuko vastaus ja laskeeko hinta?
Kun pyyntö voi käyttää aiemmin laskettua sisältöä, ensimmäinen vastaustoken voi syntyä nopeammin ja laskentakapasiteettia voi vapautua useampien tokenien tuottamiseen. Huawei kertoo, että sen tyypilliseksi kuvaamassa tekoälyavusteisen ohjelmoinnin tilanteessa päättelyklusterin tokenien tuotantonopeus kaksinkertaistui ja aika ensimmäiseen tokeniin puolittui. Tulosta ei pidä yleistää kaikkiin käyttötapauksiin. 28
33
Huawei kertoo myös KV-tiedon huomioivasta sijoittelusta, joka ohjaa välimuistitiedon säilymistä eri tallennustasoilla. Yhtiön mukaan SSD-kestävyys voi yltää 24 koko levyn kirjoituskertaan päivässä, käyttöikä parantua 16-kertaiseksi ja järjestelmän vakaustavoite on kolme vuotta. Tavoitteena on vähentää uudelleenlaskentaa ja levyjen vaihtoa, mikä voisi pienentää päättelyn kustannusta tokenia kohti. Käytettävissä oleva aineisto ei kuitenkaan riippumattomasti osoita, että ilmoitetut nopeus-, käyttöikä- tai kustannushyödyt toteutuvat tuotantokäytössä olevissa SuperPoD-järjestelmissä. 6
8
33
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Miten Huawei OceanStor M900:n jaettu KV-välimuisti toimii?"?
Huawei ilmoittaa OceanStor M900:n tarjoavan jopa 64 PB jaettua KV välimuistia klusteria kohti.
What are the key points to validate first?
Huawei ilmoittaa OceanStor M900:n tarjoavan jopa 64 PB jaettua KV välimuistia klusteria kohti. Yhtiön ilmoittamat noin 60 mikrosekunnin viive ja 40 TB/s:n yhteenlaskettu kaistanleveys kuvaavat järjestelmää, eivät jokaisen pyynnön toteutuvaa suorituskykyä.
What should I do next in practice?
Välimuistin hyöty riippuu siitä, kuinka paljon pyynnöissä on uudelleenkäytettävää sisältöä.
Sources
huawei.comAdvancing the Agentic World, Building a Solid Silicon ...
e.huawei.comOceanStor Data Storage - Huawei Enterprise