AnswersPublished17 sources
Huawei OceanStor M900: το νέο επίπεδο μνήμης συμφραζομένων για AI inference
Στο HUAWEI CONNECT 2026, η Huawei παρουσίασε το OceanStor M900, ένα κοινόχρηστο επίπεδο KV Cache για hyperscale AI inference SuperPoDs με έως 64 PB ανά cluster. Το M900 χρησιμοποιεί το Lingqu UnifiedBus για παγκόσμια, πολυεπίπεδη KV Cache και στοχεύει σε workloads με πολύ μεγάλο context και πολλαπλούς γύρους agentic...
Δημοσιεύτηκε απόΕπεξεργασία με GPT-5.6 TerraΕικόνες δημιουργήθηκαν με GPT Image 2
Research answer
Key takeaways
- Στο HUAWEI CONNECT 2026, η Huawei παρουσίασε το OceanStor M900, ένα κοινόχρηστο επίπεδο KV Cache για hyperscale AI inference SuperPoDs με έως 64 PB ανά cluster.
- Το M900 χρησιμοποιεί το Lingqu UnifiedBus για παγκόσμια, πολυεπίπεδη KV Cache και στοχεύει σε workloads με πολύ μεγάλο context και πολλαπλούς γύρους agentic inference.
- Η Huawei αναφέρει περίπου 60 μs πρόσβαση, 40 TB/s συνολικό bandwidth και διπλάσιο token throughput σε σενάριο AI coding, αλλά δεν δημοσίευσε πλήρη στοιχεία σύγκρισης ή διαμόρφωσης workload.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Huawei announce at Huawei Connect 2026 about its OceanStor M900 AI memory storage for hyperscale inference SuperPoDs, including how. Article summary: Huawei announced OceanStor M900 Context Memory Storage: an SSD-backed, shared KV-cache tier for hyperscale AI inference SuperPoDs. It is intended to extend—not replace—accelerators’ HBM/DRAM or the SuperPoD interconnect:. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
Η Huawei παρουσίασε το OceanStor M900 Context Memory Storage ως υποδομή αποθήκευσης για AI inference σε hyperscale data centers. Ο στόχος του δεν είναι να αντικαταστήσει την HBM ή τη DRAM των accelerators, αλλά να προσθέσει ένα κοινόχρηστο, κλιμακούμενο επίπεδο μνήμης συμφραζομένων για τα SuperPoDs, όπου η KV Cache μπορεί να γίνει κρίσιμος περιορισμός σε πολύ μεγάλα prompts και agentic εργασίες πολλών βημάτων. 2
23
Τι λύνει: η KV Cache δεν χωρά πλέον μόνο σε HBM και DRAM
Κατά το inference ενός μεγάλου γλωσσικού μοντέλου, η KV Cache διατηρεί ενδιάμεση κατάσταση από τα ήδη επεξεργασμένα tokens. Η επαναχρησιμοποίησή της είναι ιδιαίτερα χρήσιμη όταν το ίδιο ή σχετικό context επανέρχεται σε επόμενους γύρους μιας συνομιλίας ή σε εργασίες agent.
Η Huawei τοποθετεί το M900 ως απάντηση στους περιορισμούς χωρητικότητας της on-chip μνήμης και της DRAM για εξαιρετικά μακρά context windows και multi-turn inference. Με το UnifiedBus —που η εταιρεία αποκαλεί επίσης Lingqu— το σύστημα δημιουργεί μια παγκόσμια, πολυεπίπεδη KV Cache με συνδέσεις ενός hop και επεκτείνει το cache tier από τη μνήμη του accelerator και τη DRAM προς SSDs. 2
26
Με απλά λόγια, το M900 επιχειρεί να κάνει πολύ μεγαλύτερο μέρος του context διαθέσιμο για αποθήκευση, κοινή χρήση και επαναχρησιμοποίηση, χωρίς να απαιτεί όλο αυτό να παραμένει στα ακριβότερα επίπεδα μνήμης.
Οι βασικοί ισχυρισμοί χωρητικότητας
Η Huawei αναφέρει ότι ένα cluster M900 μπορεί να προσφέρει έως 64 PB KV Cache. Υποστηρίζει επίσης ότι η διαθέσιμη KV Cache ανά NPU μπορεί να μετακινηθεί από την κλίμακα των GB στην κλίμακα των TB, με σκοπό υψηλότερα cache-hit rates για long-context αιτήματα. 2
26
Πρόκειται για αρχιτεκτονική κοινόχρηστης μνήμης σε επίπεδο SuperPoD, όχι για αύξηση της τοπικής HBM ενός chip. Η πρακτική αξία της επομένως εξαρτάται από τον τρόπο που το λογισμικό κατανέμει, ανακτά και επαναχρησιμοποιεί την KV Cache, καθώς και από το πραγματικό μείγμα αιτημάτων ενός deployment.
Αρχιτεκτονική: native KV semantics και NPU-to-SSD πρόσβαση
Σύμφωνα με την Huawei, το M900 ενσωματώνει CPU, network controller και NAND controller σε μία αρχιτεκτονική. Η εταιρεία λέει ότι αυτό παρέχει native KV semantics και επιτρέπει one-hop πρόσβαση από NPU σε SSD, αποφεύγοντας μετατροπή πρωτοκόλλου και CPU forwarding. 20
26
Οι δημοσιευμένοι εταιρικοί στόχοι είναι:
- περίπου 60 μικροδευτερόλεπτα latency πρόσβασης,
- έως 40 TB/s συνολικό bandwidth ανά cluster,
- bandwidth 1,5× υψηλότερο από λύσεις αναφοράς της αγοράς, σύμφωνα με τη Huawei.
26
Οι μετρήσεις αυτές πρέπει να διαβαστούν ως vendor claims. Η ανακοίνωση δεν παρέχει πλήρη στοιχεία για το μοντέλο, το επίπεδο ταυτόχρονης χρήσης, τα cache-hit ratios, τη διαμόρφωση cluster ή τη μεθοδολογία της σύγκρισης. Ανεξάρτητα benchmarks σε αντιπροσωπευτικά production workloads θα είναι απαραίτητα για ουσιαστική αξιολόγηση.
Τι αναφέρει η Huawei για throughput και αντοχή SSD
Για ένα τυπικό σενάριο AI coding inference, η Huawei αναφέρει διπλάσιο token throughput και μισό time to first token (TTFT). 14 Χωρίς δημοσιευμένες λεπτομέρειες για baseline και workload, οι αριθμοί δεν αρκούν για να εξαχθεί γενικό συμπέρασμα για όλα τα μοντέλα ή τα inference stacks.
Η εταιρεία περιγράφει επίσης ένα σχήμα KV-aware adaptive storage: η λογική τοποθέτησης δεδομένων λαμβάνει υπόψη την αξία και τον χρόνο ζωής της cache ώστε να επιλέγει κατάλληλο μέσο αποθήκευσης. Η Huawei ισχυρίζεται έως 24 DWPD και περίπου 16× βελτίωση στη διάρκεια ζωής ανάγνωσης/εγγραφής των SSDs με υβριδικά μέσα και βελτιστοποιημένο retention algorithm. 16
18 Και εδώ, η αντοχή θα πρέπει να επιβεβαιωθεί υπό πραγματικούς ρυθμούς εγγραφών και πολιτικές διαχείρισης cache.
Πώς εντάσσεται στο ευρύτερο σχέδιο των SuperPoDs
Η παρουσίαση του M900 είναι περισσότερο μια δήλωση αρχιτεκτονικής παρά μια αυτόνομη ανακοίνωση storage. Η Huawei περιγράφει το UnifiedBus ως interconnect που συνδέει clusters και SuperPoDs για agentic AI, ενώ το M900 λειτουργεί ως το storage/context tier αυτής της στοίβας. 23
Στο σχήμα αυτό:
- οι Ascend accelerators παρέχουν το compute,
- το UnifiedBus/Lingqu παρέχει τη διασύνδεση και την κοινή χρήση πόρων,
- το OceanStor M900 προσθέτει persistent, κοινόχρηστη KV Cache σε κλίμακα PB.
Επομένως, το M900 δεν προσθέτει από μόνο του υπολογιστική ισχύ στο μοντέλο και δεν αντικαθιστά ούτε τους accelerators ούτε τα υψηλής ταχύτητας interconnects. Η υπόσχεσή του είναι να μειώσει το memory-pressure bottleneck που εμφανίζεται όταν μεγάλα context windows και επαναλαμβανόμενα agentic βήματα κάνουν την KV Cache εξίσου σημαντική με το compute. 2
23
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Huawei OceanStor M900: το νέο επίπεδο μνήμης συμφραζομένων για AI inference"?
Στο HUAWEI CONNECT 2026, η Huawei παρουσίασε το OceanStor M900, ένα κοινόχρηστο επίπεδο KV Cache για hyperscale AI inference SuperPoDs με έως 64 PB ανά cluster.
What are the key points to validate first?
Στο HUAWEI CONNECT 2026, η Huawei παρουσίασε το OceanStor M900, ένα κοινόχρηστο επίπεδο KV Cache για hyperscale AI inference SuperPoDs με έως 64 PB ανά cluster. Το M900 χρησιμοποιεί το Lingqu UnifiedBus για παγκόσμια, πολυεπίπεδη KV Cache και στοχεύει σε workloads με πολύ μεγάλο context και πολλαπλούς γύρους agentic inference.
What should I do next in practice?
Η Huawei αναφέρει περίπου 60 μs πρόσβαση, 40 TB/s συνολικό bandwidth και διπλάσιο token throughput σε σενάριο AI coding, αλλά δεν δημοσίευσε πλήρη στοιχεία σύγκρισης ή διαμόρφωσης workload.
Sources
huawei.comHuawei Introduces OceanStor M900 Context Memory Storage to Accelerate AI Inference in Hyperscale Data Centers - Huawei