Tanken bak plattformen er å koble hele AI-livssyklusen – fra rådatalagring til modell-distribusjon og KI-agenter – inn i én integrert stabel. Huawei argumenterer for at fragmentert infrastruktur bremser AI-adopsjon, og har derfor utviklet et system der datapipelines, inferensinfrastruktur og orkestreringslag er tett integrert.

Femlagsarkitekturen

Huawei beskriver plattformen som en femlags stabel, der hvert lag støtter en forskjellig del av bedriftens AI-pipeline.

1. Lagringslag

Grunnlaget er OceanStor Pacific, Huaweis distribuerte skalerbare lagringsplattform, designet for å lagre enorme AI-datasett og vektorembeddinger. Systemet er optimalisert for høy tetthet og storskala databehandling som er typisk i AI-trening og inferensmiljøer.

Huawei oppgir at OceanStor Pacific kan nå opptil 11 petabyte lagring i ett 2U-chassis, med mål om å levere høy tetthet og samtidig senke totalkostnaden for store AI-datasentre.

2. Databehandlingslag

Over lagringen ligger DME Omni-Dataverse, som fungerer som en enhetlig dataplattform. Den samler og håndterer data på tvers av miljøer, og muliggjør:

• Multimodal datainntak
• Datahåndtering på tvers av lokasjoner
• Global datavisualisering og -kontroll
• Rask gjenfinning fra ekstremt store vektordatabaser

Ifølge Huawei og relatert rapportering kan plattformen utføre sekundbasert gjenfinning på tvers av hundrevis av milliarder vektorer, slik at AI-modeller kan få tilgang til kunnskapsbaser og embeddinger i stor skala.

3. Modell-distribusjon og inferenslag

Dette laget fokuserer på å distribuere og kjøre AI-modeller effektivt.

Nøkkelteknologier inkluderer:

• Context Memory Storage (CMS) – en minnearkitektur designet for store inferensklynger
• ModelEngine – Huaweis kjøretidsmiljø for å distribuere og administrere AI-modeller

CMS støtter heterogene datamiljøer og kan samle store KV-cache-minneressurser, noe som bidrar til å akselerere inferensarbeidslaster. Huawei hevder at denne arkitekturen kan redusere ventetiden for å generere den første tokenen under inferens betydelig.

ModelEngine tilbyr på sin side model gateway-funksjonalitet og verktøy for rask distribusjon av nye modeller med minimal konfigurasjon.

4. KI-agentorkestreringslag

Huawei introduserte også Nexent, en bedriftsplattform for KI-agenter som samarbeider med ModelEngine for å orkestrere KI-agenter på tvers av forretningsprosesser.

Målet er å gjøre det mulig for organisasjoner å koble AI-modeller direkte til operative oppgaver – som automatisering, beslutningsstøtte eller kundeinteraksjon – gjennom agentsystemer som koordinerer flere modeller og verktøy.

I Huaweis arkitektur transformerer dette laget distribuerte modeller til praktiske bedrifts-KI-agenter som kan samhandle med data, applikasjoner og brukere.

5. Datasikkerhetslag (Resilience)

Det siste laget fokuserer på sikkerhet, pålitelighet og databeskyttelse. Huawei beskriver dette som et ende-til-ende resiliensrammeverk som beskytter AI-data og infrastruktur mot feil og cyberangrep.

Funksjoner som fremheves i dekningen inkluderer:

• Uforanderlige øyeblikksbilder og sikkerhetskopier
• Ende-til-ende databeskyttelse
• Katastrofegjenoppretting og resiliensverktøy

Disse funksjonene er ment å forsvare mot trusler som løsepengevirusangrep og andre dataintegritetsrisikoer som kan forstyrre AI-drift. Noen rapporter knytter også resilienslaget til bredere beskyttelse mot datakvalitetstrusler i AI-pipelines, men spesifikke tekniske detaljer er begrenset.

Ytelses- og effektivitetsløfter

Huawei presenterte plattformen som en måte å akselerere bedrifters AI-distribusjon og forbedre inferensytelsen.

Eksempler som er sitert i rapporteringen inkluderer:

• Opptil 10× raskere token-generering i enkelte inferensscenarioer muliggjort av CMS og minnehåndteringsoptimaliseringer.
• AI-applikasjonsdistribusjon redusert fra uker til dager takket være integrert orkestrering og plattformverktøy.
• Inferensakselerasjon gjennom teknikker som KV-cache-minneoptimalisering og enhetlig cache-administrasjon.

Som med de fleste leverandørbenchmarks, gjenspeiler disse tallene Huaweis interne testing eller spesifikke arbeidslaster, snarere enn universelle ytelsesresultater.

Tidlige bedriftsdistribusjoner

Huawei fremhevet også tidlig adopsjon av infrastrukturen i bedriftsmiljøer.

For eksempel har franske dagligvarekjeden Auchan distribuert Huawei-maskinvare og DCS-infrastrukturklynger i tre datasentre i Frankrike som en del av et moderniseringsarbeid.

Selv om rapporter bekrefter distribusjonen av Huawei-infrastruktur, tilskriver offentlig tilgjengelige kilder ikke Auchans skykostnadsreduksjoner direkte til Huaweis plattform. Bevisene viser i stedet en bredere modernisering av kjedens IT-miljø, som kan involvere flere teknologier og skyleverandører.

Hvorfor Huawei bygger fullstack AI-infrastruktur

Kunngjøringen gjenspeiler en bredere bransjetrend mot vertikalt integrert AI-infrastruktur. I stedet for separate verktøy for lagring, modell-distribusjon og orkestrering, samler leverandører dem i økende grad i enhetlige plattformer designet for:

• Storskala AI-inferensklynger
• Bedrifts-KI-agenter
• Datasentriske AI-pipelines

Huaweis tilnærming legger stor vekt på datainfrastruktur – og behandler datalagring, vektorgjenfinning, minnebuffring og orkestrering som kjerneelementer for AI-ytelse, snarere enn sekundære komponenter.

Hvis bedrifter tar i bruk denne arkitekturen i stor skala, kan plattformen fungere som den operative ryggraden for AI-drevne datasentre, og koble sammen rådata, AI-modeller og agentsystemer i én enkelt stabel.

Tanken bak plattformen er å koble hele AI-livssyklusen – fra rådatalagring til modell-distribusjon og KI-agenter – inn i én integrert stabel. Huawei argumenterer for at fragmentert infrastruktur bremser AI-adopsjon, og har derfor utviklet et system der datapipelines, inferensinfrastruktur og orkestreringslag er tett integrert.

Femlagsarkitekturen

Huawei beskriver plattformen som en femlags stabel, der hvert lag støtter en forskjellig del av bedriftens AI-pipeline.

1. Lagringslag

Grunnlaget er OceanStor Pacific, Huaweis distribuerte skalerbare lagringsplattform, designet for å lagre enorme AI-datasett og vektorembeddinger. Systemet er optimalisert for høy tetthet og storskala databehandling som er typisk i AI-trening og inferensmiljøer.

Huawei oppgir at OceanStor Pacific kan nå opptil 11 petabyte lagring i ett 2U-chassis, med mål om å levere høy tetthet og samtidig senke totalkostnaden for store AI-datasentre.

2. Databehandlingslag

Over lagringen ligger DME Omni-Dataverse, som fungerer som en enhetlig dataplattform. Den samler og håndterer data på tvers av miljøer, og muliggjør:

• Multimodal datainntak
• Datahåndtering på tvers av lokasjoner
• Global datavisualisering og -kontroll
• Rask gjenfinning fra ekstremt store vektordatabaser

Ifølge Huawei og relatert rapportering kan plattformen utføre sekundbasert gjenfinning på tvers av hundrevis av milliarder vektorer, slik at AI-modeller kan få tilgang til kunnskapsbaser og embeddinger i stor skala.

3. Modell-distribusjon og inferenslag

Dette laget fokuserer på å distribuere og kjøre AI-modeller effektivt.

Nøkkelteknologier inkluderer:

• Context Memory Storage (CMS) – en minnearkitektur designet for store inferensklynger
• ModelEngine – Huaweis kjøretidsmiljø for å distribuere og administrere AI-modeller

CMS støtter heterogene datamiljøer og kan samle store KV-cache-minneressurser, noe som bidrar til å akselerere inferensarbeidslaster. Huawei hevder at denne arkitekturen kan redusere ventetiden for å generere den første tokenen under inferens betydelig.

ModelEngine tilbyr på sin side model gateway-funksjonalitet og verktøy for rask distribusjon av nye modeller med minimal konfigurasjon.

4. KI-agentorkestreringslag

Huawei introduserte også Nexent, en bedriftsplattform for KI-agenter som samarbeider med ModelEngine for å orkestrere KI-agenter på tvers av forretningsprosesser.

Målet er å gjøre det mulig for organisasjoner å koble AI-modeller direkte til operative oppgaver – som automatisering, beslutningsstøtte eller kundeinteraksjon – gjennom agentsystemer som koordinerer flere modeller og verktøy.

I Huaweis arkitektur transformerer dette laget distribuerte modeller til praktiske bedrifts-KI-agenter som kan samhandle med data, applikasjoner og brukere.

5. Datasikkerhetslag (Resilience)

Det siste laget fokuserer på sikkerhet, pålitelighet og databeskyttelse. Huawei beskriver dette som et ende-til-ende resiliensrammeverk som beskytter AI-data og infrastruktur mot feil og cyberangrep.

Funksjoner som fremheves i dekningen inkluderer:

• Uforanderlige øyeblikksbilder og sikkerhetskopier
• Ende-til-ende databeskyttelse
• Katastrofegjenoppretting og resiliensverktøy

Disse funksjonene er ment å forsvare mot trusler som løsepengevirusangrep og andre dataintegritetsrisikoer som kan forstyrre AI-drift. Noen rapporter knytter også resilienslaget til bredere beskyttelse mot datakvalitetstrusler i AI-pipelines, men spesifikke tekniske detaljer er begrenset.

Ytelses- og effektivitetsløfter

Huawei presenterte plattformen som en måte å akselerere bedrifters AI-distribusjon og forbedre inferensytelsen.

Eksempler som er sitert i rapporteringen inkluderer:

• Opptil 10× raskere token-generering i enkelte inferensscenarioer muliggjort av CMS og minnehåndteringsoptimaliseringer.
• AI-applikasjonsdistribusjon redusert fra uker til dager takket være integrert orkestrering og plattformverktøy.
• Inferensakselerasjon gjennom teknikker som KV-cache-minneoptimalisering og enhetlig cache-administrasjon.

Som med de fleste leverandørbenchmarks, gjenspeiler disse tallene Huaweis interne testing eller spesifikke arbeidslaster, snarere enn universelle ytelsesresultater.

Tidlige bedriftsdistribusjoner

Huawei fremhevet også tidlig adopsjon av infrastrukturen i bedriftsmiljøer.

For eksempel har franske dagligvarekjeden Auchan distribuert Huawei-maskinvare og DCS-infrastrukturklynger i tre datasentre i Frankrike som en del av et moderniseringsarbeid.

Selv om rapporter bekrefter distribusjonen av Huawei-infrastruktur, tilskriver offentlig tilgjengelige kilder ikke Auchans skykostnadsreduksjoner direkte til Huaweis plattform. Bevisene viser i stedet en bredere modernisering av kjedens IT-miljø, som kan involvere flere teknologier og skyleverandører.

Hvorfor Huawei bygger fullstack AI-infrastruktur

Kunngjøringen gjenspeiler en bredere bransjetrend mot vertikalt integrert AI-infrastruktur. I stedet for separate verktøy for lagring, modell-distribusjon og orkestrering, samler leverandører dem i økende grad i enhetlige plattformer designet for:

• Storskala AI-inferensklynger
• Bedrifts-KI-agenter
• Datasentriske AI-pipelines

Huaweis tilnærming legger stor vekt på datainfrastruktur – og behandler datalagring, vektorgjenfinning, minnebuffring og orkestrering som kjerneelementer for AI-ytelse, snarere enn sekundære komponenter.

Hvis bedrifter tar i bruk denne arkitekturen i stor skala, kan plattformen fungere som den operative ryggraden for AI-drevne datasentre, og koble sammen rådata, AI-modeller og agentsystemer i én enkelt stabel.