Ajatuksena on yhdistää koko tekoälyn elinkaari – raakadatan tallentamisesta mallien käyttöönottoon ja AI-agentteihin – yhdeksi integroiduksi pinoksi. Huawei perustelee ratkaisuaan sillä, että pirstaleinen infrastruktuuri hidastaa tekoälyn käyttöönottoa, joten yhtiö suunnitteli järjestelmän, jossa datajohdot, inferenssi-infrastruktuuri ja orkestrointikerrokset on tiiviisti integroitu.

Viiden kerroksen arkkitehtuuri

Huawei kuvaa alustaa viisikerroksisena pinoaa, jossa jokainen kerros tukee eri osaa yrityksen tekoälyputkesta.

1. Tallennuskerros

Pohjana on OceanStor Pacific, Huawein hajautettu skaalautuva tallennusalusta, joka on suunniteltu massiivisten tekoälyaineistojen ja vektoriupotusten tallentamiseen. Järjestelmä on optimoitu suuren kapasiteetin ja laajamittaisten datan käsittelytyökuormien tarpeisiin, joita tyypillisesti esiintyy tekoälyn harjoitus- ja inferenssiympäristöissä.

Huawei kertoo OceanStor Pacificin saavuttavan jopa 11 petatavun tallennuskapasiteetin 2U-kotelossa, mikä tarkoittaa korkeaa tiheyttä ja pyrkii alentamaan kokonaiskustannuksia suurissa AI-tietokeskuksissa.

2. Tiedonhallintakerros

Tallennuksen päällä on DME Omni-Dataverse, joka toimii yhtenäisenä tiedonhallinta-alustana. Se kerää ja hallitsee dataa eri ympäristöistä mahdollistaen:

• Monimuotoisen datan syötön (multimodal)
• Useiden toimipisteiden välisen tiedonhallinnan
• Globaalin datan näkyvyyden ja hallinnan
• Nopean haun erittäin suurista vektoriaineistoista

Huawein ja aiheeseen liittyvien raporttien mukaan alusta pystyy sekunnin tarkkuudella tapahtuvaan hakuun sadoista miljardeista vektoreista, mikä mahdollistaa tekoälymallien pääsyn tietokantoihin ja upotuksiin laajassa mittakaavassa.

3. Mallien käyttöönotto- ja inferenssikerros

Seuraava kerros keskittyy tekoälymallien tehokkaaseen käyttöönottoon ja suorittamiseen.

Keskeisiä teknologioita ovat:

• Context Memory Storage (CMS) – muistiarkkitehtuuri, joka on suunniteltu suuria inferenssiklustereita varten
• ModelEngine – Huawein suoritusympäristö, jossa tekoälymalleja otetaan käyttöön ja hallitaan

CMS tukee heterogeenisia laskentaympäristöjä ja pystyy jakamaan suuria KV-välimuistiresursseja, mikä auttaa nopeuttamaan inferenssityökuormia. Huawei väittää tämän arkkitehtuurin voivan vähentää merkittävästi ensimmäisen tokenin tuottamisen viivettä päättelyssä.

ModelEngine puolestaan tarjoaa malliyhdyskäytäväominaisuuksia ja työkaluja uusien mallien nopeaan käyttöönottoon minimaalisella konfiguraatiolla.

4. Tekoälyagenttien orkestrointikerros

Huawei esitteli myös Nexent-alustan, joka on yritystason tekoälyagenttialusta. Se toimii yhdessä ModelEnginen kanssa orkestroidakseen AI-agentteja liiketoimintaprosessien yli.

Tavoitteena on mahdollistaa, että organisaatiot voivat yhdistää tekoälymallit suoraan operatiivisiin tehtäviin – kuten automaatioon, päätöksenteon tukeen tai asiakasvuorovaikutukseen – agenttijärjestelmien kautta, jotka koordinoivat useita malleja ja työkaluja.

Huawein arkkitehtuurissa tämä kerros muuttaa käyttöönotetut mallit käytännön yritystason tekoälyagenteiksi, jotka voivat olla vuorovaikutuksessa datan, sovellusten ja käyttäjien kanssa.

5. Tiedon sietokyvyn kerros

Viimeinen kerros keskittyy turvallisuuteen, luotettavuuteen ja tietosuojaukseen. Huawei kuvaa tätä päästä päähän -ulottuvana sietokyvyn viitekehyksenä, joka suojaa tekoälydataa ja -infrastruktuuria vikoja ja kyberhyökkäyksiä vastaan.

Kattavuudessa mainittuja ominaisuuksia ovat:

• Muuttumattomat tilannekuvat ja varmuuskopiot
• Päästä päähän -tietosuojaus
• Katastrofipalautus- ja sietokykypalvelut

Nämä ominaisuudet on tarkoitettu torjumaan uhkia, kuten kiristyshyökkäyksiä ja muita tietojen eheyteen kohdistuvia riskejä, jotka voisivat häiritä tekoälytoimintoja. Joissakin raporteissa sietokykytaso yhdistetään myös laajempiin suojauksiin tekoälyputken tietolaatua uhkaavia tekijöitä vastaan, vaikka tarkkoja teknisiä yksityiskohtia onkin raportoitu vähän.

Suorituskyky- ja tehokkuusväitteet

Huawei esitti alustan keinona nopeuttaa yritysten tekoälykäyttöönottoa ja parantaa inferenssisuorituskykyä.

Raporteissa mainittuja esimerkkejä ovat:

• Jopa 10 kertaa nopeampi token-generointi joissakin inferenssiskenaarioissa, mikä mahdollistuu CMS:n ja muistinhallinnan optimointien ansiosta.
• Tekoälysovellusten käyttöönoton kesto lyhenee viikoista päiviksi integroidun orkestroinnin ja alustatyökalujen avulla.
• Inferenssin nopeutuminen muun muassa KV-välimuistin optimoinnin ja yhtenäisen välimuistinhallinnan kautta.

Kuten useimpien myyjien vertailuarvojen kohdalla, nämä luvut heijastavat Huawein sisäisiä testejä tai tiettyjä työkuormia, eivät yleispäteviä suorituskykytuloksia.

Varhaisia yrityskäyttöönottoja

Huawei korosti myös alustan varhaista käyttöönottoa yritysympäristöissä.

Esimerkiksi ranskalainen vähittäiskauppaketju Auchan on ottanut käyttöön Huawein laitteisto- ja tietokeskusinfrastruktuuriklustereita kolmessa datakeskuksessaan Ranskassa osana nykyaikaistamishankettaan.

Vaikka raportit vahvistavat Huawein infrastruktuurin käyttöönoton, julkisesti saatavilla olevat lähteet eivät selvästi yhdistä Auchanin pilvikustannussäästöjä suoraan Huawein alustaan. Sen sijaan todisteet osoittavat laajempaa nykyaikaistamista vähittäiskauppaketjun IT-ympäristössä, mikä saattaa sisältää useita teknologioita ja pilvipalveluntarjoajia.

Miksi Huawei rakentaa täyspinon AI-infrastruktuuria?

Julkinen ilmoitus heijastaa laajempaa alan suuntausta kohti vertikaalisesti integroitua tekoälyinfrastruktuuria. Sen sijaan, että erillisiä työkaluja käytettäisiin tallennukseen, mallien käyttöönottoon ja orkestrointiin, toimittajat yhä useammin niputtavat ne yhtenäisiksi alustoiksi, jotka on suunniteltu:

• Laajamittaisille tekoälyn inferenssiklustereille
• Yritystason tekoälyagenteille
• Datakeskeisille tekoälyputkille

Huawein lähestymistapa keskittyy vahvasti tietoinfrastruktuuriin – se käsittelee tallennusta, vektorihakua, muistin välimuistitusta ja orkestrointia tekoälyn suorituskyvyn ydinelementteinä eikä toissijaisina osina.

Jos yritykset omaksuvat tämän arkkitehtuurin laajalti, alusta saattaa toimia tekoälyä hyödyntävien datakeskusten operatiivisena selkärankana, joka yhdistää raakadatan, tekoälymallit ja agenttijärjestelmät yhden pinon sisällä.

Ajatuksena on yhdistää koko tekoälyn elinkaari – raakadatan tallentamisesta mallien käyttöönottoon ja AI-agentteihin – yhdeksi integroiduksi pinoksi. Huawei perustelee ratkaisuaan sillä, että pirstaleinen infrastruktuuri hidastaa tekoälyn käyttöönottoa, joten yhtiö suunnitteli järjestelmän, jossa datajohdot, inferenssi-infrastruktuuri ja orkestrointikerrokset on tiiviisti integroitu.

Viiden kerroksen arkkitehtuuri

Huawei kuvaa alustaa viisikerroksisena pinoaa, jossa jokainen kerros tukee eri osaa yrityksen tekoälyputkesta.

1. Tallennuskerros

Pohjana on OceanStor Pacific, Huawein hajautettu skaalautuva tallennusalusta, joka on suunniteltu massiivisten tekoälyaineistojen ja vektoriupotusten tallentamiseen. Järjestelmä on optimoitu suuren kapasiteetin ja laajamittaisten datan käsittelytyökuormien tarpeisiin, joita tyypillisesti esiintyy tekoälyn harjoitus- ja inferenssiympäristöissä.

Huawei kertoo OceanStor Pacificin saavuttavan jopa 11 petatavun tallennuskapasiteetin 2U-kotelossa, mikä tarkoittaa korkeaa tiheyttä ja pyrkii alentamaan kokonaiskustannuksia suurissa AI-tietokeskuksissa.

2. Tiedonhallintakerros

Tallennuksen päällä on DME Omni-Dataverse, joka toimii yhtenäisenä tiedonhallinta-alustana. Se kerää ja hallitsee dataa eri ympäristöistä mahdollistaen:

• Monimuotoisen datan syötön (multimodal)
• Useiden toimipisteiden välisen tiedonhallinnan
• Globaalin datan näkyvyyden ja hallinnan
• Nopean haun erittäin suurista vektoriaineistoista

Huawein ja aiheeseen liittyvien raporttien mukaan alusta pystyy sekunnin tarkkuudella tapahtuvaan hakuun sadoista miljardeista vektoreista, mikä mahdollistaa tekoälymallien pääsyn tietokantoihin ja upotuksiin laajassa mittakaavassa.

3. Mallien käyttöönotto- ja inferenssikerros

Seuraava kerros keskittyy tekoälymallien tehokkaaseen käyttöönottoon ja suorittamiseen.

Keskeisiä teknologioita ovat:

• Context Memory Storage (CMS) – muistiarkkitehtuuri, joka on suunniteltu suuria inferenssiklustereita varten
• ModelEngine – Huawein suoritusympäristö, jossa tekoälymalleja otetaan käyttöön ja hallitaan

CMS tukee heterogeenisia laskentaympäristöjä ja pystyy jakamaan suuria KV-välimuistiresursseja, mikä auttaa nopeuttamaan inferenssityökuormia. Huawei väittää tämän arkkitehtuurin voivan vähentää merkittävästi ensimmäisen tokenin tuottamisen viivettä päättelyssä.

ModelEngine puolestaan tarjoaa malliyhdyskäytäväominaisuuksia ja työkaluja uusien mallien nopeaan käyttöönottoon minimaalisella konfiguraatiolla.

4. Tekoälyagenttien orkestrointikerros

Huawei esitteli myös Nexent-alustan, joka on yritystason tekoälyagenttialusta. Se toimii yhdessä ModelEnginen kanssa orkestroidakseen AI-agentteja liiketoimintaprosessien yli.

Tavoitteena on mahdollistaa, että organisaatiot voivat yhdistää tekoälymallit suoraan operatiivisiin tehtäviin – kuten automaatioon, päätöksenteon tukeen tai asiakasvuorovaikutukseen – agenttijärjestelmien kautta, jotka koordinoivat useita malleja ja työkaluja.

Huawein arkkitehtuurissa tämä kerros muuttaa käyttöönotetut mallit käytännön yritystason tekoälyagenteiksi, jotka voivat olla vuorovaikutuksessa datan, sovellusten ja käyttäjien kanssa.

5. Tiedon sietokyvyn kerros

Viimeinen kerros keskittyy turvallisuuteen, luotettavuuteen ja tietosuojaukseen. Huawei kuvaa tätä päästä päähän -ulottuvana sietokyvyn viitekehyksenä, joka suojaa tekoälydataa ja -infrastruktuuria vikoja ja kyberhyökkäyksiä vastaan.

Kattavuudessa mainittuja ominaisuuksia ovat:

• Muuttumattomat tilannekuvat ja varmuuskopiot
• Päästä päähän -tietosuojaus
• Katastrofipalautus- ja sietokykypalvelut

Nämä ominaisuudet on tarkoitettu torjumaan uhkia, kuten kiristyshyökkäyksiä ja muita tietojen eheyteen kohdistuvia riskejä, jotka voisivat häiritä tekoälytoimintoja. Joissakin raporteissa sietokykytaso yhdistetään myös laajempiin suojauksiin tekoälyputken tietolaatua uhkaavia tekijöitä vastaan, vaikka tarkkoja teknisiä yksityiskohtia onkin raportoitu vähän.

Suorituskyky- ja tehokkuusväitteet

Huawei esitti alustan keinona nopeuttaa yritysten tekoälykäyttöönottoa ja parantaa inferenssisuorituskykyä.

Raporteissa mainittuja esimerkkejä ovat:

• Jopa 10 kertaa nopeampi token-generointi joissakin inferenssiskenaarioissa, mikä mahdollistuu CMS:n ja muistinhallinnan optimointien ansiosta.
• Tekoälysovellusten käyttöönoton kesto lyhenee viikoista päiviksi integroidun orkestroinnin ja alustatyökalujen avulla.
• Inferenssin nopeutuminen muun muassa KV-välimuistin optimoinnin ja yhtenäisen välimuistinhallinnan kautta.

Kuten useimpien myyjien vertailuarvojen kohdalla, nämä luvut heijastavat Huawein sisäisiä testejä tai tiettyjä työkuormia, eivät yleispäteviä suorituskykytuloksia.

Varhaisia yrityskäyttöönottoja

Huawei korosti myös alustan varhaista käyttöönottoa yritysympäristöissä.

Esimerkiksi ranskalainen vähittäiskauppaketju Auchan on ottanut käyttöön Huawein laitteisto- ja tietokeskusinfrastruktuuriklustereita kolmessa datakeskuksessaan Ranskassa osana nykyaikaistamishankettaan.

Vaikka raportit vahvistavat Huawein infrastruktuurin käyttöönoton, julkisesti saatavilla olevat lähteet eivät selvästi yhdistä Auchanin pilvikustannussäästöjä suoraan Huawein alustaan. Sen sijaan todisteet osoittavat laajempaa nykyaikaistamista vähittäiskauppaketjun IT-ympäristössä, mikä saattaa sisältää useita teknologioita ja pilvipalveluntarjoajia.

Miksi Huawei rakentaa täyspinon AI-infrastruktuuria?

Julkinen ilmoitus heijastaa laajempaa alan suuntausta kohti vertikaalisesti integroitua tekoälyinfrastruktuuria. Sen sijaan, että erillisiä työkaluja käytettäisiin tallennukseen, mallien käyttöönottoon ja orkestrointiin, toimittajat yhä useammin niputtavat ne yhtenäisiksi alustoiksi, jotka on suunniteltu:

• Laajamittaisille tekoälyn inferenssiklustereille
• Yritystason tekoälyagenteille
• Datakeskeisille tekoälyputkille

Huawein lähestymistapa keskittyy vahvasti tietoinfrastruktuuriin – se käsittelee tallennusta, vektorihakua, muistin välimuistitusta ja orkestrointia tekoälyn suorituskyvyn ydinelementteinä eikä toissijaisina osina.

Jos yritykset omaksuvat tämän arkkitehtuurin laajalti, alusta saattaa toimia tekoälyä hyödyntävien datakeskusten operatiivisena selkärankana, joka yhdistää raakadatan, tekoälymallit ja agenttijärjestelmät yhden pinon sisällä.