HP:n ZGX Fury tähtää tekoälypäättelyyn siellä, missä data syntyy

HP, Red Hat ja NVIDIA ovat ilmoittaneet suunnittelevansa avointa, yrityskäyttöön tarkoitettua AI-alustaa, joka laajentaa konesalien tekoälyarkkitehtuuria reunalle. Kokonaisuus yhdistää HP:n ZGX Fury -AI-työaseman sekä Red Hat AI Factory with NVIDIA -ratkaisun. Tavoitteena on ajaa tuotantokäytön päättelyä – eli valmiin mallin käyttöä – lähempänä ihmisiä, sovelluksia, koneita ja dataa. 213

ZGX Fury on laitteistopinon ydin

Alustan laitteistona toimii HP ZGX Fury, jonka pohjana on NVIDIAn GB300 Grace Blackwell Ultra Desktop Superchip. HP kertoo järjestelmän olevan suunniteltu tarjoamaan paikallisiin päättelytehtäviin jopa 20 PFLOPS:n FP4-AI-suorituskykyä. 14

Kyse ei HP:n mukaan ole vain yksittäisestä työasemasta. Yhtiö asemoi laitteiston ja ohjelmiston yhdistelmän alustaksi, jolla voidaan ajaa ja orkestroida useita AI-työkuormia keskitetyn konesalin ulkopuolella. Käyttöönotto voidaan suunnitella paikalliseen ympäristöön, pilveen tai näiden yhdistelmään. 15

Red Hat tuo hybridiympäristön hallintakerroksen

Red Hat AI Factory with NVIDIA toimii kokonaisuuden hybridi- ja pilviympäristöjen ohjelmisto- ja hallintakerroksena. Red Hat kuvaa sitä yhteisesti tuetuksi yritysratkaisuksi, jossa sen avoin hybridipilvialusta, AI-kehitysosaaminen ja yritystason operointi yhdistyvät NVIDIAn AI-ohjelmistoihin, malleihin, mikropalveluihin, verkkoteknologioihin ja kiihdytettyyn infrastruktuuriin. 12

HP:n suunnitelmassa kerroksen tehtävänä on auttaa organisaatioita ottamaan käyttöön ja hallitsemaan AI-malleja sekä sovelluksia reunakohteissa, konesaleissa ja pilvessä. Alustaa kuvataan avoimeksi ja virtualisoiduksi: työkuormien eristämisen ja operatiivisen hallinnan on tarkoitus mahdollistaa useiden AI-työkuormien ajaminen samalla järjestelmällä niin, että ne pysyvät erillään toisistaan. 813

Miksi päättelyä siirretään lähemmäs toimintaa?

Ratkaisun keskeinen ajatus on paikallinen tai reunalla tapahtuva päättely. Mallin pyyntöjä käsitellään siellä, missä data syntyy tai missä sitä käytetään, sen sijaan että kaikki käsittely tehtäisiin etänä pilvessä. HP nostaa tällaisen vaihtoehdon perusteiksi viiveen, tietosuojan, datan suvereniteetin ja verkkoyhteyksien rajoitteet. 8

Tämä voi olla olennaista ympäristöissä, joissa operatiivinen data on arkaluonteista, yhteydet ovat rajallisia tai vastaus tarvitaan nopeasti lähellä fyysistä prosessia. HP nosti esiin muun muassa seuraavat käyttötavat:

• Teollisuus, jossa malleja voidaan ajaa lähempänä koneita ja tuotantodataa.
• Ohjelmistokehitys, mukaan lukien osastokohtainen tai omissa tiloissa tapahtuva päättely ja AI-avusteiset työnkulut.
• Terveydenhuolto, jossa arkaluonteinen data voi olla tarpeen pitää lähempänä sen lähdettä.
• Julkishallinto, myös eristetyissä, niin sanotuissa air-gapped-ympäristöissä, joissa pilviyhteys voi olla sopimaton tai mahdoton. 58

Nämä ovat HP:n esiin nostamia käyttökohteita, eivät suorituskykylupauksia. Käytännön hyöty riippuu esimerkiksi mallien koosta, tiedonkäsittelyvaatimuksista, verkkoratkaisusta ja käytettävissä olevista hallintatyökaluista.

Saatavuus: mitä voi hankkia jo nyt, mikä on vielä suunnitteilla?

HP:n mukaan ZGX Fury on tilattavissa, ja sillä on Red Hat Enterprise Linux -sertifiointi. 48 ZGX Furyn ja Red Hat AI Factory with NVIDIA -ratkaisun muodostama laajempi kokonaisuus on kuitenkin julkistettu suunniteltuna alustana, ei vielä yleisesti saatavana täysin integroituna palveluna. 12

HP kertoi myös, että asiakkaat voivat arvioida yhdistelmää hiekkalaatikkoympäristössä HP-laitteilla, joissa ajetaan Red Hat AI Factory with NVIDIA -ratkaisua, ennen käyttötapausten viemistä tuotantoon. 2 Julkistuksessa ei annettu tarkkaa aloituspäivää, kelpoisuusehtoja tai teknistä kokoonpanoa tälle arviointiympäristölle.

Käytännön johtopäätös

HP pyrkii paketoimaan tehokkaan, omissa tiloissa käytettävän NVIDIA-laitteiston ja Red Hatin hallinnoiman hybridi-AI-ohjelmistopinon yhdeksi yritysratkaisuksi. Kiinnostavin osa ei yrityksille välttämättä ole pelkästään ilmoitettu 20 PFLOPS:n FP4-luku, vaan mahdollisuus ajaa tuotannon AI:ta lähempänä operatiivista dataa ja käyttää samalla yhdenmukaista käyttöönotto- ja hallintamallia reunalla, konesalissa ja pilvessä. 11213

Arvioinnissa on syytä erottaa jo saatavilla oleva ZGX Fury -laitteisto ja sen Red Hat Enterprise Linux -sertifiointi niistä osista, jotka ovat yhä suunnitteilla. Näihin kuuluvat integroitu alustakokonaisuus sekä ilmoitettu hiekkalaatikkopohjainen arviointipolku. 24