GB300 NVL72:tä kuvataan "uudeksi päättelyn/koulutuksen työhevoseksi", ja sen markkinointi perustuu eksplisiittiseen kustannus per token -narratiiviin. Tämä heijastaa toimialan siirtymää kohti tekoälymallien operatiivista käyttöönottoa reaaliaikaisten sovellusten mittakaavassa . NVIDIAn tuotesivun mukaan se tarjoaa 1,5 kertaa tiheämpää FP4 Tensor Core FLOPS -tehoa ja kaksinkertaisen huomiosuorituskyvyn verrattuna NVIDIA Blackwell -näytönohjaimiin
.
Suurinopeuksinen verkottaminen on käyttöönoton peruspilari. NVIDIA GB300 NVL72 -järjestelmät liitetään toisiinsa NVIDIA Spectrum-X Ethernet -verkolla, joka on häviötön, suurikapasiteettinen Ethernet-ydin, joka on suunniteltu poistamaan pullonkaulat monisolmuisissa tekoälykuormissa .
Käyttöönotossa hyödynnetään 400GbE- ja 800GbE-yhdysliitäntöjä, optisia lähetinvastaanottimia, NVIDIA Spectrum-X Ethernet -kytkimiä ja SuperNICejä . Ilman tätä ydintä päättelyn skaalaaminen yritystason läpäisykykyyn aiheuttaisi lamaannuttavia viive- ja kaistanleveyspullonkauloja. NVIDIAn Enterprise Reference Architecture NVL72 AI Factorylle vahvistaa, että tämä kaksitasoinen verkkoarkkitehtuuri on suunniteltu tehostamaan yritysten tietokeskuksia tekoälyn koulutukseen ja päättelyyn massiivisessa mittakaavassa, mahdollistaen reaaliaikaiset sovellukset ja biljoonan parametrin mallit
.
Vaikka infrastruktuuri tukee sekä koulutusta että päättelyä , ilmoitus korostaa yritysten kasvavaa keskittymistä tekoälyn päättelyyn (tuotantokäyttöön) koulutuksen ohella. Useat signaalit viittaavat tähän muutokseen:
Johtopäätös on selvä: yritykset ovat siirtyneet kokeiluvaiheen ohi ja etsivät nyt infrastruktuuria, joka on optimoitu tekoälymallien käyttöönottoon tuotantoympäristöissä.
Vultr-kumppanuuden lisäksi HPE nosti esiin useita liittyviä aloitteita:
Vultrin valinta HPE:n ja NVIDIAn hyväksi merkitsee merkittävää käännekohtaa. Maailman suurimpana yksityisomisteisena hyperskaalapalveluna Vultr lyö vetoa siitä, että yritysasiakkaat tarvitsevat infrastruktuuria, joka pystyy käsittelemään sekä koulutusta että reaaliaikaista päättelyä pilvimittakaavassa. Yhdistämällä NVIDIAn räkkimittakaavaisen GPU-laskennan HPE:n tehdasarkkitehtuuriin, nestejäähdytykseen ja palveluihin, Vultr asemoituu palvelemaan seuraavaa yritysten tekoälykuormien aaltoa – mallien koulutuksesta tuotantopäättelyyn biljoonan parametrin malleilla.
Comments
0 comments