Nvidian Vera Rubin AI -alustasta voi tulla yhtiön historian suurin tuotelanseeraus

Alustan keskeinen osa on Nvidian uusi Vera-suoritin, joka korvaa aiemman Grace-suorittimen tulevissa tekoälyjärjestelmissä.

Vera-prosessori on rakennettu seuraavilla ominaisuuksilla:

• 88 Nvidian suunnittelemaa Arm-yhteensopivaa Olympus-ydintä
• LPDDR5X-muisti ja erittäin suuri muistikaistanleveys
• Nvidia Scalable Coherency Fabric tehokkaaseen tiedonsiirtoon järjestelmien välillä
• NVLink-C2C-yhteys suoraa nopeaa tiedonsiirtoa varten grafiikkapiirien kanssa

Siru on optimoitu syöttämään dataa suurille tekoälykiihdyttimille ja koordinoimaan työkuormia massiivisten grafiikkapiiriklustereiden välillä – sen sijaan, että se keskittyisi pelkästään yleiskäyttöiseen laskentaan.

Rubin-grafiikkapiirit ja NVLink 6: Tekoälyä telinekokoluokassa

Arkkitehtuurin grafiikkapiiripuoli esittelee Rubin-grafiikkapiirin, joka on Nvidian seuraaja Blackwell-sukupolvelle.

Keskeisiä edistysaskeleita ovat:

• HBM4-nopea muisti tekoälyn koulutusta ja päättelyä varten
• Uusi Transformer Engine, joka on optimoitu moderneille tekoälymalleille
• NVLink 6 -verkko, joka tarjoaa jopa 3,6 TB/s grafiikkapiirien välistä kaistanleveyttä per grafiikkapiiri

Nvidian mukaan Rubin-arkkitehtuuri kaksinkertaistaa edellisen Blackwell-sukupolven suorituskyvyn, mikä mahdollistaa huomattavasti suuremmat mallit ja nopeammat koulutusjärjestelmät.

Telinekokoluokan järjestelmässä, kuten Vera Rubin NVL72, yhdistyvät:

• 72 Rubin-grafiikkapiiriä
• 36 Vera-suoritinta
• ConnectX-9 SuperNICit
• BlueField-4 DPU:t

Tämä rakenne mahdollistaa satojen grafiikkapiirien toimimisen yhtenä tekoälyjärjestelmänä kehittyneiden mallien kouluttamiseen ja käyttöönottoon.

Taiwanin puolijohde- ja laitevalmistajien ekosysteemi on kriittinen

Huang korosti, että tällainen mittakaava ei olisi mahdollinen ilman Taiwanin laitteisto- ja puolijohde-ekosysteemiä.

Taiwanissa toimii monia yrityksiä, jotka vastaavat sirujen valmistuksesta, palvelinjärjestelmien kokoamisesta ja tekoälyinfrastruktuurissa käytettävien verkkokomponenttien rakentamisesta. Nvidia tekee tiivistä yhteistyötä näiden kumppaneiden kanssa, ja Huangilla oli vierailunsa aikana tapaamisia TSMC:n hallituksen puheenjohtaja C.C. Wein kanssa.

TSMC on erityisen tärkeä, koska se valmistaa alustan kehittyneet sirut. Nvidia on vahvistanut, että Vera Rubin -järjestelmä sisältää kuusi uutta TSMC:n valmistamaa sirua, ja alusta on jo siirtynyt täyteen tuotantoon.

Taiwan ei siis ole pelkkä toimittaja – se on se valmistuksen selkäranka, joka mahdollistaa Nvidian tekoälyjärjestelmien tuotannon maailmanlaajuisessa mittakaavassa.

Laajempi kuva: Tekoälyn infrastruktuurin rakentaminen

Se, mikä tekee Vera Rubinista mahdollisesti Nvidian suurimman lanseerauksen, ei ole pelkästään sen teknologia – se on sen rooli laajenevassa tekoälytaloudessa.

Sen sijaan, että Nvidia myisi erillisiä kiihdyttimiä, se toimittaa nyt kokonaisia tekoälytehtaita: telineitä, joissa on suorittimia, grafiikkapiirejä, verkko-ohjelmistoja ja ohjelmistoja, jotka on suunniteltu pyörittämään valtavia tekoälytyökuormia. Tämä lähestymistapa kasvattaa dramaattisesti jokaisen myydyn järjestelmän kokoa ja monimutkaisuutta.

Kun maailmanlaajuiset pilvipalvelujätit, yritykset ja tutkimuslaboratoriot rakentavat tekoälyinfrastruktuuria samanaikaisesti, Nvidia odottaa kysynnän näille integroiduille alustoille kasvavan nopeasti.

Jos kysyntä toteutuu, Vera Rubin voi edustaa yhtä historian suurimmista kehittyneiden laskentajärjestelmien käyttöönotoista.