NVIDIAn Vera-suoritin haastaa Intelin ja AMD:n tekoälyn palvelinmarkkinoilla

NVIDIA sanoo, että suunnittelu priorisoi jatkuvaa suorituskykyä työkuormille, jotka ovat yleisiä nykyaikaisissa tekoälyjärjestelmissä – kuten agenttien orkestrointi, työkalujen suoritus ja suurten mittakaavojen päättelyputket.

Väitetyt suorituskykyedut x86-palvelimiin verrattuna

NVIDIA ja sitä tukevat raportit korostavat useita suorituskykyetuja verrattaessa Veraa perinteisiin rinnakkaisiin suorittimiin, joita käytetään näytönohjainten kanssa:

• Jopa 50 % nopeampi ohjelmistoympäristön suorituskyky, mikä vastaa noin 1,5-kertaista nopeusparannusta NVIDIAn sisäisissä vertailuarvoissa.
• Massiivinen muistikaista, jopa 1,2 TB/s, mikä auttaa pitämään näytönohjaimet syötettyinä tiedoilla.
• Korkeampi kaista ydintä kohden, analyytikoiden mukaan jopa kolme kertaa suurempi kuin monissa perinteisissä datakeskussuorittimissa.

Nämä hyödyt liittyvät läheisesti tekoälydata-keskusten nykyisiin työkuormiin. Puhtaiden tietokanta- tai yritystyökuormien sijaan nykyaikaiset tekoälyklusterit suorittavat kääntäjiä, skriptaustyökaluja, ajonaikaisia moottoreita ja agenttikehyksiä, jotka orkestroivat näytönohjainlaskentaa. NVIDIA väittää, että Veran arkkitehtuuri parantaa läpäisykykyä näissä ohjaussuunnitelman tehtävissä.

Yritys väittää myös parantunutta tehokkuutta sanoen, että Vera-pohjaiset järjestelmät voivat tarjota noin kaksinkertaisen energiatehokkuuden verrattuna perinteiseen CPU-infrastruktuuriin joissakin tekoälytyökuormissa.

Vera Rubin NVL72 -alusta: tason tekoälyjärjestelmä

Veraa ei ole tarkoitettu kilpailemaan ensisijaisesti itsenäisenä suorittimena. Sen päärooli on NVIDIAn Vera Rubin NVL72 -arkkitehtuurin sisällä, tason tekoälyjärjestelmässä, joka on suunniteltu suurten mallien koulutukseen ja päättelyyn.

Tässä kokoonpanossa:

• Yksi teline voi yhdistää 36 Vera-suoritinta ja 72 Rubin-näytönohjainta.
• Suorittimet ja näytönohjaimet kommunikoivat nopeiden NVLink-C2C-yhteyksien kautta, mikä mahdollistaa erittäin nopean tiedonjaon prosessorien välillä.

Tämä malli heijastaa NVIDIAn laajempaa pyrkimystä kohti täyden pinon tekoälyinfrastruktuuria, jossa suorittimet, näytönohjaimet, verkko ja ohjelmisto on suunniteltu yhdessä yhdeksi alustaksi useiden toimittajien sekoituksen sijaan.

Lähestymistapa eroaa perinteisestä datakeskusarkkitehtuurista, jossa näytönohjaimet liitetään yleisiin x86-palvelimiin PCIe-väylän kautta. Integroimalla suorittimen tiiviisti näytönohjainarkkitehtuuriin NVIDIA pyrkii poistamaan pullonkauloja tiedonsiirrossa ja orkestroinnissa.

Varhainen käyttöönotto hyperskaalaajilla ja OEM-valmistajilla

Useat pilvipalveluntarjoajat ja laitevalmistajat on jo nimetty kumppaneiksi, jotka suunnittelevat käyttöönottoja.

NVIDIAn ilmoitusten mukaan yhteistyökumppaneita ovat suuret hyperskaalaajat, kuten:

• Alibaba Cloud
• ByteDance
• Meta
• Oracle Cloud Infrastructure
• CoreWeave ja muut tekoälyn pilvialustat

Palvelinvalmistajia, jotka rakentavat Vera-pohjaisia järjestelmiä, ovat esimerkiksi Dell Technologies, HPE, Lenovo ja Supermicro, sekä valmistuskumppaneita, kuten ASUS, Foxconn ja Quanta Cloud Technology.

Tämä varhainen ekosysteemi viittaa siihen, että suoritin on tarkoitettu ensisijaisesti hyperskaalan tekoälyinfrastruktuuriin eikä perinteisiin yrityspalvelimiin.

Markkinaennusteet ja toimitusodotukset

Useat ennusteet korostavat, kuinka suureksi NVIDIA uskoo mahdollisuuden voivan kasvaa.

Yrityksen lausunnot ja analyytikkoraportit osoittavat:

• NVIDIAn johtajat sanovat, että Vera-suoritin avaa pääsyn 200 miljardin dollarin kokonaismarkkinoille, joilla yritys ei aiemmin kilpaillut.
• Yritys odottaa noin 20 miljardia dollaria tuloja Veraan liittyvistä suoritinmyynneistä kuluvalla tilikaudella, erillään näytönohjaintuloista.
• Jotkut analyytikot ennustavat noin 4 miljoonaa Vera-suoritinta toimitettavan tilivuoteen 2027 mennessä, mikä voisi tuottaa noin 20 miljardia dollaria myyntiä, jos toteutuu.

Nämä luvut perustuvat yrityksen kommentteihin ja ulkopuolisiin analyytikkomalleihin, joten niitä tulisi käsitellä tulevaisuuteen suuntautuvina ennusteina eikä taattuina tuloksina.

Mitä tämä tarkoittaa Intelille ja AMD:lle

Intel Xeon ja AMD EPYC -prosessorit hallitsevat edelleen palvelinsuoritinmarkkinoita, erityisesti yritysinfrastruktuurissa. Tekoälyn aikakausi on kuitenkin muuttanut suorittimien käyttöä datakeskuksissa.

Sen sijaan, että suorittimet suorittaisivat itse suurimman osan laskennasta, ne yhä useammin:

• Koordinoivat näytönohjainten työkuormia
• Hallinnoivat tietoputkia
• Suorittavat orkestrointiohjelmistoja ja agenttikehyksiä

Tämä muutos suosii arkkitehtuureja, jotka on optimoitu kaistanleveydelle ja näytönohjainten liitäntöihin perinteisen suorittimen suorituskyvyn sijaan. Vera on suunniteltu erityisesti tähän rooliin.

Jos alusta saavuttaa jalansijaa, se voi merkitä asteittaista siirtymistä yleiskäyttöisistä x86-palvelimista erikoistuneisiin Arm-pohjaisiin suorittimiin, jotka on tiiviisti integroitu tekoälykiihdyttimiin. NVIDIA hallitsisi tällöin suurempaa osaa datakeskuspinosta – suorittimesta näytönohjaimeen ja yhteyksiin – mikä saattaisi muokata tekoälyinfrastruktuurin rakennetta.

Se, heikentääkö Vera merkittävästi Intelin ja AMD:n valta-asemaa, riippuu todellisista käyttöönotoista ja suorituskyvystä. Arkkitehtuuri heijastaa kuitenkin selvästi suurta teollisuuden trendiä: tekoälydatakeskukset kehittyvät vertikaalisesti integroiduiksi laskenta-alustoiksi eikä vaihdettavien komponenttien kokoelmiksi.