AMD MI455X ja Helios: 432 gigatavun HBM4-kiihdytin 72 GPU:n tekoälyräkissä

AMD:n Hot Chips 2026 -julkistukset osoittivat, että Instinct MI400 -sarja on AMD:lle enemmän kuin uusi kiihdytinsukupolvi. Huippumalli MI455X toimii Helios-räkkitason alustan laskentayksikkönä. Helios yhdistää GPU:t, palvelinprosessorit, verkkoyhteydet ja ROCm-ohjelmiston avoimiin infrastruktuuristandardeihin perustuvaksi kokonaisuudeksi. Keskeinen laitteistoetu on muisti: yhdessä MI455X:ssä on 432 gigatavua HBM4-muistia, ja 72 GPU:n Helios-räkissä muistia on yhteensä 31 teratavua. 2310

MI455X on siruista koottu GPU tekoälyn muistikaistan tarpeisiin

MI455X käyttää AMD:n viidennen sukupolven CDNA-arkkitehtuuria. Laskentaosa koostuu kahdeksasta Accelerator Complex Die -sirusta eli XCD:stä, jotka valmistetaan TSMC:n N2-prosessilla. Fabric-, välimuisti- ja I/O-toiminnot on sijoitettu erillisille TSMC:n N3P-prosessilla valmistetuille siruille. AMD yhdistää nämä sirut 12 HBM4-muistipinoon TSMC:n CoWoS-L-paketointitekniikalla. 1721

Ratkaisu mahdollistaa kehittyneimmän valmistusprosessin kohdentamisen laskentapiireihin samalla, kun yhteydet, välimuisti ja I/O erotetaan omiksi siruikseen. Kyse ei siis ole vain tavallista suuremmasta yksittäisestä GPU-lastusta, vaan monisiruisesta järjestelmästä, joka on suunniteltu muistikaistan, valmistussaannon ja räkkitason yhteyksien ehdoilla.

Ydinar مت? No, architecture and execution model

AMD ilmoittaa MI455X:lle 256 Work Group Processor -yksikköä eli WGP:tä sekä 192 megatavua globaalia L2-välimuistia. CDNA 5 tuo matriisiytimille myös natiivin Wave32-suorituksen ja tuen nykyaikaisten tekoälykuormien käyttämiin matalan tarkkuuden lukumuotoihin. 320

Hot Chips -esityksestä tehdyissä raporteissa mainitaan lisäksi pienemmän viiveen polku transsendenttifunktioille, kuten eksponentti- ja logaritmilaskuille. Tällaisia operaatioita käytetään muun muassa neuroverkkojen attention-mekanismeissa, normalisoinnissa ja aktivaatiofunktioissa. Saatavilla olevat lähteet eivät kuitenkaan ilmoita mitattua viiveen pienenemistä, joten ominaisuutta ei pidä tulkita varmennetuksi suorituskykylupaukseksi.

MI455X:n keskeiset tekniset tiedot

• Laskenta-arkkitehtuuri: AMD CDNA 5
• Laskentasirut: kahdeksan XCD:tä TSMC:n N2-prosessilla 17
• Fabric, välimuisti ja I/O: N3P-prosessilla valmistetut sirut 17
• Paketointi: TSMC CoWoS-L 21
• Work Group Processor -yksiköt: 256 3
• Globaali L2-välimuisti: 192 Mt 3
• HBM4-muisti: 12 pinoa, yhteensä 432 Gt 317
• Huippumuistikaistanleveys: 23,3 TB/s 23
• Huippusuorituskyky OCP MXFP4 -muodossa: 40,26 PFLOPS eli AMD:n pyöristettynä noin 40,3 PFLOPS 319
• Huippusuorituskyky MXFP6-muodossa: 20,13 PFLOPS 319
• Huippusuorituskyky MXFP8-muodossa: 20,13 PFLOPS 319

Luvut ovat teoreettisia huippuarvoja, eivät taattua suorituskykyä todellisissa sovelluksissa. Käytännön tuloksiin vaikuttavat muun muassa käytetty lukutarkkuus, harvuuslaskenta, mallin rakenne, muistihakujen tehokkuus, ohjelmiston optimointi ja se, saadaanko kaikki laskentaresurssit pidettyä aktiivisina.

Miksi 432 gigatavua HBM4-muistia on tärkeää?

MI455X:n merkittävin ominaisuus ei välttämättä ole laskennan huippulukema vaan muistikapasiteetti. Kahdentoista HBM4-pinon ansiosta yksi kiihdytin tarjoaa 432 gigatavua muistia ja enintään 23,3 TB/s:n kaistanleveyden. 23

Suuri kapasiteetti antaa mallien painoille, aktivaatioille ja päättelyn tilatiedolle enemmän tilaa ennen kuin dataa on jaettava useiden kiihdyttimien kesken. Tämä on erityisen olennaista päättelyssä, jossa pitkät keskustelukontekstit ja samanaikaiset käyttäjäpyynnöt voivat kasvattaa avain-arvo-välimuistin eli KV-cachen nopeasti rajoittavaksi tekijäksi.

AMD tukee CDNA 5:ssä laajaa joukkoa lukumuotoja, kuten OCP MXFP4-, MXFP6- ja MXFP8-muotoja, OCP FP8:aa, BF16:ta, FP16:ta, TF32:ta, FP32:ta ja FP64:ää. Matalan tarkkuuden muodot on suunnattu tehokkaaseen tekoälyn koulutukseen ja päättelyyn, kun taas laajempi tuki pitää arkkitehtuurin käyttökelpoisena myös suurteholaskennassa ja sekakuormissa. 1820

Helios tekee MI455X:stä räkkitason järjestelmän

Helios sijoittaa kiihdyttimet 18 Open Rack Wide -linjauksen mukaiseen laskentakelkkaan. Jokaisessa kelkassa on neljä MI455X-GPU:ta, joten koko räkissä on yhteensä 72 GPU:ta. AMD ilmoittaa yhdelle räkkikokonaisuudelle seuraavat enimmäisarvot:

• 2,9 eksaflopsia FP4-laskentaa
• 1,4 eksaflopsia FP8-laskentaa
• 31 teratavua HBM4-muistia
• 1,7 petatavua sekunnissa HBM-muistikaistanleveyttä
• 260 TB/s skaalautuvan sisäisen yhteyden kaistanleveyttä
• 43 TB/s räkistä ulospäin suuntautuvaa kaistanleveyttä 21051

Helioksen arvo ei synny vain 72 GPU:n suorituskykylukujen kertomisesta. Järjestelmä on suunniteltu yhdeksi skaalautuvaksi verkkotunnukseksi, jossa kiihdyttimien välinen liikenne on arkkitehtuurin keskiössä eikä erillisten palvelinten väliin jälkikäteen lisätty ominaisuus. AMD käyttää sisäisiin yhteyksiin Ethernetin päällä toimivaa UALink-ratkaisua ja räkistä ulospäin Ethernet-pohjaista verkkotekniikkaa. 1012

Prosessorit, laskentakelkat ja verkkoyhteydet

Jokainen neljän GPU:n laskentakelkka yhdistyy AMD EPYC ”Venice” -isäntäprosessoriin. Hot Chips -järjestelmäarkkitehtuuria käsittelevissä raporteissa alustaksi mainitaan SP7-kantainen EPYC 9006, ja AMD kuvaa Helioksen yhdistävän kuudennen sukupolven EPYC 9006 -sarjan prosessorit, MI455X-GPU:t ja Pensando-verkkotekniikan. 71014

Pensando Vulcano -tekoälyverkkokortit tarjoavat 800 Gb/s Ethernet-yhteyden räkistä ulospäin suuntautuvalle liikenteelle. AMD:n Helios-materiaalien mukaan Vulcano-pohjainen ratkaisu voi tarjota yhdelle GPU:lle enintään 2,4 Tb/s:n ulkoisen verkkokaistanleveyden. 47

Työnjako on selkeä: GPU vastaa matriisi- ja vektorilaskennasta, EPYC-prosessori isäntä- ja ohjaustason tehtävistä, ja verkkokudos siirtää dataa räkissä sekä sen ulkopuolella. Helios on siten yhteissuunniteltu laskentajärjestelmä, ei kokoelma samanlaisia kiihdytinkortteja.

Open Rack Wide ja ROCm ovat osa strategiaa

AMD linjaa Helioksen Metan Open Rack Wide -lähestymistavan ja laajemmin Open Compute Projectin räkkistandardien kanssa. Yhtiö käyttää lisäksi UALinkia ja Ethernet-pohjaisia yhteyksiä sen sijaan, että esittäisi räkkiä suljettuna, yksinomaan omiin liitäntöihin perustuvana järjestelmänä. 4749

Standardipohjainen lähestymistapa tukee AMD:n tavoitetta tarjota asiakkaille suuria tekoälyjärjestelmiä yhteensopivista komponenteista. AMD:n kokonaisuus sisältää seuraavat osat:

• Instinct MI455X: matriisi- ja vektorilaskenta
• EPYC Venice: isäntä- ja ohjaustason laskenta
• Pensando Vulcano: räkistä ulospäin suuntautuva verkkoliikenne
• UALink Ethernetin päällä: GPU:iden välinen skaalautuva yhteys
• ROCm: ohjelmistoympäristö, jonka tarkoitus on tarjota vaihtoehto CUDA-riippuvaiselle infrastruktuurille 1018

ROCm ei yksin poista GPU-alustan vaihtamiseen liittyvää suunnittelutyötä. Ytimien, kirjastojen, kääntäjien, mallikehysten ja tuotantotyökalujen tuki ratkaisee, kuinka helposti työkuormat siirtyvät alustalta toiselle. Strateginen merkitys on siinä, että AMD pyrkii tarjoamaan suuren tekoälyklusterin koko laitteisto- ja ohjelmistoperustan eikä kilpaile vain yksittäisen kiihdyttimen teknisillä tiedoilla.

Aikataulu on tavoite, ei todiste laajasta saatavuudesta

AMD on kertonut Helioksen siirtyvän tuotantoon ja toimitusten alkavan vuoden 2026 jälkipuoliskolla. 449 Tämä kuvaa AMD:n tuotanto- ja toimitusaikataulua. Sen perusteella ei kuitenkaan voi päätellä, että alusta olisi jo laajasti asennettuna tai että kaikki ilmoitetut räkkikokoonpanot olisivat saatavilla suurina määrinä.

Microsoft on erikseen ilmoittanut aikovansa ottaa Helioksen käyttöön Azure-pilvipalvelussa raja-alueen mallien päättelyä varten. Tämä tarjoaa alustalle nimetyn pilvikäyttöönoton, mutta asiakassuunnitelma ei ole sama asia kuin riippumattomasti mitattu tuotantotulos. 5456

Versal Premium Gen 2 laajentaa AMD:n suunnitelmaa konesalien ulkopuolelle

AMD esitteli Hot Chipsissä myös Versal Premium Gen 2 -adaptiivisia SoC-piirejä, jotka palvelevat eri käyttötarkoitusta kuin MI455X. Ne on suunnattu dataintensiivisiin ja viiveherkkiin sovelluksiin, kuten fyysiseen tekoälyyn, verkkolaitteisiin, testaukseen ja mittaukseen, ammattilaistason videotuotantoon, ilmailu- ja puolustustekniikkaan sekä muihin kriittisiin järjestelmiin. 313638

Memory-on-Package-versiot sisältävät enintään 32 gigatavua LPDDR5X-muistia suoraan paketissa. AMD ilmoittaa ennakoiduksi kaistanleveydestä enintään 288 GB/s ja väittää piirilevyalan voivan pienentyä jopa 60 prosenttia verrattuna ulkoiseen muistiin perustuviin ratkaisuihin. 3641

Versal Premium Gen 2 -perheen virallisissa tuotetiedoissa mainitaan lisäksi kiinteät PCIe Gen6- ja CXL 3.1 -liitännät sekä LPDDR5X- ja DDR5-muistituki. 374042

Osa Hot Chips -raportoinnista käsittelee PCIe Gen7 -valmiita lähetin-vastaanottimia ja postkvanttikryptografiaa alustan laajempien ominaisuuksien yhteydessä. Tämän aineiston viralliset tuotemateriaalit vahvistavat kuitenkin PCIe Gen6:n, CXL 3.1:n ja muun muassa PCIe Integrity and Data Encryption -suojausominaisuuden, mutta eivät vahvista PCIe Gen7:ää tai laitteistotason postkvanttikryptografiaa jokaisen Memory-on-Package-laitteen ominaisuudeksi. 373940

Yhteenveto

MI455X:n tärkeimmät luvut — 432 gigatavua HBM4-muistia, 23,3 TB/s:n kaistanleveys ja 40,26 PFLOPSia MXFP4-muodossa — ovat merkityksellisiä ennen kaikkea siksi, että ne tukevat AMD:n suurempaa järjestelmäsuunnitelmaa. Helios kokoaa 72 tällaista kiihdytintä räkiksi, jossa on 31 teratavua HBM4-muistia, eksaflops-luokan matalan tarkkuuden laskentaa, nopeat sisäiset yhteydet, EPYC-isäntäprosessorit ja Pensando-verkkotekniikka.

AMD:n kilpailuvaltti on siis yhtä paljon arkkitehtuurinen kuin numeerinen: GPU:n, muistin, yhteyskudoksen, isäntäprosessorin, verkkokortin, räkin ja ohjelmistopinon pitäisi toimia yhtenä avoimiin standardeihin nojaavana alustana. Se, muuttuuko tämä kilpailukykyiseksi tuotantosuorituskyvyksi, riippuu lopulta todellisista työkuormista, ohjelmistojen kypsyydestä, saatavuudesta ja toimitusten mittakaavasta — ei pelkistä huippuarvoista.