AMD MI455X og Helios: 432 GB HBM4 i en AI-rack med 72 GPU-er

AMD presenterte Instinct MI400-familien på Hot Chips 2026 som mer enn en ny generasjon AI-akseleratorer. Toppmodellen MI455X er selve regneenheten i Helios – en rackplattform som samler GPU-er, verts-CPU-er, nettverk og ROCm-programvare i en åpen, standardbasert infrastruktur. Den viktigste maskinvareegenskapen er minnet: Hver MI455X har 432 GB HBM4, mens en Helios-rack med 72 GPU-er får totalt 31 TB HBM4. 2310

MI455X: en chiplet-GPU for minnekrevende AI

MI455X bruker AMDs femte generasjon CDNA-arkitektur. Regnedelen består av åtte Accelerator Complex Dies (XCD-er) produsert på TSMC N2, mens brikker for fabric, cache og I/O produseres på TSMC N3P. AMD setter sammen chiplet-enhetene med 12 HBM4-stakker i en TSMC CoWoS-L-pakke. 1721

Denne oppdelingen gjør at AMD kan bruke den mest avanserte produksjonsprosessen der den gir størst utslag – i selve regnebrikkene – samtidig som fabric, cache og I/O håndteres av separate chiplets. MI455X er dermed ikke bare en større monolittisk GPU, men et flerdiesystem bygget rundt båndbredde, produksjonsutbytte og tilkobling på racknivå.

Arkitektur og kjøringsmodell

AMD oppgir 256 Work Group Processors (WGP-er) og 192 MB global L2-cache for MI455X. CDNA 5 introduserer også matrisekjernestøtte for native Wave32-kjøring, i tillegg til støtte for presisjonsnivåene som brukes i moderne AI-arbeidslaster. 320

Presentasjonen fra Hot Chips beskriver dessuten en bane med lavere latenstid for transcendente funksjoner, som eksponential- og logaritmeberegninger. Slike operasjoner inngår blant annet i attention, normalisering og aktiveringsfunksjoner i nevrale nettverk. Kildene som er tilgjengelige, oppgir imidlertid ingen målt reduksjon i latenstid. Funksjonen bør derfor ikke tolkes som et tallfestet ytelsesløfte.

MI455X-spesifikasjoner

• Arkitektur: AMD CDNA 5
• Compute-chiplets: Åtte XCD-er på TSMC N2 17
• Fabric, cache og I/O: Chiplets på N3P 17
• Kapsling: TSMC CoWoS-L 21
• Work Group Processors: 256 3
• Global L2-cache: 192 MB 3
• HBM4: 12 stakker, totalt 432 GB 317
• Maksimal minnebåndbredde: 23,3 TB/s 23
• Maksimal OCP MXFP4-ytelse: 40,26 PFLOPS, oppgitt av AMD som cirka 40,3 PFLOPS 319
• Maksimal MXFP6-ytelse: 20,13 PFLOPS 319
• Maksimal MXFP8-ytelse: 20,13 PFLOPS 319

Dette er teoretiske toppverdier, ikke garantert ytelse i praktiske programmer. Resultatet avhenger blant annet av presisjon, sparsitet, modellarkitektur, minnetilgang, programvarestøtte og hvor godt arbeidslasten klarer å holde alle regneressursene opptatt.

Hvorfor 432 GB HBM4 er viktig

Den mest betydningsfulle MI455X-spesifikasjonen kan være minnekapasiteten, ikke tallet på databladets første linje. Tolv HBM4-stakker gir 432 GB per akselerator og opptil 23,3 TB/s båndbredde. 23

For store modeller betyr det mer plass til modellvekter, aktiveringer og tilstand under inferens – blant annet key-value-cache (KV-cache) – før data må fordeles på flere akseleratorer. Dette er særlig relevant for inferens, der lange kontekstvinduer og mange samtidige forespørsler kan gjøre KV-cache til en flaskehals.

AMD støtter en bred portefølje av CDNA 5-datatyper, blant annet OCP MXFP4, MXFP6, MXFP8, OCP FP8, BF16, FP16, TF32, FP32 og FP64. Lavpresisjonsformatene er rettet mot effektiv trening og inferens, mens den bredere formatstøtten gjør arkitekturen aktuell også for HPC og blandede arbeidslaster. 1820

Helios gjør MI455X til et system på racknivå

Helios organiserer akseleratorene i 18 compute-skuffer på linje med Open Rack Wide-standarden. Hver skuff har fire MI455X-GPU-er, altså 72 GPU-er totalt. AMD oppgir følgende maksimale rackverdier:

• 2,9 exaflops FP4-ytelse
• 1,4 exaflops FP8-ytelse
• 31 TB samlet HBM4-kapasitet
• 1,7 PB/s samlet HBM-båndbredde
• 260 TB/s scale-up-båndbredde
• 43 TB/s scale-out-båndbredde 21051

Verdien i Helios ligger ikke bare i å gange én GPUs spesifikasjoner med 72. Plattformen er utformet som ett samlet scale-up-domene. Kommunikasjonen mellom akseleratorene blir dermed en sentral del av arkitekturen, i stedet for noe som overlates til separate servere. AMD bruker UALink over Ethernet for scale-up-tilkobling og Ethernet-basert nettverk for scale-out. 1012

CPU-er, skuffer og nettverk

Hver skuff med fire GPU-er kobles til en AMD EPYC «Venice»-vertsprosessor. Rapporteringen om Hot Chips-arkitekturen identifiserer plattformen som EPYC 9006 på SP7, mens AMD beskriver Helios som en kombinasjon av sjette generasjon EPYC 9006-serieprosessorer, MI455X-GPU-er og Pensando-nettverk. 71014

Pensando Vulcano AI-NIC-er sørger for Ethernet-tilkobling på 800 Gbit/s for scale-out-trafikk. I Helios-materialet oppgir AMD opptil 2,4 Tbit/s scale-out-båndbredde per GPU i Vulcano-konfigurasjonen. 47

Arbeidsfordelingen er viktig: GPU-en håndterer matrise- og vektorberegninger, EPYC-prosessoren tar verts- og kontrolloppgaver, og nettverkslaget flytter data internt i racket og videre ut i klyngen. Helios er derfor et samutviklet beregningssystem, ikke bare en samling identiske akseleratorkort.

Open Rack Wide og ROCm

AMD tilpasser Helios til Metas Open Rack Wide-tilnærming og bredere rackstandarder fra Open Compute Project (OCP). Selskapet bruker også UALink og Ethernet-baserte nettverk, i stedet for å presentere racket som et lukket, proprietært system. 4749

Standardtilnærmingen støtter AMDs argument om at kundene skal kunne sette sammen store AI-systemer av komponenter som kan fungere sammen. I AMDs modell består stakken av:

• Instinct MI455X: Matrise- og vektorakselerasjon
• EPYC Venice: Beregning for vertssystem og kontrollplan
• Pensando Vulcano: Nettverk for scale-out
• UALink over Ethernet: Tilkobling mellom akseleratorene
• ROCm: Programvaremiljøet som skal tilby et alternativ til CUDA-avhengig infrastruktur 1018

ROCm fjerner ikke i seg selv alt utviklingsarbeid ved flytting av programvare mellom GPU-plattformer. Kjernestøtte, biblioteker, kompilatorer, modellrammeverk og verktøy for produksjonsdrift avgjør fortsatt hvor enkelt en arbeidslast kan flyttes. Det strategiske poenget er at AMD forsøker å levere hele maskinvare- og programvaregrunnlaget for en stor AI-klynge, i stedet for å konkurrere kun på enkeltstående akseleratorspesifikasjoner.

Leveranser i andre halvår 2026: et mål, ikke dokumentasjon på bred tilgjengelighet

AMD har sagt at Helios er på vei inn i produksjon, med leveranser som skal begynne i andre halvår 2026. 449 Dette beskriver AMDs produksjons- og leveranseplan. Det er ikke det samme som dokumentasjon på at plattformen allerede er bredt installert, eller at alle rackkonfigurasjoner er tilgjengelige i stort volum.

Microsoft har separat kunngjort planer om å ta Helios i bruk i Azure for inferens av avanserte («frontier») modeller. Det gir plattformen en navngitt skyleveranse, men kundeplaner er ikke det samme som uavhengig målte resultater fra produksjonsdrift. 5456

Versal Premium Gen 2 utvider strategien utenfor datasenter-GPU-er

AMD viste også frem Versal Premium Gen 2 adaptive SoC-er på Hot Chips. Disse produktene retter seg mot en annen del av markedet, med dataintensive og latenstidsfølsomme bruksområder som fysisk AI, nettverk, test og måling, profesjonell video, romfart og forsvar samt andre virksomhetskritiske systemer. 313638

Memory-on-Package-versjonene integrerer opptil 32 GB LPDDR5X direkte i pakken. AMD oppgir opptil 288 GB/s beregnet båndbredde og hevder at løsningen kan redusere kretskortarealet med opptil 60 prosent sammenlignet med design med eksternt minne. 3641

For Versal Premium Gen 2-familien oppgir AMDs offisielle spesifikasjoner PCIe Gen6- og CXL 3.1-grensesnitt, i tillegg til støtte for LPDDR5X og DDR5. 374042

Noe Hot Chips-rapportering omtaler PCIe Gen7-klare transceivere og postkvantekryptografi i forbindelse med plattformens bredere funksjonalitet. Det autoritative produktmaterialet som er tilgjengelig her, bekrefter PCIe Gen6, CXL 3.1 og sikkerhetsfunksjoner som PCIe Integrity and Data Encryption. Det bekrefter derimot ikke PCIe Gen7 eller maskinvarebasert postkvantekryptografi som spesifikasjoner for alle Memory-on-Package-enheter. 373940

Hovedpoenget

MI455X-tallene – 432 GB HBM4, 23,3 TB/s båndbredde og 40,26 PFLOPS MXFP4 – er viktige fordi de inngår i en større systemdesign. Helios plasserer 72 slike akseleratorer i én rack med 31 TB HBM4, exaflops-ytelse i lavpresisjonsformat, raske scale-up-forbindelser, EPYC-vertsprosessorer og Pensando-nettverk.

AMD satser derfor like mye på arkitektur som på rå tall: GPU, minne, fabric, vertsprosessor, nettverkskort, rack og programvarestakk skal fungere som én plattform basert på åpne standarder. Om dette faktisk gir konkurransedyktig ytelse i produksjon, vil avhenge av virkelige arbeidslaster, programvaremodenhet, tilgang på komponenter og hvor raskt systemene kan bygges ut – ikke av toppspesifikasjonene alene.