AMD MI455X en Helios: 432 GB HBM4 in een AI-rack met 72 GPU's

AMD presenteerde de Instinct MI400-serie op Hot Chips 2026 niet alleen als een nieuwe generatie accelerators. De vlaggenschip-GPU MI455X vormt het rekenblok van Helios: een rack-scale AI-platform waarin GPU's, hostprocessors, netwerkchips en ROCm-software als één geheel samenwerken. De opvallendste specificatie is het geheugen: één MI455X beschikt over 432 GB HBM4, terwijl een Helios-rack met 72 GPU's uitkomt op 31 TB HBM4. 2310

MI455X: een chiplet-GPU voor de geheugendruk van AI

De MI455X is gebaseerd op AMD's vijfde generatie CDNA-architectuur. Het rekengedeelte bestaat uit acht Accelerator Complex Dies (XCD's) op TSMC's N2-proces. De dies voor fabric, cache en I/O worden op TSMC's N3P-proces gemaakt. AMD combineert deze chiplets met twaalf HBM4-stacks in een TSMC CoWoS-L-package. 1721

Die opbouw maakt het mogelijk om het meest geavanceerde productieproces vooral voor de rekenchiplets te gebruiken, terwijl fabric-, cache- en I/O-functies over aparte dies worden verdeeld. De MI455X is daarmee geen simpelweg grotere monolithische GPU, maar een multi-die-systeem dat is ontworpen rond bandbreedte, productieopbrengst en verbindingen op rackniveau.

Architectuur en uitvoeringsmodel

AMD specificeert 256 Work Group Processors (WGP's) en 192 MB globale L2-cache voor de MI455X. CDNA 5 ondersteunt daarnaast matrixberekeningen met native Wave32-executie en de lageprecisieformaten die veel moderne AI-workloads gebruiken. 320

De beschikbare Hot Chips-informatie beschrijft ook een pad met lagere latentie voor transcendente functies, zoals exponentiële en logaritmische berekeningen. Zulke bewerkingen komen onder meer voor bij attention, normalisatie en activatiefuncties in neurale netwerken. De bronnen leveren echter geen gekwantificeerde latentiewinst. Daarom moet deze functie niet worden opgevat als een gemeten prestatieclaim.

MI455X in het kort

• Compute-architectuur: AMD CDNA 5
• Compute-chiplets: acht XCD's op TSMC N2 17
• Fabric, cache en I/O: chiplets op N3P 17
• Packaging: TSMC CoWoS-L 21
• Work Group Processors: 256 3
• Globale L2-cache: 192 MB 3
• HBM4: twaalf stacks, samen 432 GB 317
• Maximale geheugenbandbreedte: 23,3 TB/s 23
• Maximale OCP MXFP4-prestaties: 40,26 PFLOPS, door AMD afgerond op ongeveer 40,3 PFLOPS 319
• Maximale MXFP6-prestaties: 20,13 PFLOPS 319
• Maximale MXFP8-prestaties: 20,13 PFLOPS 319

Dit zijn theoretische piekwaarden, geen garantie voor de doorvoer in echte toepassingen. De uiteindelijke prestaties hangen af van onder meer de gebruikte precisie, sparsity, modelarchitectuur, geheugentoegang, software-optimalisatie en de mate waarin een workload alle rekeneenheden bezet houdt.

Waarom 432 GB HBM4 belangrijk is

De belangrijkste MI455X-specificatie kan uiteindelijk het geheugen zijn, niet het theoretische rekenvermogen. Twaalf HBM4-stacks leveren 432 GB per accelerator en maximaal 23,3 TB/s bandbreedte. 23

Daardoor kunnen grote modellen, activaties en inferentiestatus langer op één accelerator blijven staan voordat gegevens over extra GPU's moeten worden verdeeld. Dat is vooral relevant voor inferentie. Langere contextvensters en veel gelijktijdige verzoeken kunnen de capaciteit van de key-value-cache (KV-cache) tot een knelpunt maken.

CDNA 5 ondersteunt verschillende datatypes, waaronder OCP MXFP4, MXFP6, MXFP8, OCP FP8, BF16, FP16, TF32, FP32 en FP64. De lageprecisieformaten zijn gericht op efficiënte AI-training en -inferentie, terwijl de bredere ondersteuning de architectuur ook geschikt moet maken voor HPC en gemengde workloads. 1820

Helios maakt van de MI455X een racksysteem

Een Helios-rack bestaat uit 18 compute-trays die zijn afgestemd op Open Rack Wide. Elk tray bevat vier MI455X-GPU's, goed voor 72 GPU's in totaal. AMD noemt voor het volledige rack de volgende maximale waarden:

• 2,9 exaflops FP4-berekeningen
• 1,4 exaflops FP8-berekeningen
• 31 TB totale HBM4-capaciteit
• 1,7 PB/s totale HBM-bandbreedte
• 260 TB/s scale-up-bandbreedte
• 43 TB/s scale-out-bandbreedte 21051

De waarde van het rack zit niet alleen in het vermenigvuldigen van de specificaties van 72 GPU's. Helios is bedoeld als één scale-up-domein. Daardoor wordt communicatie tussen accelerators een centraal onderdeel van het ontwerp, in plaats van een taak die achteraf door losse servers moet worden afgehandeld. AMD gebruikt UALink via Ethernet voor scale-up-verbindingen en Ethernet-gebaseerde netwerken voor scale-out. 1012

CPU's, trays en netwerk

Aan elk tray met vier GPU's wordt een AMD EPYC-processor uit de serie “Venice” gekoppeld. Verslaggeving over de Hot Chips-systeemarchitectuur noemt het hostplatform EPYC 9006 op SP7. AMD beschrijft Helios als een combinatie van zesde generatie EPYC 9006-processors, MI455X-GPU's en Pensando-netwerktechnologie. 71014

Pensando Vulcano AI-NIC's leveren Ethernetconnectiviteit van 800 Gbps voor scale-out-verkeer. In de Helios-documentatie van AMD wordt voor het Vulcano-ontwerp tot 2,4 Tbps scale-out-bandbreedte per GPU genoemd. 47

De taakverdeling is daarbij belangrijk: de GPU voert matrix- en vectorberekeningen uit, de EPYC-processor verzorgt host- en controletaken en het netwerk verplaatst gegevens binnen en buiten het rack. Helios is daardoor een gezamenlijk ontworpen computersysteem, geen verzameling identieke acceleratorkaarten.

Open Rack Wide en de ROCm-strategie

AMD stemt Helios af op Meta's Open Rack Wide-aanpak en bredere rackstandaarden van het Open Compute Project (OCP). Ook gebruikt het bedrijf UALink en Ethernet-gebaseerde verbindingen, in plaats van het rack als een volledig gesloten, propriëtair systeem te presenteren. 4749

Met deze standaarden wil AMD aantonen dat klanten grote AI-systemen kunnen samenstellen uit onderling compatibele componenten. De voorgestelde stack bestaat uit:

• Instinct MI455X: matrix- en vectorversnelling
• EPYC Venice: host- en controlevlakberekeningen
• Pensando Vulcano: scale-out-netwerk
• UALink via Ethernet: scale-up-verbindingen
• ROCm: de softwareomgeving die een alternatief moet bieden voor infrastructuur die sterk afhankelijk is van CUDA 1018

ROCm neemt het ontwikkelwerk bij een overstap naar een ander GPU-platform niet volledig weg. Kernelondersteuning, bibliotheken, compilers, model frameworks en productietools bepalen nog altijd hoe eenvoudig een workload kan worden overgezet. De strategische inzet is vooral dat AMD de volledige hardware- en softwarebasis wil leveren om een groot AI-cluster te bouwen, in plaats van uitsluitend met GPU-specificaties te concurreren.

Planning voor implementatie: een doelstelling, geen bewijs van brede beschikbaarheid

AMD heeft gezegd dat Helios in productie gaat en dat implementaties in de tweede helft van 2026 beginnen. 449 Die uitspraak beschrijft de productie- en implementatieplanning van AMD. Ze bewijst niet dat het platform al breed is geïnstalleerd of dat elke genoemde rackconfiguratie direct op grote schaal beschikbaar is.

Microsoft heeft afzonderlijk plannen aangekondigd om Helios op Azure in te zetten voor inferentie van frontiermodellen. Daarmee is er een concreet aangekondigd cloudpad voor het platform. 5456 Net als AMD's prestatiewaarden zijn plannen voor klantimplementaties geen vervanging voor onafhankelijk gemeten resultaten in productie.

Versal Premium Gen 2: AMD's strategie gaat verder dan datacenter-GPU's

Tijdens Hot Chips presenteerde AMD ook Versal Premium Gen 2 adaptive SoC's. Die producten richten zich op een ander deel van de markt: datarijke en latentiegevoelige toepassingen zoals physical AI, netwerken, test- en meetapparatuur, professionele video, lucht- en ruimtevaart, defensie en andere bedrijfskritische systemen. 313638

De Memory-on-Package-versies integreren maximaal 32 GB LPDDR5X rechtstreeks in het package. AMD specificeert een geprojecteerde bandbreedte tot 288 GB/s en claimt tot 60 procent minder boardoppervlak ten opzichte van ontwerpen met extern geheugen. 3641

Voor de bredere Versal Premium Gen 2-familie noemt AMD's officiële documentatie hardened PCIe Gen6- en CXL 3.1-interfaces, naast ondersteuning voor LPDDR5X en DDR5. 374042

Sommige berichtgeving over Hot Chips noemt transceivers die PCIe Gen7 aankunnen en post-kwantumcryptografie als onderdeel van bredere platformmogelijkheden. De beschikbare officiële productinformatie bevestigt PCIe Gen6, CXL 3.1 en beveiligingsfuncties zoals PCIe Integrity and Data Encryption, maar bevestigt PCIe Gen7 of geharde post-kwantumcryptografie niet als specificaties voor iedere Memory-on-Package-chip. 373940

De belangrijkste conclusie

De kerncijfers van de MI455X — 432 GB HBM4, 23,3 TB/s bandbreedte en 40,26 PFLOPS MXFP4 — zijn vooral belangrijk omdat ze AMD's grotere systeemontwerp ondersteunen. Helios plaatst 72 van deze accelerators in één rack met 31 TB HBM4, exaflop-klasse lageprecisieprestaties, snelle scale-up-verbindingen, EPYC-hostprocessors en Pensando-netwerkchips.

AMD's concurrentiestrategie draait daarmee niet alleen om hogere getallen. Het bedrijf probeert GPU, geheugen, fabric, hostprocessor, NIC, rack en software als één platform op basis van open standaarden te laten samenwerken. Of dat in productie ook tot concurrerende prestaties leidt, zal afhangen van echte workloads, softwarevolwassenheid, levering en de schaal van implementaties — niet van piekspecificaties alleen.