AMD MI455X och Helios: insidan av GPU:n med 432 GB HBM4

AMD:s presentationer vid Hot Chips 2026 visar att Instinct MI400-serien är tänkt som mer än en ny generation AI-acceleratorer. Toppmodellen MI455X är beräkningsmotorn i Helios – en rackskalig plattform där GPU:er, värdprocessorer, nätverk och ROCm-mjukvara samverkar i en infrastruktur byggd kring öppna standarder. Den stora hårdvarunyheten är minnet: varje MI455X har 432 GB HBM4, medan en Helios-rack med 72 GPU:er når 31 TB samlad HBM4-kapacitet. 2310

MI455X: en chiplet-GPU för AI-modellernas minnestryck

MI455X använder AMD:s femte generation av CDNA-arkitekturen. Beräkningsdelen består av åtta Accelerator Complex Dies (XCD) tillverkade på TSMC:s N2-process, medan chiplet för fabric, cache och I/O använder TSMC:s N3P-process. AMD kombinerar chiplet-designen med tolv HBM4-stackar i ett TSMC CoWoS-L-paket. 1721

Det gör konstruktionen till mer än en större traditionell GPU. AMD kan använda den mest avancerade processtekniken där beräkningarna sker och separera fabric-, cache- och I/O-funktionerna i andra chiplet. Resultatet är ett paket som är utformat kring bandbredd, tillverkningsutbyte och anslutning mellan GPU:er i stora system.

Arkitektur och beräkningsmodell

AMD anger 256 Work Group Processors (WGP) och 192 MB global L2-cache för MI455X. CDNA 5 introducerar också stöd för matrisberäkningar med inbyggd Wave32-exekvering samt stöd för de lågprecisionsformat som används i moderna AI-arbetslaster. 320

Hot Chips-materialet beskriver dessutom en väg med lägre latens för transcendenta funktioner som exponential- och logaritmberäkningar. Sådana operationer förekommer bland annat i attention, normalisering och aktiveringsfunktioner i neurala nätverk. De tillgängliga källorna anger dock ingen uppmätt latensminskning, så funktionen bör inte tolkas som ett kvantifierat prestandalöfte.

MI455X i korthet

• Beräkningsarkitektur: AMD CDNA 5
• Beräkningschiplet: Åtta XCD på TSMC N2 17
• Fabric, cache och I/O: Chiplet på N3P 17
• Kapsling: TSMC CoWoS-L 21
• Work Group Processors: 256 3
• Global L2-cache: 192 MB 3
• HBM4: Tolv stackar, totalt 432 GB 317
• Maximal minnesbandbredd: 23,3 TB/s 23
• Maximal OCP MXFP4-prestanda: 40,26 PFLOPS, avrundat av AMD till cirka 40,3 PFLOPS 319
• Maximal MXFP6-prestanda: 20,13 PFLOPS 319
• Maximal MXFP8-prestanda: 20,13 PFLOPS 319

Det här är teoretiska toppvärden, inte garanterad prestanda i verkliga program. Utfallet beror bland annat på precision, gleshet i beräkningarna, modellarkitektur, minnesåtkomst, mjukvarans optimering och om arbetslasten kan hålla alla beräkningsresurser upptagna.

Varför 432 GB HBM4 är viktigt

Den mest betydelsefulla specifikationen kan vara minneskapaciteten snarare än den högsta beräkningshastigheten. Tolv HBM4-stackar ger 432 GB per accelerator och upp till 23,3 TB/s bandbredd. 23

Det ger stora modeller mer utrymme för vikter, aktiveringar och inferenstillstånd – inklusive KV-cache – innan data måste fördelas över ytterligare acceleratorer. För inferens är detta särskilt relevant: längre kontextfönster och fler samtidiga förfrågningar kan snabbt göra KV-cache till en flaskhals.

CDNA 5 stöder bland annat OCP MXFP4, MXFP6, MXFP8, OCP FP8, BF16, FP16, TF32, FP32 och FP64. Lågprecision är inriktad på effektiv AI-träning och inferens, medan det bredare formatstödet gör arkitekturen användbar även för HPC och blandade arbetslaster. 1820

Helios gör MI455X till ett rackskaligt system

Helios organiserar acceleratorerna i 18 beräkningsslädar som följer Open Rack Wide-formatet. Varje släde har fyra MI455X-GPU:er, vilket ger totalt 72 GPU:er. AMD anger följande maximala värden för hela racket:

• 2,9 exaflops FP4-beräkning
• 1,4 exaflops FP8-beräkning
• 31 TB samlad HBM4-kapacitet
• 1,7 PB/s samlad HBM-bandbredd
• 260 TB/s scale-up-bandbredd
• 43 TB/s scale-out-bandbredd 21051

Värdet i Helios är inte bara att multiplicera specifikationerna för 72 GPU:er. Racket är utformad som en gemensam scale-up-domän, där kommunikationen mellan acceleratorerna är en central del av arkitekturen och inte något som lämnas åt separata serversystem. AMD använder UALink över Ethernet för scale-up-anslutningen och Ethernet-baserad nätverksteknik för scale-out. 1012

Processorer, slädar och nätverk

Varje släde med fyra GPU:er paras ihop med en AMD EPYC Venice-värdprocessor. Rapporteringen om systemarkitekturen från Hot Chips identifierar plattformen som EPYC 9006 på SP7, medan AMD beskriver Helios som en kombination av sjätte generationens EPYC 9006-processorer, MI455X-GPU:er och Pensando-nätverk. 71014

Pensando Vulcano AI-NIC:er ger 800 Gbit/s Ethernet för scale-out-trafik. AMD:s Helios-material anger upp till 2,4 Tbit/s scale-out-bandbredd per GPU i Vulcano-konfigurationen. 47

Arbetsfördelningen är viktig: GPU:n hanterar matris- och vektorberäkningar, EPYC-processorn sköter värd- och kontrollplansuppgifter och nätverksinfrastrukturen flyttar data inom och utanför racket. Helios är därmed ett samdesignat beräkningssystem, inte bara en samling identiska accelerator­kort.

Open Rack Wide och ROCm som strategi

AMD anpassar Helios till Metas Open Rack Wide-initiativ och bredare rackstandarder från Open Compute Project (OCP). Företaget använder dessutom UALink och Ethernet-baserade nätverk i stället för att presentera racket som ett slutet, proprietärt system. 4749

Standardiseringen stödjer AMD:s argument att kunder ska kunna bygga stora AI-system av komponenter som kan samverka. I AMD:s modell består plattformen av:

• Instinct MI455X: matris- och vektorberäkning
• EPYC Venice: värd- och kontrollplansberäkning
• Pensando Vulcano: scale-out-nätverk
• UALink över Ethernet: scale-up-anslutning
• ROCm: mjukvarumiljön som ska erbjuda ett alternativ till CUDA-beroende infrastruktur 1018

ROCm eliminerar inte automatiskt det utvecklingsarbete som krävs för att flytta program mellan GPU-plattformar. Stöd för kärnor, bibliotek, kompilatorer, modellramverk och produktionsverktyg avgör fortfarande hur smidigt en arbetslast kan flyttas. Den strategiska poängen är att AMD försöker erbjuda hela hårdvaru- och mjukvarugrunden för ett stort AI-kluster, i stället för att konkurrera enbart med acceleratorernas specifikationer.

Leveranser under andra halvåret 2026 – men inte bevis på bred tillgänglighet

AMD har sagt att Helios går in i produktion och att leveranser ska börja under andra halvåret 2026. 449 Det beskriver AMD:s produktions- och leveransplan, men ska inte tolkas som bevis på att plattformen redan är brett installerad eller att alla angivna rackkonfigurationer finns tillgängliga i stora volymer.

Microsoft har separat meddelat planer på att ta Helios till Azure för inferens av avancerade AI-modeller. Det ger plattformen en namngiven molnimplementering, men planerade kundinstallationer är inte samma sak som oberoende uppmätta resultat i produktion. 5456

Versal Premium Gen 2 breddar AMD:s strategi

AMD presenterade vid Hot Chips även Versal Premium Gen 2, en serie adaptiva SoC:er som riktar sig mot en annan del av marknaden. Produkterna är avsedda för dataintensiva och latenskänsliga användningsområden som fysisk AI, nätverk, test och mätning, professionell video, flyg och försvar samt andra verksamhetskritiska system. 313638

Memory-on-Package-versionerna integrerar upp till 32 GB LPDDR5X direkt i kapslingen. AMD anger upp till 288 GB/s projicerad bandbredd och hävdar att lösningen kan minska kretskortets yta med upp till 60 procent jämfört med konstruktioner med externt minne. 3641

För den bredare Versal Premium Gen 2-familjen listar AMD:s officiella specifikationer hårdvaruimplementerade PCIe Gen6- och CXL 3.1-gränssnitt samt stöd för LPDDR5X- och DDR5-minne. 374042

Viss rapportering från Hot Chips nämner transceivrar med kapacitet för PCIe Gen7 och postkvantkryptografi i samband med plattformens bredare egenskaper. Det officiella produktmaterialet som finns tillgängligt här bekräftar PCIe Gen6, CXL 3.1 och säkerhetsfunktioner som PCIe Integrity and Data Encryption, men fastställer inte PCIe Gen7 eller hårdvaruaccelererad postkvantkryptografi som bekräftade specifikationer för alla Memory-on-Package-enheter. 373940

Slutsatsen: AMD säljer ett helt AI-system

MI455X:s huvudtal – 432 GB HBM4, 23,3 TB/s bandbredd och 40,26 PFLOPS MXFP4 – är viktiga eftersom de passar in i AMD:s större systemdesign. Helios placerar 72 sådana acceleratorer i en rack med 31 TB HBM4, exaflop-prestanda i lågprecision, snabba scale-up-länkar, EPYC-värdprocessorer och Pensando-nätverk.

AMD:s konkurrenssatsning handlar därför lika mycket om arkitektur som om siffror: GPU, minne, fabric, värdprocessor, nätverkskort, rack och mjukvarustack ska fungera som en öppen plattform baserad på standarder. Om detta leder till konkurrenskraftig prestanda i produktion avgörs däremot av verkliga arbetslaster, mjukvarans mognad, tillgången på komponenter och hur snabbt systemen kan sättas i drift – inte av toppspecifikationerna ensamma.