AMD MI455X dan Helios: GPU HBM4 432 GB di Balik Rak AI 72 Chip

Pengungkapan AMD di Hot Chips 2026 menunjukkan bahwa keluarga Instinct MI400 bukan sekadar generasi baru GPU AI. Model teratasnya, Instinct MI455X, menjadi komponen komputasi utama dalam Helios—platform rack-scale yang menyatukan GPU, CPU server, jaringan, dan software ROCm dalam satu sistem berbasis standar terbuka. Keunggulan paling mencolok ada pada memori: satu MI455X membawa 432 GB HBM4, sementara satu rak Helios dengan 72 GPU menyediakan kapasitas HBM4 hingga 31 TB. 2310

MI455X: GPU chiplet untuk beban AI yang haus memori

MI455X menggunakan arsitektur AMD CDNA 5. Bagian komputasinya terdiri dari delapan Accelerator Complex Die (XCD) yang diproduksi dengan proses TSMC N2. Die untuk fabric, cache, dan I/O menggunakan proses TSMC N3P. Seluruh chiplet tersebut dipadukan dengan 12 tumpukan HBM4 dalam paket TSMC CoWoS-L. 1721

Pendekatan ini memungkinkan AMD menggunakan proses fabrikasi paling maju untuk die komputasi, sementara fungsi fabric, cache, dan I/O dipisahkan ke chiplet lain. Jadi, MI455X bukan sekadar GPU monolitik yang diperbesar, melainkan sistem multi-die yang dirancang sejak awal untuk mengejar kapasitas memori, bandwidth, hasil produksi, dan konektivitas antarkomponen.

Arsitektur inti dan model eksekusi

AMD mencantumkan 256 Work Group Processor (WGP) dan 192 MB global L2 cache pada MI455X. CDNA 5 juga memperkenalkan dukungan matrix core untuk eksekusi native Wave32, di samping dukungan terhadap berbagai format presisi rendah yang umum dipakai dalam pelatihan dan inferensi AI. 320

Materi Hot Chips yang menjadi dasar analisis ini juga menjelaskan jalur fungsi transendental dengan latensi lebih rendah untuk operasi seperti eksponensial dan logaritma. Operasi tersebut muncul dalam bagian-bagian model AI, termasuk attention, normalisasi, dan fungsi aktivasi. Namun, sumber yang tersedia tidak memberikan angka pengurangan latensi, sehingga fitur ini belum dapat dianggap sebagai klaim performa terukur.

Spesifikasi utama MI455X

• Arsitektur komputasi: AMD CDNA 5
• Chiplet komputasi: Delapan XCD berbasis TSMC N2 17
• Fabric/cache dan I/O: Chiplet berbasis TSMC N3P 17
• Teknologi kemasan: TSMC CoWoS-L 21
• Work Group Processor: 256 3
• Global L2 cache: 192 MB 3
• HBM4: 12 tumpukan, total 432 GB 317
• Bandwidth memori puncak: 23,3 TB/s 23
• Performa puncak OCP MXFP4: 40,26 PFLOPS, dibulatkan AMD menjadi sekitar 40,3 PFLOPS 319
• Performa puncak MXFP6: 20,13 PFLOPS 319
• Performa puncak MXFP8: 20,13 PFLOPS 319

Angka-angka tersebut adalah performa teoretis maksimum, bukan jaminan kecepatan aplikasi. Hasil nyata bergantung pada presisi yang digunakan, sparsity, arsitektur model, pola akses memori, optimasi software, dan kemampuan workload untuk menjaga seluruh unit komputasi tetap sibuk.

Mengapa memori 432 GB menjadi penting

Spesifikasi paling menentukan dari MI455X mungkin bukan angka komputasinya, melainkan kapasitas memorinya. Dua belas tumpukan HBM4 menyediakan 432 GB per akselerator dengan bandwidth hingga 23,3 TB/s. 23

Kapasitas sebesar ini memberi ruang lebih luas untuk menyimpan bobot model, aktivasi, dan state inferensi—termasuk key-value cache atau KV cache—sebelum data harus dibagi ke akselerator tambahan. Hal ini sangat relevan untuk inferensi, ketika jendela konteks yang makin panjang dan banyaknya permintaan secara bersamaan dapat menjadikan KV cache sebagai batas kapasitas.

CDNA 5 mendukung beragam format data, antara lain OCP MXFP4, MXFP6, MXFP8, OCP FP8, BF16, FP16, TF32, FP32, dan FP64. Format berpresisi rendah ditujukan untuk efisiensi pelatihan serta inferensi AI, sementara dukungan format yang lebih luas membuat arsitektur ini tetap relevan untuk HPC dan workload campuran. 1820

Helios mengubah MI455X menjadi sistem satu rak

Helios menyusun akselerator ke dalam 18 compute tray yang selaras dengan pendekatan Open Rack Wide. Setiap tray membawa empat GPU MI455X, sehingga totalnya mencapai 72 GPU per rak. AMD mencantumkan angka maksimum berikut untuk konfigurasi tersebut:

• 2,9 exaflops komputasi FP4
• 1,4 exaflops komputasi FP8
• 31 TB kapasitas HBM4 agregat
• 1,7 PB/s bandwidth HBM agregat
• 260 TB/s bandwidth scale-up
• 43 TB/s bandwidth scale-out 21051

Nilai Helios bukan sekadar hasil mengalikan spesifikasi 72 GPU. Platform ini dirancang sebagai satu domain scale-up, sehingga komunikasi antarakselerator menjadi bagian inti arsitektur, bukan pekerjaan tambahan yang ditangani oleh server-server terpisah. Desain AMD menggunakan UALink melalui Ethernet untuk konektivitas scale-up dan jaringan berbasis Ethernet untuk scale-out. 1012

CPU, tray, dan jaringan

Setiap tray berisi empat GPU dipasangkan dengan prosesor host AMD EPYC “Venice”. Laporan mengenai arsitektur sistem Hot Chips menyebut platform host tersebut sebagai EPYC 9006 pada SP7, sementara AMD menjelaskan Helios sebagai kombinasi CPU seri EPYC 9006 generasi keenam, GPU MI455X, dan jaringan Pensando. 71014

NIC AI Pensando Vulcano menyediakan konektivitas Ethernet 800 Gb/s untuk lalu lintas scale-out. Materi AMD tentang Helios menyebut bandwidth scale-out hingga 2,4 Tb/s per GPU untuk desain berbasis Vulcano. 47

Pembagian tugasnya cukup jelas: GPU mengerjakan komputasi matriks dan vektor, EPYC menangani tugas host serta control plane, sedangkan fabric jaringan memindahkan data di dalam maupun di luar rak. Dengan demikian, Helios merupakan sistem komputasi yang dirancang bersama, bukan sekumpulan kartu akselerator yang berdiri sendiri.

Open Rack Wide dan strategi ROCm

AMD menyelaraskan Helios dengan pendekatan Open Rack Wide dari Meta dan standar rak yang lebih luas dari Open Compute Project (OCP). AMD juga menggunakan UALink dan fabric berbasis Ethernet, alih-alih menjadikan rak sebagai sistem tertutup dengan konektor dan komponen proprietary. 4749

Pendekatan berbasis standar ini mendukung argumen AMD bahwa pelanggan seharusnya dapat membangun sistem AI besar dari komponen yang interoperabel. Dalam posisi AMD, tumpukan Helios mencakup:

• Instinct MI455X: akselerasi komputasi matriks dan vektor
• EPYC Venice: komputasi host dan control plane
• Pensando Vulcano: jaringan scale-out
• UALink melalui Ethernet: konektivitas scale-up
• ROCm: lingkungan software yang ditujukan sebagai alternatif terhadap infrastruktur yang bergantung pada CUDA 1018

ROCm sendiri tidak otomatis menghilangkan pekerjaan teknis saat memindahkan software dari satu platform GPU ke platform lain. Dukungan kernel, library, compiler, framework model, dan tool produksi tetap menentukan seberapa mudah workload dapat dipindahkan. Poin strategisnya adalah AMD berusaha menyediakan fondasi hardware dan software lengkap untuk membangun klaster AI besar, bukan hanya bersaing lewat spesifikasi akselerator.

Jadwal deployment masih merupakan target

AMD menyatakan Helios telah memasuki produksi, dengan deployment dimulai pada paruh kedua 2026. 449 Pernyataan tersebut menggambarkan jadwal produksi dan deployment AMD; hal itu belum dapat dibaca sebagai bukti bahwa platform sudah terpasang secara luas atau bahwa setiap konfigurasi rak yang dikutip telah tersedia dalam volume besar.

Microsoft secara terpisah mengumumkan rencana untuk menggunakan Helios di Azure bagi inferensi model frontier, sehingga platform ini memiliki jalur deployment cloud yang telah disebutkan secara resmi. 5456 Namun, rencana deployment pelanggan tetap bukan pengganti hasil pengukuran performa produksi yang independen.

Versal Premium Gen 2 memperluas strategi AMD

Kehadiran AMD di Hot Chips 2026 juga mencakup Versal Premium Gen 2 adaptive SoC, yang menyasar segmen komputasi berbeda dari MI455X. Perangkat ini ditujukan untuk aplikasi yang sensitif terhadap data dan latensi, seperti physical AI, jaringan, pengujian dan pengukuran, video profesional, dirgantara dan pertahanan, serta sistem mission-critical lainnya. 313638

Versi Memory-on-Package mengintegrasikan hingga 32 GB LPDDR5X langsung ke dalam paket. AMD menyebut bandwidth yang diproyeksikan mencapai 288 GB/s dan mengklaim pengurangan luas papan hingga 60% dibandingkan desain dengan memori eksternal. 3641

Untuk keluarga Versal Premium Gen 2 secara keseluruhan, spesifikasi resmi AMD mencantumkan antarmuka PCIe Gen6 dan CXL 3.1, serta dukungan memori LPDDR5X dan DDR5. 374042

Sejumlah laporan Hot Chips membahas transceiver yang mampu mendukung PCIe Gen7 dan kriptografi pascakuantum dalam konteks kemampuan platform yang lebih luas. Namun, materi produk resmi yang tersedia di sini mengonfirmasi PCIe Gen6, CXL 3.1, dan fitur keamanan seperti PCIe Integrity and Data Encryption. Sumber tersebut belum cukup untuk menetapkan PCIe Gen7 atau kriptografi pascakuantum terintegrasi sebagai spesifikasi yang terkonfirmasi pada setiap perangkat Memory-on-Package. 373940

Kesimpulan: AMD menjual sistem, bukan hanya GPU

Angka utama MI455X—432 GB HBM4, bandwidth 23,3 TB/s, dan 40,26 PFLOPS MXFP4—penting karena mendukung desain sistem AMD yang lebih besar. Helios menempatkan 72 akselerator tersebut dalam satu rak dengan 31 TB HBM4, komputasi presisi rendah kelas exaflops, koneksi scale-up berbandwidth tinggi, CPU host EPYC, dan jaringan Pensando.

Taruhan kompetitif AMD dengan demikian bersifat arsitektural sekaligus numerik: membuat GPU, memori, fabric, CPU host, NIC, rak, dan software bekerja sebagai satu platform berbasis standar terbuka. Apakah pendekatan ini akan menghasilkan performa produksi yang kompetitif tetap bergantung pada workload nyata, kematangan software, pasokan, dan skala deployment—bukan spesifikasi puncak semata.