Intel Diamond Rapids: Xeon 7 256 Core dengan Cache 1,28 GB dan Desain 22 Tile

Intel memanfaatkan ajang Hot Chips 2026 untuk memaparkan Diamond Rapids, platform server Xeon 7 generasi berikutnya yang direncanakan hadir pada 2027. Dalam konfigurasi tertingginya, prosesor ini membawa hingga 256 performance core Panther Cove, shared last-level cache (LLC) hingga 1,28 GB, dan paket modular yang terdiri dari 22 tile. 123

Namun, ada satu catatan penting di balik angka 256 core tersebut: Diamond Rapids tidak mendukung simultaneous multithreading (SMT), yang selama ini dikenal Intel sebagai Hyper-Threading. Artinya, konfigurasi 256 core itu setara dengan 256 thread perangkat keras, bukan 512 thread. Intel menyebut dukungan SMT diperkirakan kembali pada generasi Coral Rapids berikutnya. 78

Seperti apa desain Diamond Rapids?

Diamond Rapids lebih tepat dipahami sebagai sebuah paket server lengkap daripada CPU monolitik konvensional. Konfigurasi terbesarnya terdiri dari:

• 16 chiplet komputasi Intel 18A-P;
• 16 P-core Panther Cove di setiap chiplet, sehingga totalnya mencapai 256 core;
• Empat base tile Intel 3-T;
• Dua Intel 3 Fabric Hub tile untuk fungsi memori dan I/O eksternal;
• 22 tile secara keseluruhan. 13

Chiplet komputasi ditumpuk di atas base tile menggunakan teknologi packaging Foveros Direct. Pendekatan chiplet ini memungkinkan Intel memisahkan komputasi, cache, pengendali memori, dan I/O ke dalam blok silikon khusus, alih-alih menempatkan seluruh fungsi pada satu die besar. 35

UCIe-S menggantikan pendekatan EMIB

Intel juga mengubah cara berbagai blok tersebut berkomunikasi. Diamond Rapids menggunakan koneksi tembaga UCIe-S dan fabric fan-out untuk menghubungkan blok komputasi dengan Fabric Hub, bukan pendekatan berbasis EMIB yang digunakan pada desain Xeon sebelumnya. 311

Tujuan arsitekturnya adalah menciptakan pola akses memori yang lebih seragam di seluruh paket. Secara praktis, rancangan ini berpotensi mengurangi kebutuhan perangkat lunak dan administrator server untuk membedakan secara tajam antara wilayah memori lokal dan jarak jauh pada konfigurasi multi-tile besar.

Meski demikian, keseragaman akses tersebut masih merupakan tujuan desain. Dampak nyatanya baru dapat dinilai setelah sistem yang dipasarkan tersedia dan diuji dengan aplikasi secara independen.

Empat Intel 3-T base tile juga menyediakan cache bersama berkapasitas besar. Intel dan sejumlah laporan menyebut totalnya mencapai 1,28 GB LLC. Menyebut seluruh kapasitas itu sebagai “L3” dapat menyederhanakan persoalan, karena Intel belum mengungkapkan hierarki cache lengkap maupun perilaku akses setiap level secara terperinci. 12

Memori dan I/O disiapkan untuk server berbandwidth tinggi

Pada prosesor dengan jumlah core sangat besar, performa tidak hanya ditentukan oleh core. Bandwidth memori dan konektivitas juga dapat menjadi batas utama. Karena itu, Diamond Rapids mendukung 16 kanal memori DDR5, dengan kecepatan hingga DDR5-8000 atau MRDIMM-12.800, bergantung pada teknologi dan konfigurasi memori yang digunakan. 34

Platform ini juga menyediakan hingga 128 lane PCIe Gen 6. Subsistem I/O dapat dikonfigurasi untuk PCIe, CXL 3.0, dan UPI 3.0, sehingga perancang server memiliki ruang lebih besar untuk memasang akselerator, memperluas memori, menghubungkan jaringan berkecepatan tinggi, maupun membangun sistem multi-soket. 314

Keseimbangan ini penting untuk beban kerja seperti analitik data, virtualisasi, komputasi performa tinggi, dan orkestrasi AI. Menambah core tanpa memperluas bandwidth memori dan I/O bisa membuat sebagian core tidak memperoleh data yang cukup untuk bekerja optimal. Diamond Rapids menunjukkan bahwa Intel tidak hanya mengejar jumlah core, tetapi juga menjadikan platform secara keseluruhan sebagai medan persaingan.

Instruksi baru menyasar AI dan aplikasi umum

Materi pengembang Intel mencantumkan dukungan Diamond Rapids untuk Intel APX, AVX10.2, dan kemampuan Intel AMX tambahan. 56

APX menambah jumlah register general-purpose arsitektural yang tersedia bagi kode x86. Intel menjelaskan bahwa APX menggandakan jumlah register tersebut, dari 16 menjadi 32. Dengan lebih banyak nilai yang dapat disimpan langsung di register, perangkat lunak hasil kompilasi berpotensi mengurangi frekuensi pemuatan data dari dan penulisan data ke memori. 9

AMX terutama ditujukan untuk beban kerja AI yang banyak menggunakan operasi matriks, sedangkan AVX10.2 memperluas kemampuan pemrosesan vektor. Kombinasi fitur ini memberi Diamond Rapids perangkat untuk menjalankan aplikasi server umum sekaligus komputasi terkait AI.

Namun, besarnya peningkatan performa akan bergantung pada dukungan compiler, optimasi perangkat lunak, serta jenis instruksi yang dominan dalam setiap beban kerja.

Tidak ada Hyper-Threading menjadi kelemahan utama

Diamond Rapids merupakan desain Xeon berbasis performance core tanpa SMT. Intel telah mengakui bahwa keputusan meninggalkan multithreading dapat menjadi kerugian kompetitif untuk beban kerja yang mendapat manfaat dari dua thread logis pada setiap core fisik. Perusahaan menyatakan SMT diperkirakan kembali bersama Coral Rapids, generasi Xeon P-core setelah Diamond Rapids. 78

Ketiadaan SMT tidak otomatis berarti performa lebih rendah di semua aplikasi. Beban kerja yang sudah mampu memenuhi sumber daya eksekusi sebuah core—terutama program yang sangat paralel dan teroptimasi untuk vektor—mungkin hanya memperoleh manfaat kecil dari thread perangkat keras kedua. Sebaliknya, aplikasi yang sering menunggu data dari memori atau mengejar throughput thread dapat lebih diuntungkan oleh SMT.

Karena itu, angka 256 core sebaiknya tidak diperlakukan sebagai jaminan performa universal. Pengelola pusat data perlu menunggu benchmark yang sesuai dengan aplikasi mereka sendiri, termasuk pengujian scaling, aturan pengisian memori, frekuensi kerja, konsumsi daya, dan biaya lisensi perangkat lunak.

Posisi Diamond Rapids di pasar server

Dari sisi spesifikasi, Diamond Rapids membawa Intel lebih dekat ke jajaran desain server x86 dengan kepadatan core tertinggi. Jumlah maksimum 256 core disebut menyamai jumlah core pada konfigurasi teratas AMD EPYC Venice. Subsistem memori 16 kanal, cache LLC besar, dan konektivitas PCIe Gen 6 juga menempatkannya dalam kelas platform pusat data yang dirancang untuk beban kerja intensif bandwidth. 21436

Kesamaan spesifikasi tersebut belum menentukan siapa yang akan menjadi pemenang performa. Intel belum mengumumkan seluruh spesifikasi produk yang akan dikapalkan, harga, maupun benchmark aplikasi independen yang diperlukan untuk perbandingan langsung.

Jumlah core juga hanya salah satu bagian dari persamaan. Kecepatan clock, latensi memori, konsumsi daya berkelanjutan, efisiensi perangkat lunak, ketersediaan sistem, dan biaya lisensi dapat mengubah hasil akhir secara signifikan.

Pertanyaan komersialnya pun cukup jelas: apakah Intel mampu menawarkan performa per watt dan total biaya kepemilikan yang cukup menarik ketika Diamond Rapids mulai masuk ke server pada 2027? Arsitekturnya menjawab sejumlah tantangan penting—kepadatan core, bandwidth memori, ekspansi I/O, serta akses lintas tile yang lebih seragam. Namun, harga dan benchmark dunia nyata akan menentukan apakah keunggulan tersebut benar-benar mendorong adopsi dalam skala besar.