JawabanDipublikasikan26 sumber
Samsung zHBM: Memori HBM Ditumpuk Langsung di Atas Chip AI, Apa Dampaknya?
Samsung menyatakan zHBM berpotensi meningkatkan kecepatan respons sistem AI lebih dari 10 kali lipat dengan menumpuk HBM langsung di atas akselerator AI, bukan di sampingnya. Untuk antarmuka generasi berikutnya, Samsung menargetkan performa sekitar 8 kali HBM5, kepadatan memori lebih dari 10 kali, efisiensi energi s...
Diterbitkan olehDiedit dengan GPT-5.6 TerraGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- Samsung menyatakan zHBM berpotensi meningkatkan kecepatan respons sistem AI lebih dari 10 kali lipat dengan menumpuk HBM langsung di atas akselerator AI, bukan di sampingnya.
- Untuk antarmuka generasi berikutnya, Samsung menargetkan performa sekitar 8 kali HBM5, kepadatan memori lebih dari 10 kali, efisiensi energi sekitar 3 kali, dan resistansi termal lebih dari 50% lebih rendah.
- Insinyur dari OpenAI dan Intel menilai CXL lebih cocok sebagai lapisan kapasitas tambahan atau penyimpanan data yang jarang diakses, bukan pengganti HBM saat model AI aktif berjalan.
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Samsung Electronics reveal at the September 16, 2026, AI Infrastructure Summit about its next-generation zHBM 3D memory architectur. Article summary: Samsung presented zHBM as a longer-term “zero-distance” HBM architecture: rather than placing HBM beside an AI accelerator on a silicon interposer, as in current 2.5D packages, it would bond HBM directly above the accele. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Samsung memperkenalkan zHBM sebagai konsep memori AI yang dirancang untuk memperpendek jarak fisik antara komputasi dan memori berkecepatan tertinggi. Alih-alih menempatkan high-bandwidth memory (HBM) di samping GPU atau akselerator AI lain, zHBM akan menaruhnya tepat di atas prosesor dalam satu paket 3D terintegrasi secara vertikal. Dalam AI Infrastructure Summit pada 16 September di Santa Clara, California, Samsung memosisikan pendekatan ini sebagai jalur menuju sistem AI berbasis agen yang lebih responsif. 1
9
Bedanya dengan paket HBM 2,5D saat ini
Pada rancangan HBM konvensional, tumpukan memori biasanya ditempatkan sejajar atau berdampingan dengan akselerator pada bidang yang sama, lalu dihubungkan lewat teknologi pengemasan canggih. zHBM mengubah susunan tersebut: HBM ditumpuk secara vertikal langsung di atas akselerator AI. Dengan kata lain, Samsung ingin mendekatkan logika pemrosesan dan memori dalam arsitektur 3D. 12
13
Gagasan utamanya cukup sederhana: jalur perpindahan data yang lebih pendek diharapkan meningkatkan bandwidth dan efisiensi daya, sekaligus memungkinkan kapasitas memori yang lebih besar dalam jejak fisik yang sama. Samsung menyebut integrasi vertikal itu mengandalkan teknologi wafer bonding generasi berikutnya, termasuk hybrid copper bonding. 7
48
Namun, ini masih merupakan konsep arsitektur, bukan pengganti langsung untuk semua paket HBM yang digunakan saat ini. Samsung baru memamerkan zHBM sebagai model konsep dan belum mengumumkan jadwal komersialisasinya. 13
14
Target performa dan efisiensi yang diklaim Samsung
Samsung memasang target ambisius untuk antarmuka generasi berikutnya yang menggunakan zHBM:
- Performa sekitar 8 kali HBM5
- Kepadatan memori lebih dari 10 kali HBM5 konvensional
- Efisiensi energi sekitar 3 kali lebih baik
- Resistansi termal lebih dari 50% lebih rendah
13
48
Di AI Infrastructure Summit, Samsung juga mengatakan zHBM dapat meningkatkan kecepatan respons sistem AI lebih dari 10 kali lipat, dengan ambisi mencapai 1.000 token per detik. Token adalah potongan teks yang diproses dan dihasilkan model AI. 1
9
Angka-angka tersebut perlu dibaca sebagai proyeksi Samsung untuk arsitektur masa depan, bukan hasil uji independen dari akselerator komersial yang sudah dijual. Menumpuk memori langsung di atas logika pemrosesan memunculkan tantangan besar: hasil produksi (yield), pembuangan panas, keandalan, serta validasi bersama mitra pembuat akselerator.
Mengapa relevan untuk AI berbasis agen?
Samsung mempresentasikan zHBM dalam konteks AI agent—sistem yang tidak hanya menjawab satu perintah, tetapi berulang kali mengambil konteks, menjalankan inferensi, menggunakan alat, lalu menghasilkan tindakan atau keluaran.
Dalam beban kerja seperti itu, menambah kemampuan komputasi saja belum tentu menghilangkan jeda. Akselerator tetap dapat menunggu data dipindahkan dari dan ke memori. zHBM ditujukan untuk menekan hambatan pada memori dan transfer data tersebut. Premisnya, HBM yang jauh lebih dekat ke akselerator dapat membuat sistem AI lebih responsif sembari meningkatkan efisiensi daya saat data bergerak. 1
7
Tetapi, apakah peningkatan respons ujung-ke-ujung akan benar-benar mencapai target Samsung tetap bergantung pada keseluruhan rancangan akselerator, perangkat lunak, model AI, dan pengemasan chip—bukan hanya letak memorinya.
zNAND-O sebagai lapisan kapasitas pelengkap
Samsung juga memasangkan zHBM dengan zNAND-O, arsitektur NAND berperforma tinggi untuk lingkungan AI yang intensif data dan edge AI. zNAND-O diposisikan di antara DRAM dan penyimpanan NAND biasa: kepadatannya dirancang lebih tinggi daripada DRAM, sembari menawarkan peningkatan kinerja I/O, latensi, dan efisiensi daya dibandingkan NAND konvensional. 49
51
Keduanya menempati lapisan yang berbeda dalam hierarki memori:
- zHBM ditujukan untuk lapisan memori tercepat yang berada paling dekat dengan akselerator.
- zNAND-O ditujukan sebagai lapisan lebih padat untuk menyimpan data dan model, yang akan mahal bila seluruhnya harus berada di DRAM.
49
53
Samsung mengutip pengujian model GPT berparameter 120 miliar, ketika zNAND-O mencapai laju token per detik yang sama seperti server DRAM konvensional dengan biaya operasional seperenamnya. Ini adalah hasil uji yang dilaporkan Samsung, bukan jaminan penghematan biaya untuk semua penerapan model besar. 54
55
Samsung juga mengaitkan zNAND-O dengan tantangan jangka panjang menjalankan model besar langsung di perangkat. Perusahaan menyebut AI on-device berskala satu triliun parameter dapat menjadi relevan pada 2030. 53
CXL tampaknya belum akan menggantikan HBM untuk menjalankan AI aktif
Pertemuan yang sama juga menegaskan perbedaan penting di pasar memori AI: kapasitas tambahan memang bernilai, tetapi tidak berarti semua jenis memori dapat saling menggantikan.
Daniel Morris, peneliti akselerator di OpenAI, mengatakan ia belum menemukan penggunaan CXL untuk benar-benar menjalankan model AI, meski CXL mungkin berguna bagi data model besar yang jarang diakses. Vidia Thiagarajan dari Intel juga menilai memory pooling melalui CXL lebih tepat sebagai pelengkap penyimpanan sekunder daripada pengganti HBM, karena terdapat kesenjangan bandwidth antara memori yang terhubung CXL dan HBM. 18
22
CXL (Compute Express Link) sendiri adalah standar interkoneksi untuk menghubungkan dan memperluas sumber daya komputasi serta memori. Pernyataan itu bukan berarti CXL tidak memiliki peran. Artinya, arsitektur AI yang berkembang kemungkinan akan berbentuk bertingkat: HBM dekat akselerator untuk komputasi aktif yang sensitif terhadap bandwidth, sementara CXL dan lapisan memori atau penyimpanan lain berfokus pada kapasitas.
Implikasinya bagi Samsung dan SK hynix
Dalam waktu dekat, persaingan HBM tetap ditentukan oleh kemampuan pemasok memproduksi, mendapatkan kualifikasi, dan mengirimkan memori untuk platform akselerator tertentu. zHBM memberi Samsung konsep arsitektur jangka panjang yang berbeda, tetapi tidak menghapus kebutuhan untuk membuktikan hasil produksi, karakteristik termal, keandalan, dan integrasi di sisi pelanggan.
Bagi pasar HBM secara luas, keraguan bahwa CXL dapat menggantikan HBM lokal dalam eksekusi model aktif memperkuat pentingnya memori berbandwidth tinggi yang berada dekat dengan akselerator. Pertanyaannya bukan sekadar siapa yang memiliki konsep memori 3D paling agresif, melainkan siapa yang paling cepat mengubah rancangan memori dan pengemasan canggih menjadi produk bervolume besar yang telah lolos kualifikasi. 18
33
36
Kesimpulan
Pesan Samsung dari rangkaian acara September adalah bahwa kinerja AI makin dibatasi oleh perpindahan data, kapasitas memori, konsumsi daya, dan panas—bukan hanya oleh kecepatan komputasi. zHBM mengusulkan desain 3D dengan memori langsung di atas akselerator untuk mengatasi hambatan itu, sementara zNAND-O akan menyediakan lapisan yang lebih padat bagi beban kerja AI berukuran besar.
Potensi peningkatannya memang besar, tetapi seluruhnya masih merupakan target teknologi tahap konsep. Bagi pembeli dan perencana infrastruktur AI, kesimpulan paling dekat bukanlah bahwa produk zHBM akan segera hadir, melainkan arah industrinya: sistem AI kemungkinan akan semakin mengandalkan lapisan memori khusus yang terintegrasi vertikal, dengan HBM tetap menjadi bagian utama dari jalur komputasi berperforma tertinggi. 13
14
18
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "Samsung zHBM: Memori HBM Ditumpuk Langsung di Atas Chip AI, Apa Dampaknya?"?
Samsung menyatakan zHBM berpotensi meningkatkan kecepatan respons sistem AI lebih dari 10 kali lipat dengan menumpuk HBM langsung di atas akselerator AI, bukan di sampingnya.
Apa poin penting yang harus divalidasi terlebih dahulu?
Samsung menyatakan zHBM berpotensi meningkatkan kecepatan respons sistem AI lebih dari 10 kali lipat dengan menumpuk HBM langsung di atas akselerator AI, bukan di sampingnya. Untuk antarmuka generasi berikutnya, Samsung menargetkan performa sekitar 8 kali HBM5, kepadatan memori lebih dari 10 kali, efisiensi energi sekitar 3 kali, dan resistansi termal lebih dari 50% lebih rendah.
Apa yang harus saya lakukan selanjutnya dalam latihan?
Insinyur dari OpenAI dan Intel menilai CXL lebih cocok sebagai lapisan kapasitas tambahan atau penyimpanan data yang jarang diakses, bukan pengganti HBM saat model AI aktif berjalan.
Sumber
asiae.co.kr"Opening the Era of 1,000 Tokens per Second"…Samsung Electronics Drives AI Semiconductor Innovation with zHBM
en.sedaily.comSamsung Touts 10-Fold AI Speed Gain With Stacked zHBM Memory
koreaherald.comSamsung stacks HBM atop AI chips in 3D memory push