Dengan menempatkan memori lebih dekat ke unit komputasi, jarak yang harus ditempuh data dapat dipangkas secara signifikan . Secara teori, hal ini dapat meningkatkan bandwidth sekaligus mengurangi energi yang terbuang selama perpindahan data.
Samsung menyebut sistem antarmuka generasi berikutnya berbasis zHBM berpotensi memberikan:
Namun, angka-angka tersebut masih merupakan proyeksi Samsung untuk arsitektur masa depan. zHBM masih berupa model konsep dan belum menjadi produk yang diproduksi . Samsung juga memamerkan zNAND-O, konsep arsitektur lain yang dirancang untuk kebutuhan inferensi AI di perangkat edge .
Berbeda dari zHBM yang masih berupa konsep, V10 BV-NAND (Bonding V-NAND) merupakan pengumuman yang lebih konkret. Samsung menyebutnya sebagai NAND flash pertama di industri yang menggunakan teknologi wafer bonding, yaitu memisahkan susunan sel memori dari logika periferal lalu menggabungkan wafer tersebut .
V10 BV-NAND memiliki:
Samsung menyatakan V10 BV-NAND telah memasuki produksi massal, sehingga menjadi NAND pertama yang melewati ambang 400 lapisan secara komersial . Pencapaian ini penting karena peningkatan jumlah lapisan bukan sekadar perlombaan angka: kepadatan yang lebih tinggi dapat membantu menekan kebutuhan ruang, konsumsi energi, dan biaya dalam sistem penyimpanan berskala besar.
SK hynix dan SanDisk memperkenalkan spesifikasi teknis terbuka pertama untuk High Bandwidth Flash (HBF) melalui Open Compute Project (OCP) di FMS 2026 .
HBF dirancang sebagai lapisan penyimpanan berkapasitas besar yang berada di antara DRAM berbandwidth tinggi dan SSD NVMe konvensional. Posisi ini ditujukan untuk mengatasi salah satu kendala utama inferensi AI: model membutuhkan akses cepat ke data dalam jumlah besar, tetapi kapasitas HBM sangat mahal dan terbatas .
Spesifikasi awal HBF mencakup:
Karena spesifikasinya dipublikasikan sebagai standar terbuka melalui OCP, HBF berpotensi mengurangi ketergantungan industri pada solusi konektivitas atau memori yang sepenuhnya bersifat proprietary. Meski begitu, penerapan luasnya tetap akan bergantung pada dukungan perangkat keras, sistem operasi, perangkat lunak AI, dan ekosistem server.
Pesan yang muncul dari berbagai keynote dan panel FMS 2026 cukup konsisten: HBM saja tidak akan memadai untuk memenuhi pertumbuhan beban kerja AI.
Model AI yang semakin besar dan layanan inferensi yang harus merespons banyak pengguna secara bersamaan membutuhkan kombinasi kapasitas, bandwidth, latensi, serta efisiensi energi. Karena itu, industri mulai membicarakan hierarki memori, bukan satu jenis memori universal.
Dalam arsitektur semacam ini, berbagai lapisan dapat bekerja bersama:
Presentasi Marvell, misalnya, menyoroti infrastruktur inferensi untuk AI agentik yang membutuhkan portofolio memori dan penyimpanan terdiversifikasi, bukan hanya HBM . Arah yang sama juga terlihat dalam pembahasan mengenai flash sebagai lapisan penyimpanan yang dapat membantu AI inference berskala besar .
Dua klaim dalam pertanyaan awal belum dapat dikonfirmasi melalui sumber FMS 2026 yang tersedia.
Pertama, belum ada sumber terbitan yang berhasil memverifikasi klaim bahwa Nvidia memprediksi jumlah AI agent pada akhirnya akan melampaui populasi manusia dan bahwa model penetapan harga memori akan bergeser dari biaya per gigabita menjadi biaya per operasi I/O.
Kedua, belum ditemukan konfirmasi independen atas klaim bahwa Samsung, SK hynix, dan Micron telah menjual seluruh kapasitas produksi DRAM dan HBM untuk 2027, sementara pelanggan hanya memperoleh 60–70% dari volume yang mereka minta.
Kedua pernyataan tersebut mungkin disampaikan dalam keynote atau panel yang belum terdokumentasi dalam laporan terindeks. Namun, berdasarkan bukti yang tersedia, statusnya tetap belum terverifikasi dan tidak seharusnya diperlakukan sebagai fakta yang sudah dikonfirmasi.
FMS 2026 memperlihatkan tiga tingkat perkembangan yang berbeda. zHBM adalah visi arsitektur 3D Samsung untuk mendekatkan memori ke akselerator AI. V10 BV-NAND merupakan produk NAND 400+ lapis yang disebut telah memasuki produksi massal. Sementara itu, HBF menawarkan standar terbuka untuk mengisi celah antara HBM yang cepat tetapi mahal dan SSD yang lebih luas kapasitasnya tetapi lebih lambat.
Gambaran besarnya jelas: infrastruktur AI masa depan kemungkinan akan menggunakan memori secara berjenjang. HBM tetap penting, tetapi ia akan menjadi salah satu bagian dari sistem yang lebih besar—bukan satu-satunya jawaban untuk kebutuhan data AI.