Kioxia, Sandisk, dan SK hynix Bawa Terobosan Memori AI ke FMS 2026

Spesifikasi utama yang ditampilkan meliputi:

• Kepadatan bit: lebih dari 37 Gb/mm², atau sekitar 60% lebih tinggi dibanding teknologi generasi ke-8 .
• Struktur: 332 lapisan aktif .
• Antarmuka: hingga 4,8 Gb/s melalui Toggle DDR6.0 .
• Teknologi utama: CMOS Directly Bonded to Array (CBA), yaitu proses pembuatan logika CMOS dan susunan sel memori pada wafer terpisah sebelum keduanya disatukan. Pendekatan ini ditujukan untuk meningkatkan efisiensi daya sekaligus memungkinkan peningkatan kepadatan .

Perangkat QLC tersebut diperkenalkan melalui demonstrasi langsung di FMS 2026 . Sebelumnya, pada Juli 2026, Kioxia dan Sandisk telah mulai mengirimkan sampel NAND TLC BiCS10 1 Tb. Varian TLC itu memiliki kepadatan lebih dari 29 Gb/mm², sehingga QLC yang dipamerkan di FMS menjadi langkah lanjutan menuju kapasitas lebih tinggi .

QLC menyimpan empat bit data dalam setiap sel memori, berbeda dari TLC yang menyimpan tiga bit per sel. Dalam konteks pusat data, peningkatan kepadatan seperti ini dapat membantu menyediakan kapasitas penyimpanan lebih besar dalam ruang fisik yang sama, meski kinerja dan karakteristik daya akhirnya tetap bergantung pada implementasi SSD secara keseluruhan.

HBF: lapisan memori baru di antara HBM dan SSD

Pengumuman besar kedua datang dari Sandisk dan SK hynix. Keduanya menerbitkan spesifikasi teknis standar pertama untuk High Bandwidth Flash (HBF) melalui Open Compute Project (OCP) . OCP adalah proyek terbuka yang mendorong pengembangan dan penggunaan rancangan teknologi pusat data secara lebih luas.

HBF berbasis NAND flash yang ditumpuk secara vertikal dan ditujukan untuk sistem inferensi AI. Teknologi ini diposisikan di antara:

• HBM (High Bandwidth Memory): sangat cepat dan dekat dengan akselerator AI, tetapi kapasitasnya relatif terbatas dan biayanya tinggi.
• SSD konvensional: menawarkan kapasitas besar dengan biaya lebih rendah, tetapi tidak memiliki bandwidth dan latensi seperti memori yang terhubung langsung ke akselerator.

Spesifikasi awal HBF mencakup:

• Kapasitas per tumpukan: hingga 512 GB, menggunakan konfigurasi NAND 8-high dan 16-high .
• Bandwidth target: hingga 3,0 TB/s, dengan angka hingga 1,6 TB/s per arah .
• Tingkat performa: tiga kelas, dari sekitar 0,4 TB/s hingga 3,0 TB/s .
• Koneksi: menggunakan standar UCIe (Universal Chiplet Interconnect Express) .

Dengan rancangan tersebut, HBF ditujukan untuk mengurangi kesenjangan antara kapasitas memori dan kebutuhan model AI yang terus membesar. Sandisk menyatakan HBF dapat menawarkan kapasitas 8–16 kali lebih besar daripada HBM dengan biaya yang serupa. Dalam simulasi menggunakan model Llama 3.1 dengan 405 miliar parameter, performanya disebut berada dalam selisih 2,2% dari konfigurasi HBM dengan kapasitas yang secara teoritis tidak terbatas .

Angka tersebut merupakan hasil simulasi dan klaim perusahaan, bukan hasil pengujian independen terhadap perangkat komersial. Spesifikasi terbuka HBF kini telah dipublikasikan. Sampel memori diperkirakan hadir pada akhir 2026, sementara perangkat komersial diproyeksikan tersedia pada awal 2027 .

Dukungan Google dan Tenstorrent memperkuat pendekatan terbuka

Google, termasuk Google DeepMind, dan Tenstorrent bergabung dalam pengembangan HBF selama proses standardisasi . Keterlibatan tersebut memberi sinyal bahwa HBF tidak hanya diarahkan sebagai solusi eksklusif dari satu vendor, melainkan sebagai ekosistem yang dapat diadopsi oleh perusahaan pembuat akselerator, server, dan sistem AI.

Spesifikasi melalui OCP juga memungkinkan perusahaan merancang sistem inferensi dan akselerator dengan acuan teknis yang sama. Pendekatan ini berpotensi mengurangi risiko munculnya solusi memori yang saling tidak kompatibel, meski keberhasilan HBF tetap akan bergantung pada dukungan perangkat keras, perangkat lunak, dan ketersediaan produk di pasar.

Sesi penting di FMS 2026

Selain demonstrasi teknologi, FMS 2026 menghadirkan sejumlah sesi yang membahas peran NAND dan memori bertingkat dalam infrastruktur AI.

Keynote Sandisk tentang NAND untuk era AI

Sesi bertajuk “NAND: The Versatile & Scalable Foundation of the AI Era” dijadwalkan pada Rabu, 5 Agustus 2026, pukul 11.40 waktu Pasifik di Mission City Ballroom, Santa Clara Convention Center. Jim Elliott, Khurram Ismail, dan Alper Ilkbahar dari Sandisk membahas optimalisasi pada tingkat sistem serta peran NAND dalam menjalankan inferensi AI berskala besar .

Keynote SK hynix tentang memori bertingkat

Pada hari pembukaan, 4 Agustus, SK hynix membawakan sesi “Orchestrating Efficient AI Infrastructure through Tiered Memory in the Era of Agentic AI”. Executive Vice President Kim Chun-sung dan Vice President Kang Uk-song membahas solusi memori bertingkat untuk infrastruktur AI .

Panel “Breaking the Memory Wall with High Bandwidth Flash”

Panel yang dijadwalkan pada 6 Agustus pukul 09.45 waktu Pasifik menghadirkan Rajeev Nagabhirava dari Sandisk, Lim Eui-cheol dari SK hynix, dan Xiaoyu Ma dari Google DeepMind. Diskusi ini berfokus pada cara HBF mengatasi kesenjangan antara kemampuan komputasi dan kapasitas memori dalam beban kerja inferensi AI .

Judul panel tersebut didukung oleh materi resmi Sandisk dan pemberitaan SK hynix. Namun, rincian lengkap deskripsi sesi paling tepat dikonfirmasi melalui agenda resmi FMS 2026 yang berlaku saat acara berlangsung .

Mengapa pengumuman ini penting?

BiCS10 QLC dan HBF menyasar dua bagian berbeda dari rantai infrastruktur AI. BiCS10 berfokus pada penyimpanan berkapasitas tinggi—misalnya SSD pusat data untuk data pelatihan, arsip, dan lapisan penyimpanan cloud. Sementara itu, HBF ditujukan untuk membawa kapasitas lebih besar dengan bandwidth tinggi agar model AI dapat mengakses data lebih dekat ke akselerator.

Jika jadwal sampel dan perangkat komersial berjalan sesuai rencana, HBF dapat menjadi pilihan baru bagi sistem inferensi yang membutuhkan lebih banyak memori daripada kapasitas HBM yang tersedia. Untuk saat ini, teknologi tersebut masih berada pada tahap standardisasi dan pengembangan ekosistem. Namun, publikasi spesifikasi terbuka melalui OCP menunjukkan bahwa industri mulai mencari solusi bersama untuk menghadapi “dinding memori”—kondisi ketika pertumbuhan kebutuhan model AI melampaui peningkatan kapasitas dan bandwidth memori konvensional .