Server 2U dengan 9,8 PB Flash: Terobosan Dell dan Kioxia untuk Era AI

Basis sistemnya adalah Dell PowerEdge R7725xd, server rack 2U yang dioptimalkan untuk workload intensif data. Dalam demonstrasi bersama Kioxia, konfigurasi yang digunakan meliputi:

• 40 × SSD NVMe Kioxia LC9 Series
• Kapasitas 245,76 TB per drive
• Total kapasitas mentah sekitar 9,8 PB

Jika dihitung, 40 drive × 245,76 TB menghasilkan sekitar 9.830,4 TB kapasitas flash mentah, yang kemudian dibulatkan menjadi konfigurasi 9,8 PB.

Server ini juga dapat menggunakan dua prosesor AMD EPYC seri 9005, yang menyediakan jumlah core sangat besar serta bandwidth PCIe tinggi untuk menangani sistem penyimpanan NVMe skala besar.

Bagaimana kepadatan ekstrem ini bisa tercapai

Ada tiga faktor arsitektur utama yang membuat konfigurasi ini memungkinkan.

1. SSD NVMe berkapasitas sangat besar

SSD Kioxia LC9 Series menawarkan kapasitas hingga 245,76 TB per drive, termasuk yang tertinggi yang pernah diumumkan untuk SSD enterprise NVMe. Drive ini menggunakan antarmuka PCIe 5.0 dan dirancang khusus untuk workload pusat data serta AI.

Kapasitas besar ini dicapai melalui teknologi 3D QLC NAND generasi terbaru yang memungkinkan lebih banyak data disimpan dalam satu chip flash tanpa mengorbankan karakteristik performa enterprise secara signifikan.

2. Form factor enterprise E3.L

Drive tersebut tersedia dalam form factor EDSFF E3.L, format baru yang dioptimalkan untuk pusat data modern.

Modul E3.L memiliki bentuk lebih panjang dibandingkan SSD 2,5 inci tradisional. Desain ini memungkinkan:

• lebih banyak paket NAND dalam satu drive
• kapasitas lebih tinggi
• distribusi panas yang lebih baik

Kombinasi ini membantu mencapai kapasitas ratusan terabyte per SSD.

3. Bandwidth PCIe yang sangat besar

Platform PowerEdge R7725xd dibangun dengan arsitektur server modern yang menyediakan banyak jalur PCIe berkecepatan tinggi. Dengan konektivitas PCIe Gen5, setiap SSD NVMe dapat terhubung langsung ke CPU tanpa bottleneck besar.

Desain ini memungkinkan puluhan SSD NVMe bekerja secara paralel dalam satu node server tanpa kehilangan performa I/O.

Kemampuan jaringan dan pergerakan data

Storage besar tidak akan berguna jika data tidak bisa dipindahkan dengan cepat. Karena itu, platform R7725xd juga mendukung opsi jaringan berkecepatan tinggi.

Dalam beberapa konfigurasi, server ini dapat mendukung:

• jaringan 100 GbE hingga 400 GbE
• hingga lima NIC 400 Gbps untuk bandwidth agregat yang sangat besar

Kapasitas jaringan seperti ini penting untuk workload seperti:

• memasok data ke cluster GPU saat training AI
• melayani object storage skala besar
• memindahkan dataset pelatihan, embedding, dan vector database antar cluster

Tanpa jaringan cepat, server multi‑petabyte berisiko menjadi bottleneck I/O dalam sistem AI berskala besar.

Mengapa penting bagi AI dan pusat data hyperscale

Workload AI modern membutuhkan penyimpanan dataset raksasa: corpus pelatihan, checkpoint model, embedding, vector database, hingga log operasional.

Server flash dengan kepadatan tinggi seperti ini memberikan beberapa keuntungan penting.

Mengurangi jejak fisik pusat data

Menempatkan 9,8 PB flash dalam satu server 2U berarti organisasi dapat mencapai kapasitas multi‑petabyte dengan jauh lebih sedikit server.

Hasilnya:

• kebutuhan rack lebih sedikit
• kabel lebih sedikit
• infrastruktur pendukung lebih sederhana

Ini sangat penting bagi operator cloud skala besar.

Potensi efisiensi energi dan pendinginan

SSD berkapasitas besar dapat menggantikan banyak drive kecil atau bahkan ratusan HDD. Konsolidasi ini berpotensi menurunkan konsumsi daya dan kebutuhan pendinginan di pusat data besar, meskipun efisiensi sebenarnya bergantung pada desain deployment.

Memaksimalkan penggunaan GPU yang mahal

Cluster AI biasanya menggunakan GPU yang sangat mahal. Jika storage tidak mampu menyediakan data cukup cepat, GPU akan menunggu dan tidak dimanfaatkan secara maksimal.

Array NVMe ultra‑padat membantu memastikan aliran data tetap cepat sehingga pipeline AI tetap efisien.

Perlombaan SSD enterprise kelas 245–256 TB

Konfigurasi Dell–Kioxia ini juga mencerminkan tren industri yang lebih besar: munculnya SSD enterprise kelas 245 TB hingga 256 TB.

Beberapa vendor penyimpanan kini mengembangkan SSD dalam kelas kapasitas ini untuk mendukung infrastruktur AI dan cloud hyperscale. Misalnya, Micron juga memperkenalkan SSD enterprise 6600 ION berkapasitas sekitar 245 TB, menandakan persaingan yang semakin ketat di segmen ultra‑high‑capacity flash.

Permintaan pasar juga meningkat pesat. Menurut TrendForce, pendapatan lima vendor SSD enterprise terbesar dunia naik lebih dari 50% secara kuartalan pada akhir 2025, didorong terutama oleh pembangunan infrastruktur AI.

Secara keseluruhan, pasar SSD global diproyeksikan tumbuh dari US$36,33 miliar pada 2026 menjadi US$76,41 miliar pada 2031, menunjukkan semakin pentingnya flash storage dalam komputasi modern.

Sinyal masa depan pusat data

Server 9,8 PB dari Dell dan Kioxia bukan sekadar satu produk baru—ini juga gambaran arah masa depan infrastruktur data.

Seiring meningkatnya kepadatan NAND dan bandwidth PCIe, satu server dapat berubah menjadi node penyimpanan multi‑petabyte yang mampu memasok data ke seluruh cluster AI.

Jika kapasitas SSD terus berkembang menuju 256 TB atau lebih, bukan tidak mungkin server 2U di masa depan mampu menampung lebih dari 10 PB bahkan puluhan petabyte flash dalam satu chassis.

Bagi hyperscaler, laboratorium AI, dan perusahaan besar, perubahan ini berpotensi mengubah cara merancang cluster storage—dan bahkan arsitektur pusat data secara keseluruhan.