Nvidia Buka Sumber cuFile dan Luncurkan Storage-Next untuk Atasi GPU yang Kekurangan Data

Ketiganya dirancang untuk menjawab tiga persoalan besar infrastruktur AI: GPU yang harus menunggu data, sistem penyimpanan yang tidak mampu mengimbangi kecepatan komputasi, dan risiko keamanan ketika GPU diberi akses langsung ke penyimpanan.

Tiga pengumuman utama Nvidia

cuFile menjadi proyek sumber terbuka

Nvidia akan membuka sumber API cuFile beserta seluruh tumpukan perangkat lunak penyimpanan vertikal di bawahnya. Teknologi ini memungkinkan GPU—bukan hanya CPU—membaca dan menulis data langsung ke penyimpanan . cuFile merupakan komponen penting dari GPUDirect Storage (GDS) milik Nvidia .

Kode tersebut akan ditempatkan di GitHub melalui organisasi xio-sig (Accelerated IO Special Interest Group). Google, Intel, Nvidia, dan Meta ditetapkan sebagai pengelola awal proyek . Langkah ini dimaksudkan untuk menjadikan cuFile sebagai antarmuka terbuka yang dapat dikembangkan bersama, bukan teknologi yang hanya bergantung pada Nvidia .

Meski demikian, ada catatan penting bagi pengelola infrastruktur. Analisis yang terbit tidak lama setelah pengumuman menyebutkan bahwa hingga 4 Agustus 2026 belum tersedia kode publik, lisensi, matriks kernel yang didukung, maupun jalur migrasi untuk penerapan GPUDirect Storage yang sudah berjalan . Artinya, arsitek penyimpanan sebaiknya memandangnya sebagai arah pengembangan yang telah diumumkan, bukan rilis siap pakai.

Storage-Next menggalang lebih dari 40 vendor

Nvidia juga meresmikan Storage-Next, konsorsium yang melibatkan lebih dari 40 vendor penyimpanan dan flash, termasuk DDN, KIOXIA, dan Micron. Inisiatif ini turut mencakup pembuat pengendali, spesialis pendinginan, penyedia orkestrasi, dan lembaga standardisasi .

Tujuannya adalah menyelaraskan cara kerja penyimpanan yang digerakkan GPU, lalu mengubah kemajuan tersebut menjadi standar industri yang terbuka dan interoperabel . Dengan begitu, peningkatan kinerja tidak berhenti pada satu produk atau satu vendor saja.

SCADA memindahkan kendali I/O ke GPU

SCADA adalah bentuk produk dari riset Nvidia bernama BaM (Big Accelerator Memory) yang dipresentasikan pada ASPLOS 2023 . Kerangka runtime ini memungkinkan GPU yang memiliki tingkat paralelisme tinggi untuk memulai dan mengelola operasi input/output penyimpanan secara mandiri.

Dalam rancangan tersebut, ratusan ribu thread GPU dapat mengajukan permintaan data masing-masing. SCADA juga menyediakan cache di sisi GPU serta akses langsung ke penyimpanan NVMe lokal maupun penyimpanan jarak jauh .

Bagaimana teknologi ini mengatasi hambatan AI?

1. Mengurangi GPU yang menganggur

Pada pola I/O tradisional, CPU harus menyiapkan setiap transfer data. GPU akhirnya menunggu, sementara setiap operasi menambah jeda mikrodetik akibat peluncuran kernel dan sinkronisasi CPU-GPU .

cuFile mengeluarkan CPU dari jalur data. Melalui DMA, data dapat dipindahkan langsung ke memori GPU . SCADA melangkah lebih jauh dengan mengurangi peran CPU dalam jalur kendali: thread GPU dapat memulai pembacaan sendiri, menggabungkan permintaan kecil yang tersebar, dan mengambil data dari cache di sisi GPU .

Dalam perangkat keras yang sama, riset BaM yang menjadi dasar SCADA menjalankan beban kerja analitik data hingga 5,3 kali lebih cepat dibandingkan akses yang dimulai CPU. Pada beban kerja graf, riset itu juga mencatat biaya perangkat keras hingga 21,7 kali lebih rendah dibandingkan penyimpanan data di memori host .

2. Menutup kesenjangan antara GPU dan penyimpanan

GPU kini dapat memproses data lebih cepat daripada kemampuan sebagian besar sistem penyimpanan dalam memasoknya. Kesenjangan inilah yang menjadi salah satu hambatan utama pelatihan dan inferensi AI .

Menurut Nvidia, cuFile memungkinkan akses data yang aman dari penyimpanan dalam hitungan mikrodetik dengan memanfaatkan ratusan ribu thread GPU dan memori berbandwidth tinggi . Hasilnya adalah jalur berlatensi rendah antara penyimpanan berkapasitas besar dan memori GPU.

Kemampuan ini relevan untuk sistem retrieval-augmented generation (RAG), model mixture-of-experts, dan alur kerja AI berbasis agen yang harus mengambil data dalam jumlah besar secara cepat dan paralel . Sementara itu, Storage-Next dimaksudkan untuk memastikan seluruh ekosistem—mulai dari flash, pengendali, hingga jaringan—dapat mengikuti pola I/O yang digerakkan GPU .

3. Menjaga keamanan akses langsung GPU

Akses langsung GPU ke penyimpanan juga membawa risiko. Tanpa perlindungan yang tepat, satu aplikasi dapat membaca atau merusak data milik aplikasi lain .

Desain SCADA memisahkan tingkat hak akses. Kode aplikasi yang membutuhkan kinerja tinggi berjalan tanpa hak istimewa dan berada di luar trusted computing base. Komponen dengan hak istimewa hanya mengatur akses terlindungi antara aplikasi dan penyimpanan yang telah disetujui saat proses penyiapan, dengan memanfaatkan mekanisme keamanan Linux standar .

Nvidia juga menempatkan cuFile sebagai fondasi untuk keamanan siber berbasis AI. Menurut perusahaan, akses yang cepat dan aman terhadap data serta penyimpanan diperlukan agar sistem pertahanan preventif dan detektif berbasis AI dapat bekerja pada kecepatan yang dibutuhkan . Pendekatan ini turut mendukung Open Secure AI Alliance .

Pada tingkat perangkat keras, rangkaian Nvidia Vera BlueField-4 STX menggunakan tumpukan keamanan terpadu NVIDIA DOCA untuk menerapkan kebijakan secara berkelanjutan di jalur data AI .

Apa artinya bagi infrastruktur AI?

Tiga pengumuman di FMS 2026 menunjukkan upaya Nvidia untuk mengatasi ketidakseimbangan arsitektur antara kecepatan komputasi GPU dan kemampuan sistem penyimpanan dalam mengirimkan data.

Pembukaan sumber cuFile diharapkan mempercepat pengembangan bersama dan interoperabilitas . Storage-Next menyediakan koordinasi industri agar flash, pengendali, pendinginan, dan jaringan dapat berkembang mengikuti kebutuhan I/O berbasis GPU . Sementara itu, SCADA menawarkan jalur praktis untuk mengurangi ketergantungan pada CPU, baik dalam pemindahan data maupun pengendalian permintaan I/O .

Namun, dampaknya bagi penerapan nyata masih bergantung pada ketersediaan kode, lisensi, dukungan perangkat keras, dan jalur migrasi yang jelas. Untuk saat ini, pengumuman Nvidia lebih tepat dibaca sebagai fondasi ekosistem penyimpanan AI terbuka yang sedang dibangun—bukan sebagai pengganti langsung bagi sistem GPUDirect Storage yang sudah digunakan.