Nvidia haalt opslag dichter naar de GPU met open cuFile en SCADA

De inzet is groot. AI-systemen beschikken over steeds snellere GPU’s, maar die kunnen vaak niet snel genoeg data uit de opslag aangeleverd krijgen. Daardoor staan GPU’s stil, blijven opslaglagen achter en ontstaan er nieuwe beveiligingsrisico’s wanneer applicaties rechtstreeks toegang krijgen tot data.

Drie onderdelen van Nvidia’s plan

1. cuFile wordt open source

Nvidia maakt de cuFile-API’s en de volledige onderliggende verticale opslagsoftwarestack open source. Daarmee kunnen GPU’s — en niet alleen CPU’s — rechtstreeks uit opslag lezen en naar opslag schrijven . cuFile is een belangrijk onderdeel van GPUDirect Storage (GDS) .

De ontwikkeling moet plaatsvinden onder de nieuwe GitHub-organisatie xio-sig, voluit de Accelerated I/O Special Interest Group. Google, Intel, Nvidia en Meta zijn de eerste beheerders . Het doel is om van cuFile een open, door de gemeenschap gedragen interface te maken in plaats van een uitsluitend Nvidia-gebonden oplossing .

Daarbij is enige voorzichtigheid nodig. Een analyse die kort na de aankondiging verscheen, stelde dat er op 4 augustus 2026 nog geen openbare code, licentie, ondersteunde kernelmatrix of migratiepad voor bestaande GPUDirect Storage-installaties beschikbaar was . Voor opslagarchitecten gaat het dus voorlopig om een aangekondigde koers, niet om een volledig uitgebrachte softwareversie.

2. Storage-Next moet de sector op één lijn brengen

Met Storage-Next lanceert Nvidia een formeel samenwerkingsverband van meer dan 40 opslag- en flashleveranciers, waaronder DDN, KIOXIA en Micron. Ook fabrikanten van controllers, koelingsspecialisten en normalisatieorganisaties doen mee .

Het initiatief moet afspraken opleveren over de manier waarop GPU-gestuurde opslag werkt. Nvidia wil de technische vooruitgang bovendien vertalen naar open en onderling compatibele industriestandaarden . Dat is belangrijk omdat een snellere GPU weinig oplevert wanneer SSD’s, controllers en netwerkapparatuur de datastroom niet kunnen volgen.

3. SCADA verplaatst de opslagregie naar de GPU

SCADA staat voor Scaled, Accelerated Data Access. Het framework is de productversie van Nvidia’s eerdere BaM-onderzoek, oftewel Big Accelerator Memory, dat in 2023 werd gepresenteerd tijdens ASPLOS .

SCADA is een runtime waarin sterk parallelle GPU’s hun eigen opslag-I/O kunnen starten en beheren. Honderdduizenden GPU-threads kunnen afzonderlijk data opvragen. Een cache aan de GPU-kant kan kleine, verspreide verzoeken samenvoegen en hergebruikte data sneller beschikbaar maken. De toegang kan rechtstreeks naar lokale NVMe-opslag of naar opslag op afstand verlopen .

Waarom dit de GPU-wachttijd kan verminderen

Bij traditionele, door de host aangestuurde I/O moet de CPU iedere opslagoverdracht voorbereiden. De GPU wacht dan op de overdracht en op de synchronisatie tussen CPU en GPU. Iedere bewerking brengt bovendien overhead met zich mee, zoals kernelstarts en synchronisatie, die al snel in microseconden wordt gemeten .

cuFile haalt de CPU uit het datapad: DMA kan data rechtstreeks naar het GPU-geheugen verplaatsen . SCADA gaat een stap verder en haalt de CPU ook uit het besturingspad. GPU-threads kunnen zelf leesopdrachten starten, kleine verzoeken bundelen en data uit de GPU-cache leveren .

In het onderliggende BaM-onderzoek werden data-analytische workloads op identieke hardware 5,3 keer sneller uitgevoerd dan met CPU-geïnitieerde toegang. Bij grafiekworkloads werd bovendien tot 21,7 keer lagere hardwarekost gemeten ten opzichte van het opslaan van data in het hostgeheugen . Die cijfers komen uit onderzoek en zijn geen garantie voor iedere productieomgeving.

De opslagkloof in AI

GPU’s kunnen data tegenwoordig sneller verwerken dan de meeste opslagsystemen die data kunnen aanleveren. Dat verschil vormt een belangrijke bottleneck voor AI-training en -inferentie . Volgens Nvidia moet cuFile met honderdduizenden GPU-threads, snel geheugen met hoge bandbreedte en beveiligde toegang tot opslag dataverzoeken op microsecondenniveau mogelijk maken .

Dat kan vooral relevant zijn voor toepassingen die voortdurend grote hoeveelheden data ophalen, zoals:

• retrieval-augmented generation (RAG), waarbij een model externe kennis raadpleegt;
• mixture-of-experts-modellen, die data tussen verschillende modelonderdelen verdelen;
• agentische AI-workflows, waarin systemen zelfstandig meerdere gegevensbronnen aanspreken.

Storage-Next moet voorkomen dat dit een oplossing van slechts één leverancier wordt. Door meer dan 40 partijen te laten samenwerken aan compatibele standaarden, probeert Nvidia de volledige opslagketen mee te laten groeien met de snelheid van GPU-gestuurde I/O .

Rechtstreekse toegang vraagt om sterke beveiliging

Directe toegang van GPU naar opslag brengt ook risico’s met zich mee. Zonder goede isolatie zou de ene applicatie data van een andere applicatie kunnen lezen of beschadigen .

In Nvidia’s SCADA-ontwerp zijn bevoegdheden daarom gescheiden. Prestatiekritische applicatiecode draait zonder verhoogde rechten en valt buiten de vertrouwde rekenbasis. Een bevoorrecht onderdeel stelt tijdens de configuratie beveiligde toegangsregels in, zodat iedere applicatie alleen bij de opslag komt waarvoor zij toestemming heeft. Daarbij worden standaardmechanismen uit Linux gebruikt .

Nvidia ziet cuFile daarnaast als een basis voor AI-gestuurde cybersecurity. Als beveiligingscontext, data en opslag snel genoeg beschikbaar zijn, kunnen AI-systemen volgens het bedrijf sneller preventieve en detectieve beveiligingsmaatregelen uitvoeren . De open aanpak sluit ook aan bij de Open Secure AI Alliance .

Voor de volledige hardwarestack noemt Nvidia Vera BlueField-4 STX-processors, met de uniforme NVIDIA DOCA-beveiligingsstack voor voortdurende beleidscontrole in het AI-datapad .

Wat verandert er nu voor de infrastructuursector?

De drie aankondigingen vormen samen Nvidia’s meest uitgebreide poging tot nu toe om de mismatch tussen GPU-rekenkracht en opslagcapaciteit aan te pakken. cuFile moet de softwarelaag opener en beter uitwisselbaar maken. Storage-Next moet leveranciers gezamenlijk aan standaarden laten werken. SCADA moet vervolgens de CPU niet alleen uit de datastroom, maar ook uit de aansturing van opslag halen.

De richting is duidelijk, maar de praktische impact hangt af van de uitvoering. Zolang de openbare code, licentie en migratie-informatie ontbreken, kunnen organisaties de aangekondigde open-sourceversie nog niet zonder meer in bestaande systemen opnemen . De belofte is vooral interessant voor toekomstige AI-infrastructuur waarin GPU’s, flashopslag en beveiliging vanaf het ontwerp als één geheel worden behandeld.