Nvidia åpner cuFile og lanserer Storage-Next for å hindre at AI-GPU-er går på tomgang

Tre kunngjøringer fra Nvidia

cuFile skal bli åpen kildekode

Nvidia skal åpne cuFile-API-ene og hele den vertikale programvarestakken under dem. Teknologien gjør det mulig for GPU-er – ikke bare CPU-er – å lese fra og skrive til lagring direkte . cuFile er en sentral del av GPUDirect Storage (GDS) .

Koden skal forvaltes gjennom den nye GitHub-organisasjonen xio-sig, forkortelse for Accelerated IO Special Interest Group. Google, Intel, Nvidia og Meta er oppført som de første vedlikeholderne . Ambisjonen er dermed å gjøre cuFile til et åpent og mer interoperabelt grensesnitt, i stedet for en Nvidia-spesifikk løsning .

Det er likevel en viktig forbeholdenhet her: En analyse publisert etter kunngjøringen skrev at det per 4. august 2026 fortsatt ikke var tilgjengelig offentlig kode, lisens, støttematrise for kjerner eller migreringsplan for eksisterende GPUDirect Storage-installasjoner . For virksomheter betyr det at dette foreløpig bør behandles som en annonsert retning, ikke som en ferdig utrulling.

Storage-Next skal samle lagringsbransjen

Storage-Next er et formelt initiativ med over 40 leverandører av lagring og flash, blant dem DDN, KIOXIA og Micron. Også produsenter av kontrollere, kjøleløsninger og andre deler av infrastrukturen, samt standardiseringsorganisasjoner, deltar .

Målet er å samordne hvordan lagring skal fungere når GPU-en selv driver stadig mer av dataflyten. Nvidia vil at utviklingen skal munne ut i åpne, samvirkende industristandarder – ikke løsninger som bare fungerer innenfor én leverandørs økosystem .

SCADA flytter kontrollen nærmere GPU-en

SCADA, eller Scaled, Accelerated Data Access, er produktversjonen av Nvidias tidligere BaM-forskning (Big Accelerator Memory) fra ASPLOS 2023 . Rammeverket lar en massiv mengde GPU-tråder starte og håndtere egne I/O-operasjoner mot lagring.

I stedet for at CPU-en må sette opp hver enkelt forespørsel, kan hundretusener av GPU-tråder be om data selv. SCADA kombinerer dette med hurtigbufring på GPU-en og direkte tilgang til lokal NVMe- eller ekstern lagring .

Hvorfor dette kan bety noe for AI-systemer

Mindre GPU-venting

I tradisjonelle systemer må CPU-en orkestrere lagringsoverføringene. GPU-en kan derfor bli stående ubrukt mens systemet setter opp neste dataflytting, og hver operasjon kan påføre mikrosekunder med oppstart og synkronisering mellom CPU og GPU .

cuFile fjerner CPU-en fra selve datastien: Data kan flyttes direkte til GPU-minnet ved hjelp av DMA . SCADA går et steg videre ved også å fjerne CPU-en fra kontrollstien. GPU-trådene kan selv starte lesinger, samle mange små og spredte forespørsler og hente data fra en buffer på GPU-en .

I den underliggende BaM-forskningen ble dataanalysearbeid utført 5,3 ganger raskere enn med CPU-initiert tilgang på identisk maskinvare. For grafarbeid viste forskningen opptil 21,7 ganger lavere maskinvarekostnad sammenlignet med å lagre data i vertsminnet . Resultatene gjelder forskningen, ikke nødvendigvis en ferdig SCADA-implementering i alle typer produksjonsmiljøer.

Lagringen må holde tritt med AI

GPU-er kan behandle data raskere enn mange lagringssystemer klarer å levere dem. Dette gapet er blitt en viktig flaskehals for både trening og kjøring av AI-modeller .

Nvidia beskriver cuFile som en måte å gi sikker tilgang til data fra lagring på mikrosekundnivå, ved å utnytte hundretusener av GPU-tråder og minne med høy båndbredde . Det kan bli særlig relevant for systemer som bruker RAG (retrieval-augmented generation), mixture-of-experts-modeller og såkalt agentisk AI – arbeidslaster som ofte må hente store mengder data parallelt og med lav forsinkelse .

Storage-Next skal samtidig sørge for at dette ikke blir et rent Nvidia-prosjekt. Ved å samle mer enn 40 aktører forsøker initiativet å få flashlagring, kontrollere, nettverk og kjøling til å utvikle seg i takt med GPU-enes I/O-behov .

Sikkerhet blir avgjørende

Direkte tilgang fra GPU til lagring kan også skape nye sikkerhetsproblemer. Uten tilstrekkelig isolasjon kunne én applikasjon i verste fall lese eller endre en annen applikasjons data .

SCADA skiller derfor mellom privilegienivåer. Den ytelseskritiske applikasjonskoden kjører uten privilegier og utenfor den betrodde databehandlingsbasen. En privilegert komponent setter under oppstart opp beskyttet tilgang mellom hver applikasjon og bare den lagringen applikasjonen er godkjent for. Modellen bygger på standardmekanismer i Linux .

Nvidia framstiller også åpen cuFile-tilgang som en byggestein for AI-basert cybersikkerhet: Sikker og rask tilgang til data og lagring skal gjøre det mulig å oppdage og forebygge trusler i samme tempo som AI-systemene opererer . Initiativet knyttes dessuten til Open Secure AI Alliance .

På maskinvaresiden bruker den komplette stakken, med Nvidia Vera BlueField-4 STX-prosessorer, Nvidias samlede DOCA-sikkerhetsstakk for kontinuerlig håndheving av regler i AI-datastien .

Et forsøk på å endre arkitekturen

Kunngjøringene fra FMS 2026 viser en bred satsing fra Nvidia på å redusere avstanden mellom GPU-enes beregningshastighet og lagringssystemenes evne til å levere data. cuFile skal åpne programvaregrensesnittet og gjøre det lettere for flere aktører å bygge kompatible løsninger. Storage-Next skal koordinere selve industrien. SCADA skal redusere CPU-ens rolle både i dataflyttingen og i styringen av lagringsforespørslene .

Om dette faktisk blir en åpen standard i praksis, vil avhenge av hvor raskt kode, lisensvilkår og støtte for eksisterende systemer blir tilgjengelig. Men retningen er tydelig: I Nvidias AI-arkitektur skal GPU-en ikke lenger bare behandle data – den skal i større grad også hente dem selv.