NVIDIA tester ny suveren KI-løsning i sin egen forsyningskjede

NVIDIA og Palantir har lansert en fellesutviklet suveren KI-løsning for komplekse, kritiske forsyningskjeder. NVIDIA tar den i bruk i sin egen virksomhet først – i praksis som den første kunden – før arkitekturen tilbys andre organisasjoner. 11

Poenget er ikke bare å legge en språkmodell oppå logistikkdata. Selskapene vil samle driftsdata, optimalisering, KI-modeller og erfaringen til fagfolk i et styrt miljø som virksomheten selv kontrollerer.

NVIDIA bruker sin egen verdikjede som test

Den første oppgaven er å korte ned veien fra halvlederwafer til «første token» – altså tidspunktet da et KI-system er satt i drift og produserer resultat. NVIDIA beskriver dette som et forsøk på å gjøre operativ kunnskap til en del av forsyningskjeden. 11

Behovet illustreres av Vera Rubin-systemene. Én enkelt rack består av om lag 1,3 millioner komponenter, blant annet datakraft, minne, nettverk, strøm, kjøling og mekaniske deler. 37

Når så mange avhengigheter skal gå opp, holder det ikke nødvendigvis med regneark. En materialplan kan bli begrenset av produksjonskapasitet, tilgang på enkeltkomponenter, tidspunktet varer ankommer eller leveringsforpliktelser til kunder. NVIDIA bruker Palantirs Ontology og et forsyningskjede-«Command Center» sammen med NVIDIA cuOpt for å vurdere scenarioer og fordele knappe materialer mellom ulike lokasjoner. 16

Målet er å redusere det NVIDIA kaller Time of Ownership: tiden materialer er under NVIDIAs kontroll før de kan inngå i systemer som leveres. Systemet skal dermed peke på flaskehalsen som begrenser gjennomstrømningen, og hvilken allokering som best kan lette den. 1

Slik er løsningen bygget opp

Komponentene har ulike roller:

• Nemotron-modeller med åpne vekter fra NVIDIA skal stå for resonnering som kan spesialtilpasses beslutninger i forsyningskjeden.
• Palantir Foundry og AIP (Artificial Intelligence Platform) er data- og applikasjonsmiljøet der teamene arbeider med modeller og operative arbeidsflyter.
• Palantir Ontology modellerer sentrale objekter og sammenhenger i den virkelige driften, som materialer, anlegg, kapasitet, allokeringer, forpliktelser og produksjonsutfall. 116
• NVIDIA cuOpt brukes til optimalisering og scenarioanalyser, blant annet for materialallokering. 1

Selskapene presenterer dette som et styrt driftsmiljø, ikke som en generell KI-modell koblet til enkeltstående datasett. NVIDIA fremhever at egne forsyningskjededata, modellvekter og modellkjøring holdes innenfor samme kontrollerte miljø. 1

Planleggernes erfaring ble treningsdata

NVIDIA oppdaget at matematisk optimalisering alene ikke fanger hele vurderingsgrunnlaget til erfarne planleggere. Beslutninger kan også bygge på ustrukturerte og raskt skiftende forhold, som e-poster, værprognoser, geopolitisk utvikling, samtaler med leverandører og intern kunnskap. 1

Selskapet brukte planleggernes valg av allokering, begrunnelsene deres og de påfølgende resultatene som data i videre trening av en spesialisert Nemotron 3.5 Lightning-modell. Modellen har 30 milliarder parametere totalt og en «mixture-of-experts»-arkitektur, med rundt 3 milliarder aktive parametere i hver kjøring. 1

På NVIDIAs eget utviklingsbenchmark for allokeringsbeslutninger oppga selskapet følgende resultater:

Modell	Oppgitt treffsikkerhet for allokeringsbeslutninger
Videreuttrent Nemotron 3.5 Lightning	86,7 %
Nemotron 3 Ultra	55,5 %
Grunnmodellen Nemotron 3.5 Lightning	17,5 %

Tallene er NVIDIAs egne resultater fra selskapets utviklingsbenchmark. De er ikke en uavhengig dokumentasjon av ytelsen i alle forsyningskjeder eller implementeringer. 1

Mennesker skal fortsatt ta ansvar

Løsningen beskrives ikke som en autonom erstatter for forsyningskjedeplanleggere. Materialallokering kan innebære betydelige avveininger, og ny informasjon kan oppstå uten å være representert i tidligere treningsdata.

Planleggerne skal derfor fortsatt gjennomgå, justere og forbedre anbefalingene. Slike inngrep kan lagres som nye styrte beslutningsregistre og gi et tilbakeløp for videre trening og forbedring av den operative løsningen. 1

Skal tilbys andre virksomheter og offentlige aktører

NVIDIA og Palantir sier at andre organisasjoner kan bruke arkitekturen i egne forsyningskjeder gjennom Palantir Sovereign AI Operating System Reference Architecture. Den kan kjøres i skyen eller på virksomhetens egen infrastruktur, og er rettet mot komplekse bransjer og offentlige miljøer som ønsker å beholde kontrollen over egne data. 11

Referansearkitekturen bygger på NVIDIA Enterprise Reference Architectures og er utformet for Palantir-programvare som AIP, Foundry, Apollo, Rubix og AIP Hub. 29

Dell inngår i infrastrukturen rundt løsningen. Dells tilhørende arkitektur kombinerer Dell AI Factory-infrastruktur, inkludert PowerEdge, ObjectScale og PowerFlex, med teknologi fra Palantir og NVIDIA. 17 I omtale av septemberlanseringen ble også Cisco, Rackspace og Nebius nevnt som partnere for maskinvare- eller skydistribusjon. 25

Løsningen for forsyningskjeder og de bredere suverene KI-bruksområdene ble vist frem på Palantirs AIPCon 11. 6

Det mest interessante ved lanseringen er at NVIDIA først bruker teknologien på sin egen, svært begrensede og kompliserte forsyningskjede. Det gjør prosjektet til en praktisk test av om fagspesifikke modeller, optimalisering og styrte driftsdata faktisk kan forbedre beslutninger i et av de mest krevende industrielle planleggingsmiljøene. 111