Nvidia testar ny AI-stack i sin egen leveranskedja

Nvidia och Palantir har presenterat en gemensamt utvecklad suverän AI-stack för komplexa och kritiska leveranskedjor. Nvidia blir den första användaren och tar lösningen i drift i den egna verksamheten innan arkitekturen erbjuds till andra organisationer. 11

Det handlar inte bara om att lägga en chattbot ovanpå leveranskedjedata. Målet är att samla operativa data, optimeringsmjukvara, AI-modeller och erfarna planerares bedömningar i en styrd miljö som organisationen själv kontrollerar.

Nvidia blir första testfallet

Stacken integrerar Nvidias öppna Nemotron-modeller i Palantir Foundry och Palantir Artificial Intelligence Platform, AIP. Under finns Palantir Ontology, som modellerar verksamhetens centrala objekt och samband. Enligt bolagen ska systemet kunna identifiera flaskhalsar, fånga upp operativ kunskap och stödja beslut i leveranskedjan. 11

För Nvidia är den första uppgiften att korta vägen från halvledar-wafer till första token – alltså till punkten där ett AI-system är driftsatt och producerar resultat. Tanken är att göra kunskap från den dagliga planeringen användbar direkt i leveranskedjan. 11

Utmaningen är stor: ett enda rack i Nvidias Vera Rubin-system innehåller omkring 1,3 miljoner komponenter, inklusive beräkning, minne, nätverk, kraftförsörjning, kylning och mekaniska delar. 37

När så många beroenden ska samordnas räcker det inte med kalkylblad. Tillverkningskapacitet, tillgång på komponenter, leveranstider och redan ingångna kundåtaganden kan alla begränsa planen. Nvidia använder Palantirs Ontology och ett Command Center för leveranskedjan tillsammans med Nvidias optimeringsverktyg cuOpt för att testa scenarier och fördela bristmaterial mellan olika anläggningar. 16

Nvidias mål är att minska det bolaget kallar Time of Ownership: tiden då material ligger under Nvidias kontroll innan det kan bidra till levererade system. I praktiken ska lösningen peka ut vilken begränsning som bromsar flödet och vilken materialallokering som bäst löser problemet. 1

Så fördelas rollerna i AI-stacken

• Nemotron-modellerna står för resonemangslagret och kan specialiseras för beslut i leveranskedjan.
• Palantir Foundry och AIP utgör data- och applikationsmiljön där team arbetar med modeller och operativa arbetsflöden.
• Palantir Ontology beskriver förhållanden mellan exempelvis material, anläggningar, kapacitet, allokeringar, åtaganden och produktionsutfall. 116
• Nvidia cuOpt används för optimering och scenarioanalys, bland annat vid materialallokering. 1

Bolagen beskriver detta som en styrd operativ miljö, snarare än en generell språkmodell ansluten till fristående datakällor. Enligt Nvidia hålls proprietära leveranskedjedata, modellvikter och inferens inom samma kontrollerade miljö. 1

Planerarnas erfarenhet används för att träna modellen

Nvidia konstaterade att ren matematisk optimering inte fångar all den kontext som erfarna planerare använder. Beslut kan påverkas av ostrukturerad och snabbt föränderlig information, som e-post, väderprognoser, geopolitiska händelser, leverantörsgenomgångar och intern erfarenhet. 1

Bolaget använde planerarnas val av materialallokering, deras motiveringar och de senare resultaten som data för efterträning av en specialiserad Nemotron 3.5 Lightning. Modellen har totalt 30 miljarder parametrar och en mixture-of-experts-arkitektur, där omkring 3 miljarder parametrar är aktiva vid varje körning. 1

På Nvidias eget utvecklingsbenchmark för allokeringsbeslut rapporterade bolaget följande resultat:

Modell	Rapporterad träffsäkerhet för allokeringsbeslut
Eftertränad Nemotron 3.5 Lightning	86,7 %
Nemotron 3 Ultra	55,5 %
Grundmodellen Nemotron 3.5 Lightning	17,5 %

Siffrorna är Nvidias egna resultat från ett eget utvecklingsbenchmark. De är inte ett oberoende mått på hur lösningen fungerar i alla leveranskedjor eller installationer. 1

Människor ska fortsatt granska besluten

Bolagen beskriver inte lösningen som en autonom ersättare för planerare. Materialallokering kan innebära betydande avvägningar, och ny information kan uppstå som modellen inte har tränats på.

Mänskliga planerare ska därför granska, justera och förbättra rekommendationerna. Dessa ingrepp kan sedan bli nya styrda beslutsunderlag, vilket skapar en återkopplingsloop för fortsatt efterträning och förbättring av verksamheten. 1

Kan köras i molnet eller lokalt

Nvidia och Palantir säger att andra organisationer kan använda arkitekturen för egna leveranskedjor genom Palantir Sovereign AI Operating System Reference Architecture. Den kan driftsättas i molnet eller i den egna infrastrukturen, vilket är relevant för komplexa branscher och offentliga verksamheter som vill behålla kontrollen över känsliga data. 11

Referensarkitekturen bygger på Nvidias Enterprise Reference Architectures och är utformad för att köra Palantirs programvara, inklusive AIP, Foundry, Apollo, Rubix och AIP Hub. 29

Dell ingår i det omgivande infrastrukturekosystemet med en relaterad arkitektur som kombinerar Dell AI Factory-infrastruktur – däribland PowerEdge, ObjectScale och PowerFlex – med teknik från Palantir och Nvidia. 17 I rapporteringen om septemberlanseringen nämndes även Cisco, Rackspace och Nebius som partner för alternativ inom hårdvara eller molndrift. 25

Lösningen för leveranskedjan och de bredare tillämpningarna för suverän AI visades upp på Palantirs evenemang AIPCon 11. 6

Den centrala poängen är att Nvidia väljer att börja i sin egen, mycket hårt begränsade leveranskedja. Det gör utrullningen till ett praktiskt test av om branschanpassade modeller, optimering och styrda verksamhetsdata faktiskt kan förbättra beslut i en av industrins mest komplexa planeringsmiljöer. 111