NVIDIA en Palantir bouwen soevereine AI voor kritieke toeleveringsketens

NVIDIA en Palantir hebben een gezamenlijke soevereine AI-stack voor complexe en kritieke toeleveringsketens aangekondigd. NVIDIA zet de technologie eerst in binnen de eigen operatie en treedt daarmee feitelijk op als eerste klant. Daarna willen de bedrijven de architectuur beschikbaar maken voor andere organisaties. 11

Het gaat nadrukkelijk niet alleen om een chatbot boven op logistieke data. De opzet brengt operationele gegevens, optimalisatiesoftware, AI-modellen en de ervaring van planners samen in een beheerde omgeving die de organisatie zelf controleert.

NVIDIA gebruikt de stack eerst voor zijn eigen keten

De eerste toepassing richt zich op het versnellen van het traject van halfgeleiderwafer naar de eerste geproduceerde AI-output, ofwel first token. NVIDIA wil operationele kennis daarmee vastleggen en inzetbaar maken in de eigen toeleveringsketen. 11

De schaal daarvan is uitzonderlijk. Eén rack uit NVIDIA's Vera Rubin-systemen bevat ongeveer 1,3 miljoen onderdelen: van reken- en geheugenchips tot netwerkapparatuur, stroomvoorziening, koeling en mechanische componenten. 37

Bij zo'n verweven keten is materiaaltoewijzing geen eenvoudig spreadsheetvraagstuk. Productiecapaciteit, beschikbaarheid van onderdelen, aankomsttijden van leveringen en al aangegane klantverplichtingen kunnen allemaal een plan blokkeren. NVIDIA gebruikt Palantir Ontology en een Supply Chain Command Center, samen met NVIDIA cuOpt, om scenario's door te rekenen en schaarse materialen over locaties te verdelen. 16

NVIDIA stuurt daarbij op een eigen maatstaf: Time of Ownership. Daarmee bedoelt het bedrijf de tijd dat materialen onder zijn beheer blijven voordat zij kunnen bijdragen aan een geleverd systeem. Het systeem moet blootleggen welke beperking de doorvoer afremt en welke verdelingskeuze die beperking het best wegneemt. 1

Welke rol de verschillende onderdelen spelen

De stack bestaat uit vier hoofdlagen:

• NVIDIA Nemotron open modellen vormen de redeneerlaag en kunnen worden gespecialiseerd voor beslissingen in de toeleveringsketen.
• Palantir Foundry en AIP bieden de data- en applicatieomgeving waarin teams met modellen en operationele werkstromen werken.
• Palantir Ontology legt de belangrijke objecten en onderlinge relaties vast, zoals materialen, locaties, capaciteit, toewijzingen, verplichtingen en productieresultaten. 116
• NVIDIA cuOpt ondersteunt optimalisatie en scenarioanalyse, bijvoorbeeld voor de verdeling van materialen. 1

De bedrijven presenteren dit als een beheerde operationele omgeving, niet als een algemeen AI-model dat los aan afzonderlijke databronnen hangt. Volgens NVIDIA blijven bedrijfseigen ketendata, modelgewichten en inferentie in één gecontroleerde omgeving. 1

Ook de ervaring van planners werd trainingsdata

NVIDIA concludeerde dat wiskundige optimalisatie op zichzelf niet alle context van ervaren planners kan vangen. Bij beslissingen tellen ook ongestructureerde en snel veranderende signalen mee, zoals e-mails, weersverwachtingen, geopolitieke ontwikkelingen, terugkoppeling van leveranciers en opgebouwde institutionele kennis. 1

De keuzes van planners, hun onderbouwingen en de latere uitkomsten gebruikte NVIDIA als data voor verdere training van een gespecialiseerd Nemotron 3.5 Lightning-model. Dit model heeft in totaal 30 miljard parameters en gebruikt een mixture-of-experts-ontwerp, waarbij per verwerking ongeveer 3 miljard parameters actief zijn. 1

Op NVIDIA's eigen ontwikkelingsbenchmark voor beslissingen over materiaaltoewijzing rapporteerde het bedrijf deze resultaten:

Model	Gerapporteerde nauwkeurigheid bij toewijzingsbeslissingen
Nabewerkt Nemotron 3.5 Lightning	86,7%
Nemotron 3 Ultra	55,5%
Basismodel Nemotron 3.5 Lightning	17,5%

Dit zijn door NVIDIA gerapporteerde resultaten op een eigen ontwikkelingsbenchmark. Ze vormen dus geen onafhankelijke maatstaf voor prestaties in elke toeleveringsketen of implementatie. 1

Planners blijven verantwoordelijk

De bedrijven positioneren de oplossing niet als vervanging van supplychainplanners. Materiaaltoewijzing kan grote operationele gevolgen hebben, terwijl nieuwe informatie kan opduiken die niet in eerdere trainingsdata zat.

Menselijke planners blijven aanbevelingen daarom beoordelen, aanpassen en verbeteren. Die interventies kunnen vervolgens worden vastgelegd als nieuwe beheerde beslisrecords, waarmee een feedbacklus ontstaat voor verdere training en verfijning van de operatie. 1

Uitrol op eigen infrastructuur of in de cloud

Andere organisaties kunnen de architectuur volgens NVIDIA en Palantir inzetten via de Palantir Sovereign AI Operating System Reference Architecture. Die kan in de cloud of op eigen infrastructuur draaien. De beoogde gebruikers zijn onder meer complexe industrieën en overheidsomgevingen waarin organisaties controle over vertrouwelijke data willen behouden. 11

De referentiearchitectuur bouwt voort op NVIDIA Enterprise Reference Architectures en is getest voor Palantir-software, waaronder AIP, Foundry, Apollo, Rubix en AIP Hub. 29

Dell maakt deel uit van het bredere infrastructuurecosysteem met een verwante architectuur die Dell AI Factory-infrastructuur — waaronder PowerEdge, ObjectScale en PowerFlex — combineert met Palantir- en NVIDIA-technologie. 17 Bij de aankondiging in september werden ook Cisco, Rackspace en Nebius genoemd als partners voor hardware- of cloudimplementaties. 25

De toepassing voor de toeleveringsketen en de bredere soevereine-AI-toepassingen werden getoond tijdens Palantirs AIPCon 11. 6

De kern van de aankondiging is dat NVIDIA de stack eerst op zijn eigen, zeer complexe keten loslaat. Daarmee wordt de inzet een praktijktest: kunnen domeinspecifieke modellen, optimalisatie en beheerde operationele data samen betere beslissingen opleveren in een van de ingewikkeldste industriële planningsomgevingen? 111