NVIDIA og Palantir lancerer suveræn AI-platform til kritiske forsyningskæder

NVIDIA og Palantir har lanceret en fælles suveræn AI-platform til komplekse, kritiske forsyningskæder. NVIDIA tager selv løsningen i brug først og fungerer dermed reelt som den første kunde, før arkitekturen tilbydes til andre organisationer. 11

Med »suveræn« mener selskaberne her et miljø, som organisationen selv kontrollerer: egne data, modelvægte og inferens – altså selve afviklingen af modellerne – skal kunne holdes i én styret platform. Det er derfor mere end en chatbot koblet på lager- og indkøbsdata. Målet er at samle driftsdata, optimering, AI-modeller og erfarne planlæggeres faglige vurderinger i samme beslutningsmiljø.

NVIDIA afprøver løsningen på sin egen forsyningskæde

Den første opgave er at forkorte vejen fra halvleder-wafer til første token – altså til et AI-system er sat i drift og leverer output. NVIDIA vil bruge platformen til at indkode operationel viden i sin egen forsyningskæde. 11

Udfordringen illustreres af NVIDIAs Vera Rubin-systemer. Ét rack består af omkring 1,3 millioner komponenter inden for blandt andet regnekraft, hukommelse, netværk, strøm, køling og mekaniske dele. 37

I en så tæt forbundet forsyningskæde kan en plan blive begrænset af eksempelvis produktionskapacitet, mangel på en enkelt komponent, forsinkede leverancer eller allerede indgåede kundeaftaler. NVIDIA bruger Palantirs Ontology og et supply-chain Command Center sammen med NVIDIA cuOpt til at analysere scenarier og fordele knappe materialer på tværs af lokationer. 16

NVIDIA beskriver sit mål som at reducere Time of Ownership: den tid, hvor materialer befinder sig under NVIDIAs kontrol, før de kan indgå i leverede systemer. I praksis skal systemet pege på den flaskehals, der holder gennemløbet tilbage, og på den materialefordeling, der bedst kan afhjælpe den. 1

Sådan er teknologien sat sammen

Platformens dele har hver sin funktion:

• Nemotron-modellerne fra NVIDIA leverer ræsonneringslaget, som kan specialiseres til beslutninger i forsyningskæden.
• Palantir Foundry og AIP er data- og applikationsmiljøet, hvor teams arbejder med modeller og operationelle arbejdsgange.
• Palantir Ontology modellerer de centrale enheder og relationer i den virkelige drift – materialer, fabrikker, kapacitet, tildelinger, forpligtelser og produktionsresultater. 116
• NVIDIA cuOpt bruges til optimering og scenarieanalyser, blandt andet ved fordeling af materialer. 1

Selskaberne fremstiller dermed løsningen som et styret driftsmiljø, ikke som en generel model, der kobles på enkeltstående datasæt. NVIDIA fremhæver, at fortrolige forsyningskædedata, modelvægte og inferens kan blive i det samme kontrollerede miljø. 1

Planlæggernes erfaring blev en del af træningen

NVIDIA vurderede, at matematisk optimering alene ikke fanger al den kontekst, som erfarne planlæggere anvender. Beslutninger kan afhænge af ustruktureret og hurtigt skiftende information – for eksempel e-mails, vejrudsigter, geopolitiske udviklinger, tilbagemeldinger fra leverandører og intern erfaring. 1

Selskabet brugte planlæggernes valg af materialefordeling, deres begrundelser og de efterfølgende resultater som data til eftertræning af en specialiseret Nemotron 3.5 Lightning-model. Modellen har 30 milliarder parametre og er bygget som en mixture-of-experts-model, hvor cirka 3 milliarder parametre er aktive i hver kørsel. 1

På NVIDIAs egen udviklingsbenchmark for beslutninger om materialefordeling oplyste selskabet følgende resultater:

Model	Oplyst træfsikkerhed ved beslutninger om materialefordeling
Eftertrænet Nemotron 3.5 Lightning	86,7 %
Nemotron 3 Ultra	55,5 %
Grundmodellen Nemotron 3.5 Lightning	17,5 %

Tallene er NVIDIAs egne resultater på selskabets egen udviklingsbenchmark. De er ikke en uafhængig måling af ydeevnen i alle forsyningskæder eller i enhver implementering. 1

Mennesker skal fortsat træffe den endelige vurdering

Løsningen præsenteres ikke som en autonom erstatning for forsyningskædeplanlæggere. Fordelingsbeslutninger kan have væsentlige konsekvenser, og ny information kan opstå, som ikke var repræsenteret i træningsdataene.

Menneskelige planlæggere skal derfor gennemgå, justere og forbedre anbefalingerne. Disse indgreb kan registreres som nye, styrede beslutningsdata og skabe en løbende feedbacksløjfe til videre eftertræning og forbedring af driften. 1

Skal kunne køre i skyen eller lokalt

NVIDIA og Palantir oplyser, at andre organisationer kan anvende arkitekturen til deres egne forsyningskæder via Palantir Sovereign AI Operating System Reference Architecture. Den kan installeres i skyen eller på organisationens egen infrastruktur, hvilket især retter sig mod komplekse industrier og myndighedsmiljøer med behov for kontrol over egne data. 11

Referencearkitekturen bygger på NVIDIA Enterprise Reference Architectures og er kvalificeret til Palantirs softwarepakke, herunder AIP, Foundry, Apollo, Rubix og AIP Hub. 29

Dell indgår i det tilknyttede infrastrukturøkosystem med en arkitektur, der kombinerer Dell AI Factory-infrastruktur – herunder PowerEdge, ObjectScale og PowerFlex – med Palantirs og NVIDIAs teknologier. 17 I omtalen af septemberlanceringen blev også Cisco, Rackspace og Nebius nævnt som partnere til hardware- eller cloudimplementeringer. 25

Løsningen til forsyningskæder og de bredere anvendelser af suveræn AI blev vist frem på Palantirs AIPCon 11. 6

Det centrale ved lanceringen er, at NVIDIA først anvender den fælles platform i sin egen, stærkt begrænsede forsyningskæde. Det gør implementeringen til en praktisk prøve på, om domænespecifikke modeller, optimering og styrede driftsdata kan forbedre beslutninger i et af de mest komplekse industrielle planlægningsmiljøer. 111