NVIDIA testa con Palantir l’IA sovrana sulla propria supply chain

NVIDIA e Palantir hanno presentato una piattaforma congiunta di IA sovrana per supply chain critiche e particolarmente complesse. Il primo cliente è NVIDIA stessa: l’azienda la sta distribuendo nelle proprie operazioni prima di proporre l’architettura ad altre organizzazioni. 11

Per «IA sovrana», in questo caso, non si intende un nuovo modello generico collegato a dati aziendali isolati: l’obiettivo è mantenere dati proprietari, pesi dei modelli e inferenza all’interno di un ambiente governato e controllato dall’organizzazione che lo utilizza. 1

Dal wafer al primo token

La prima applicazione riguarda il percorso dal wafer al primo token, cioè dalla produzione del semiconduttore fino al momento in cui un sistema di IA viene installato e inizia a generare output. NVIDIA intende così formalizzare e rendere riutilizzabile l’esperienza operativa maturata nella propria filiera. 11

La complessità è evidente nei sistemi Vera Rubin: un singolo rack richiede all’incirca 1,3 milioni di componenti, tra calcolo, memoria, rete, alimentazione, raffreddamento e parti meccaniche. 37

In una filiera di queste dimensioni, decidere dove destinare un componente scarso non è una semplice questione di fogli di calcolo. A limitare la produzione possono essere, per esempio, la capacità di uno stabilimento, la disponibilità di memoria, le tempistiche di consegna in ingresso oppure impegni già presi con i clienti.

NVIDIA impiega l’Ontology di Palantir e il suo Command Center per la supply chain insieme a NVIDIA cuOpt, software di ottimizzazione, per confrontare scenari e assegnare materiali tra diversi siti produttivi. 16

L’obiettivo dichiarato è ridurre il Time of Ownership, una metrica che misura per quanto tempo i materiali rimangono sotto il controllo di NVIDIA prima di contribuire alla consegna di sistemi finiti. In pratica, la piattaforma dovrebbe individuare il collo di bottiglia che frena il flusso produttivo e suggerire l’allocazione più utile ad affrontarlo. 1

Come è composta la piattaforma

I vari elementi hanno funzioni diverse:

• Nemotron, la famiglia di modelli aperti di NVIDIA, fornisce il livello di ragionamento adattabile alle decisioni di supply chain;
• Palantir Foundry e AIP (Artificial Intelligence Platform) costituiscono l’ambiente per dati, applicazioni, modelli e flussi di lavoro;
• Palantir Ontology modella entità e relazioni operative rilevanti, come materiali, siti, capacità, assegnazioni, impegni e risultati di produzione; 116
• NVIDIA cuOpt supporta l’ottimizzazione e l’analisi di scenari, per esempio nella ripartizione dei materiali. 1

L’idea, secondo le due aziende, è creare un ambiente operativo governato che unisca dati e decisioni, invece di affidarsi a un modello linguistico connesso in modo frammentario a più basi dati. 1

L’esperienza dei pianificatori diventa dato di addestramento

NVIDIA sostiene che l’ottimizzazione matematica, da sola, non riesca a cogliere tutto il contesto usato dai pianificatori più esperti. Nelle decisioni reali entrano anche informazioni non strutturate e soggette a rapidi cambiamenti: e-mail, previsioni meteorologiche, sviluppi geopolitici, resoconti dei fornitori e conoscenza accumulata nel tempo. 1

Per questo l’azienda ha usato le scelte di allocazione compiute dai pianificatori, le relative motivazioni e gli esiti successivi come dati di post-addestramento per una versione specializzata di Nemotron 3.5 Lightning. Il modello conta 30 miliardi di parametri complessivi e adotta un’architettura mixture-of-experts, con circa 3 miliardi di parametri attivi a ogni passaggio di elaborazione. 1

Sul proprio benchmark di sviluppo dedicato alle decisioni di allocazione, NVIDIA ha comunicato questi risultati:

Modello	Accuratezza riportata nelle decisioni di allocazione
Nemotron 3.5 Lightning post-addestrato	86,7%
Nemotron 3 Ultra	55,5%
Nemotron 3.5 Lightning base	17,5%

Si tratta di risultati dichiarati da NVIDIA sul suo benchmark di sviluppo, non di una verifica indipendente valida per ogni supply chain o installazione. 1

Perché l’ultima parola resta alle persone

La piattaforma non viene presentata come un sostituto autonomo dei pianificatori. Le scelte di allocazione possono comportare compromessi rilevanti, mentre informazioni nuove o eccezionali potrebbero non essere rappresentate nei dati usati per addestrare il modello.

I pianificatori umani restano quindi responsabili della revisione, della correzione e del miglioramento delle raccomandazioni. Le loro modifiche possono diventare nuovi record decisionali governati, alimentando un ciclo di affinamento operativo e di ulteriore post-addestramento. 1

Distribuzione: cloud, infrastrutture locali e settori regolati

NVIDIA e Palantir affermano che altre organizzazioni potranno adottare l’architettura attraverso la Palantir Sovereign AI Operating System Reference Architecture, sia in cloud sia su infrastruttura locale. Il posizionamento è rivolto a industrie complesse e contesti governativi nei quali è importante conservare il controllo sui dati proprietari. 11

La reference architecture si basa sulle NVIDIA Enterprise Reference Architectures ed è pensata per eseguire l’intera suite software Palantir, inclusi AIP, Foundry, Apollo, Rubix e AIP Hub. 29

Dell fa parte dell’ecosistema infrastrutturale collegato: la relativa architettura combina tecnologie Palantir e NVIDIA con Dell AI Factory, comprese le piattaforme PowerEdge, ObjectScale e PowerFlex. 17 Nelle comunicazioni sull’annuncio di settembre sono stati inoltre indicati Cisco, Rackspace e Nebius come partner per opzioni di distribuzione hardware o cloud. 25

La soluzione per la supply chain e le più ampie applicazioni dell’IA sovrana sono state mostrate all’evento AIPCon 11 di Palantir. 6

Il punto più significativo dell’annuncio è proprio la scelta di NVIDIA di usare la piattaforma nella propria filiera altamente vincolata. È un test operativo concreto: verificare se modelli specializzati per il dominio, ottimizzazione e dati governati possano migliorare le decisioni in uno degli ambienti di pianificazione industriale più complessi. 111