NVIDIA testuje z Palantirem AI dla łańcucha dostaw liczącego 1,3 mln części

NVIDIA i Palantir ogłosiły wspólnie opracowany suwerenny stos AI dla złożonych, krytycznych łańcuchów dostaw. Pierwszym wdrożeniem jest własny łańcuch dostaw NVIDIA — firma pełni więc rolę pierwszego użytkownika rozwiązania, zanim architektura trafi do innych organizacji. 11

„Suwerenny” w tym kontekście oznacza przede wszystkim kontrolę organizacji nad środowiskiem przetwarzania: jej danymi operacyjnymi, wagami modeli oraz inferencją, czyli generowaniem wyników przez model. Nie chodzi zatem o dołączenie ogólnego czatbota do firmowych tabel, lecz o połączenie danych, optymalizacji, modeli AI i wiedzy planistów w zarządzanym środowisku. 1

Co składa się na nowy stos AI

Rozwiązanie integruje otwarte modele NVIDIA Nemotron z platformami Palantir Foundry i Artificial Intelligence Platform (AIP). Warstwą opisującą działalność operacyjną ma być Palantir Ontology — model powiązań między realnymi obiektami i zdarzeniami, takimi jak materiały, zakłady, moce produkcyjne, przydziały, zobowiązania wobec klientów i wyniki produkcji. 116

Role poszczególnych elementów są następujące:

• Nemotron dostarcza warstwę modelową, którą można wyspecjalizować pod decyzje dotyczące łańcucha dostaw.
• Foundry i AIP są środowiskiem pracy z danymi, modelami oraz procesami operacyjnymi.
• Ontology odwzorowuje istotne elementy działalności i relacje między nimi. 116
• NVIDIA cuOpt wspiera optymalizację oraz analizę wariantów, m.in. przy przydzielaniu ograniczonych zasobów materiałowych. 1

Pierwszym celem NVIDIA jest skrócenie drogi „od wafla do pierwszego tokenu”, czyli od etapu produkcji półprzewodnika do momentu, gdy gotowy system AI zostaje uruchomiony i zaczyna generować wyniki. 11

Dlaczego właśnie łańcuch dostaw Vera Rubin

Skala problemu jest ogromna. Jedna szafa rack systemu NVIDIA Vera Rubin obejmuje około 1,3 mln komponentów: elementy obliczeniowe, pamięć, sieć, zasilanie, chłodzenie oraz podzespoły mechaniczne. 37

Przy takim stopniu współzależności decyzja o przydziale materiału nie sprowadza się do sprawdzenia stanu magazynowego. Plan może ograniczać dostępna wydajność zakładu, brak konkretnej części, termin dostawy, przepustowość transportu albo już podjęte zobowiązania wobec klientów.

NVIDIA wykorzystuje Ontology Palantira, narzędzie Command Center dla łańcucha dostaw oraz cuOpt, by porównywać scenariusze i rozdzielać ograniczone materiały między lokalizacjami. 16

Firma opisuje cel decyzyjny jako ograniczanie Time of Ownership — czasu, przez który materiał pozostaje pod kontrolą NVIDIA, zanim przełoży się na dostarczony system. W praktyce system ma wskazywać ograniczenie hamujące przepustowość oraz taki wariant alokacji, który najlepiej je łagodzi. 1

Model uczył się także na decyzjach ludzi

NVIDIA uznała, że sama optymalizacja matematyczna nie obejmuje całego kontekstu wykorzystywanego przez doświadczonych planistów. Na decyzje mogą wpływać szybko zmieniające się i nieustrukturyzowane informacje: e-maile, prognozy pogody, sytuacja geopolityczna, rozmowy z dostawcami czy wiedza instytucjonalna. 1

Do dalszego treningu wyspecjalizowanego modelu Nemotron 3.5 Lightning wykorzystano decyzje alokacyjne planistów, ich uzasadnienia oraz późniejsze rezultaty. Model ma łącznie 30 mld parametrów i architekturę mixture-of-experts; przy pojedynczym przebiegu aktywnych jest około 3 mld parametrów. 1

W rozwojowym benchmarku decyzji alokacyjnych NVIDIA podała następujące wyniki:

Model	Deklarowana trafność decyzji alokacyjnych
Dotrenowany Nemotron 3.5 Lightning	86,7%
Nemotron 3 Ultra	55,5%
Bazowy Nemotron 3.5 Lightning	17,5%

Są to wyniki podane przez NVIDIA dla jej własnego benchmarku rozwojowego. Nie stanowią niezależnego pomiaru skuteczności we wszystkich łańcuchach dostaw ani w każdym możliwym wdrożeniu. 1

Człowiek nadal zatwierdza rekomendacje

Firmy nie przedstawiają systemu jako autonomicznego zastępstwa dla planistów. Decyzje o alokacji mogą mieć poważne skutki biznesowe, a w każdej chwili mogą pojawić się nowe informacje, których model wcześniej nie znał.

Dlatego planiści mają sprawdzać, korygować i ulepszać rekomendacje. Takie interwencje mogą trafiać do zarządzanego rejestru decyzji, tworząc pętlę informacji zwrotnej dla dalszego treningu i doskonalenia procesów. 1

Wdrożenia dla innych organizacji

NVIDIA i Palantir zapowiedziały, że inne organizacje będą mogły używać tej architektury w swoich łańcuchach dostaw za pośrednictwem Palantir Sovereign AI Operating System Reference Architecture — zarówno w chmurze, jak i we własnej infrastrukturze lokalnej. Zastosowania są kierowane m.in. do złożonych branż i środowisk rządowych, gdzie szczególne znaczenie ma kontrola nad zastrzeżonymi danymi. 11

Powiązana architektura referencyjna opiera się na NVIDIA Enterprise Reference Architectures i została zaprojektowana do uruchamiania pakietu Palantira, obejmującego AIP, Foundry, Apollo, Rubix i AIP Hub. 29

W otoczeniu infrastrukturalnym uczestniczy też Dell. Jego powiązana architektura łączy technologie Palantira i NVIDIA z infrastrukturą Dell AI Factory, w tym platformami PowerEdge, ObjectScale i PowerFlex. 17 W relacjach dotyczących wrześniowego ogłoszenia jako partnerów opcji sprzętowych lub chmurowych wymieniono również Cisco, Rackspace i Nebius. 25

Rozwiązanie dla łańcucha dostaw i szersze zastosowania suwerennej AI pokazano podczas wydarzenia AIPCon 11 organizowanego przez Palantira. 6

Najważniejszy element ogłoszenia jest praktyczny: NVIDIA najpierw wdraża wspólny stos we własnym, wyjątkowo ograniczonym i złożonym łańcuchu dostaw. To realny sprawdzian, czy połączenie modeli dziedzinowych, optymalizacji oraz zarządzanych danych operacyjnych poprawi decyzje w jednym z najbardziej wymagających środowisk planistycznych przemysłu. 111