NVIDIA 與 Palantir 發表一套面向複雜關鍵供應鏈的主權 AI 堆疊。NVIDIA 將先在自己的供應鏈中實際部署,等於成為這項方案的第一位客戶與驗證案例;之後,兩家公司計畫將此架構提供給其他組織使用。
11
這不是把聊天機器人接上企業資料而已。兩家公司主打的做法,是將營運資料、最佳化軟體、AI 模型與資深規劃人員的判斷,整合在由組織自己掌控、具備治理機制的環境中。
核心:把供應鏈決策放進可控的 AI 營運環境
此堆疊將 NVIDIA 的開放式 Nemotron 模型整合至 Palantir Foundry 與 Artificial Intelligence Platform(AIP),並以 Palantir Ontology 作為底層的營運模型。Ontology 可將物料、工廠或據點、產能、配置、客戶承諾與生產結果等實體及其關係連結起來,讓系統能找出限制條件、累積營運專業,並協助供應鏈決策。
11
6
對 NVIDIA 而言,初期目標是加速「從晶圓到第一個 token」的流程,也就是從半導體晶圓製造一路到 AI 系統實際部署並開始產出結果。公司希望藉此把供應鏈中的操作經驗與決策邏輯系統化。
11
為何先用在 NVIDIA 自己身上?
NVIDIA Vera Rubin 系統的供應鏈規模,正好說明這套工具鎖定的問題。一個機櫃約有 130 萬個零組件,橫跨運算、記憶體、網路、電力、散熱及機構系統。
3
7
當零件高度相互依賴時,物料分配不是靠試算表就能處理的問題:決策同時可能受到製造產能、特定元件供應、到料時間,以及已對客戶做出的交付承諾影響。NVIDIA 正利用 Palantir Ontology 與供應鏈 Command Center,配合 NVIDIA cuOpt 進行情境評估,協助在不同據點之間配置稀缺物料。
1
6
NVIDIA 將決策目標稱為降低「持有時間」(Time of Ownership),意指物料自進入 NVIDIA 控制範圍起,到能真正投入已交付系統前所停留的時間。實務上,系統要回答的是:目前拖慢產出的關鍵瓶頸是什麼,以及哪一種配置決定最能解除限制。
1
AI、最佳化與人類經驗如何分工?
這套架構的各部分各有功能:
- Nemotron 開放模型:提供可針對供應鏈任務專門化的推理能力。
- Palantir Foundry 與 AIP:提供資料與應用程式環境,讓團隊可在既有營運工作流程中使用模型。
- Palantir Ontology:把供應鏈的關鍵實體、關係與營運情境建模,例如物料、產能、據點與交付承諾。
11
6
- NVIDIA cuOpt:用於最佳化與情境分析,例如比較不同物料配置方案。
1
NVIDIA 的說法是,專有供應鏈資料、模型權重與推論程序都會留在同一個受治理的環境內;這也是其「主權 AI」定位的關鍵。
1
為何訓練資料還需要規劃人員的判斷?
NVIDIA 指出,純粹的數學最佳化無法涵蓋資深規劃人員在現場會使用的全部脈絡。例如電子郵件、氣象預報、地緣政治變化、供應商簡報,以及組織內累積的經驗,都可能改變一項配置決策。
1
因此,NVIDIA 將規劃人員過去的物料分配選擇、做出選擇的理由,以及後續實際結果,作為專門模型的後訓練資料。使用的 Nemotron 3.5 Lightning 總計有 300 億個參數,採混合專家(mixture-of-experts)設計,每次前向傳遞約啟用 30 億個參數。
1
在 NVIDIA 自家的開發用分配決策基準上,各模型的公布結果如下:
| 模型 |
公布的分配決策準確率 |
| 後訓練 Nemotron 3.5 Lightning |
86.7% |
| Nemotron 3 Ultra |
55.5% |
| 基礎版 Nemotron 3.5 Lightning |
17.5% |
這些數字是 NVIDIA 在自家開發基準上公布的結果,並不是對所有供應鏈或所有部署情境的獨立效能測量。
1
AI 不會取代最後拍板的人
兩家公司並未將系統定位為供應鏈規劃師的自動替代品。物料配置往往牽涉重大取捨,而新的資訊也可能尚未出現在模型過去學到的資料中。
因此,人工規劃人員仍負責審閱、調整並改善系統建議;這些介入也可形成新的受治理決策紀錄,回饋至後續的模型後訓練與營運改善循環。
1
如何部署,以及誰能使用?
NVIDIA 與 Palantir 表示,其他組織可透過 Palantir Sovereign AI Operating System Reference Architecture,將此架構部署在雲端或地端基礎設施上,供複雜產業與政府環境用於自有供應鏈。此定位特別著重於希望維持專有資料控制權的使用者。
11
相關參考架構建立於 NVIDIA Enterprise Reference Architectures,並經設計可執行 Palantir 的 AIP、Foundry、Apollo、Rubix 與 AIP Hub 等軟體。
29
Dell 是周邊基礎設施生態系的一環;其相關架構結合 Dell AI Factory 基礎設施,包括 PowerEdge、ObjectScale 與 PowerFlex,以及 Palantir 與 NVIDIA 技術。
17 9 月的相關報導也將 Cisco、Rackspace 與 Nebius 列為硬體或雲端部署選項的合作夥伴。
25
這套供應鏈部署與更廣泛的主權 AI 應用,已在 Palantir 的 AIPCon 11 活動上展示。
6
真正值得觀察的,不只是兩家公司推出一個新方案,而是 NVIDIA 選擇先用自己高度受限、零組件數量龐大的供應鏈來驗證。這將成為一項實戰測試:受領域訓練的模型、最佳化工具與受治理營運資料,能否在極為複雜的工業規劃場景中改善決策品質。
11
1