英伟达(NVIDIA)与Palantir宣布推出一套面向复杂、关键供应链的主权AI技术栈。英伟达会率先在自己的运营体系中部署它,相当于成为这项联合方案的首个真实场景用户;两家公司随后将把该架构提供给其他组织使用。
11
这里的重点并不是给供应链数据接入一个聊天机器人,而是把运营数据、优化软件、AI模型和资深计划人员的判断,放进由企业自身掌控、可治理的环境中协同工作。
这次发布了什么
该技术栈将英伟达的开放Nemotron模型接入Palantir Foundry和人工智能平台AIP(Artificial Intelligence Platform),并以Palantir Ontology作为底层运营模型。两家公司表示,系统用于发现约束条件、沉淀运营经验,并辅助供应链决策。
11
英伟达的首个目标,是缩短从半导体**晶圆到“首个Token”**的路径——即AI系统完成部署并开始产生输出的节点。按英伟达的说法,这一部署将把供应链中的运营智慧编码进系统。
11
为什么先拿英伟达供应链做测试
英伟达Vera Rubin系统的供应链复杂度颇具代表性:单个机架约有130万个组件,涉及计算、存储、网络、电源、散热和机械结构等多个环节。
3
7
在如此高度相互依赖的体系中,物料分配并非简单的表格计算。一份计划可能同时受制于制造产能、元件供应、到料时间,或既有客户承诺。英伟达正借助Palantir Ontology、其供应链“指挥中心”(Command Center)以及英伟达cuOpt,评估不同情景,并在多个地点之间分配稀缺物料。
1
6
英伟达将其决策目标称为降低“持有时间”(Time of Ownership):即物料从由英伟达掌控到能够用于已交付系统之间所经历的时间。实际工作中,系统旨在识别限制吞吐量的关键瓶颈,并找出最能缓解该瓶颈的分配方案。
1
技术栈如何分工
各组件承担不同职责:
- Nemotron开放模型:提供可针对供应链决策进行专门化的推理能力。
- Palantir Foundry与AIP:提供团队使用模型、数据和运营工作流的应用环境。
- Palantir Ontology:表达重要现实实体及其关系,包括物料、地点、产能、分配、承诺和生产结果。
11
6
- NVIDIA cuOpt:支持物料分配等决策的优化与情景分析。
1
两家公司将其定位为一个受治理的运营环境,而不是把通用模型连接到若干彼此割裂的数据集。英伟达开发者文章强调,专有供应链数据、模型权重和推理过程都保留在同一个受治理的环境中。
1
为什么要把计划人员的经验用于后训练
英伟达发现,单靠数学优化无法覆盖经验丰富的计划人员在实际工作中使用的全部背景信息。决策还可能取决于非结构化、快速变化的信息,例如电子邮件、天气预报、地缘政治动态、供应商复盘以及组织内部经验。
1
因此,英伟达将计划人员的物料分配选择、选择理由及后续结果作为后训练数据,用于专门化的Nemotron 3.5 Lightning模型。该模型总参数量为300亿,采用混合专家(MoE)架构,每次前向计算约激活30亿参数。
1
在英伟达自己的开发阶段物料分配决策基准上,三种模型的报告结果如下:
| 模型 |
报告的物料分配决策准确率 |
| 后训练Nemotron 3.5 Lightning |
86.7% |
| Nemotron 3 Ultra |
55.5% |
| 基础版Nemotron 3.5 Lightning |
17.5% |
这些数据是英伟达在其自身开发基准上报告的结果,并不等同于对所有供应链或所有部署场景的独立性能证明。
1
AI给建议,但人仍然负责决策
两家公司并未将该系统描述为替代供应链计划人员的全自动工具。物料分配往往涉及影响重大的权衡,且可能突然出现模型训练时未包含的新信息。
因此,人工计划人员仍负责审核、调整和改进系统建议。这些干预也可形成新的受治理决策记录,进而构成持续后训练和运营优化的反馈循环。
1
如何部署并面向外部提供
英伟达和Palantir表示,其他组织可通过Palantir Sovereign AI Operating System Reference Architecture(主权AI操作系统参考架构)将该方案用于自身供应链,并可部署在云端或本地基础设施上。其目标场景包括复杂行业和政府环境,尤其是希望保留对专有数据控制权的组织。
11
相关参考架构建立在NVIDIA Enterprise Reference Architectures之上,旨在运行包括AIP、Foundry、Apollo、Rubix和AIP Hub在内的Palantir软件。
29
戴尔是相关基础设施生态的一环:其配套架构将Dell AI Factory基础设施——包括PowerEdge、ObjectScale和PowerFlex——与Palantir及英伟达技术结合。
17 有关9月发布的报道还将Cisco、Rackspace和Nebius列为硬件或云部署选项的合作方。
25
在哪里亮相
这项供应链部署及更广泛的主权AI应用在Palantir的AIPCon 11活动上进行了展示。
6
此次发布最值得关注之处,在于英伟达先把联合技术栈用于自身高度受约束的供应链。这使其成为一次实际检验:领域专用模型、优化算法和受治理的运营数据,能否改善这一复杂工业规划环境中的决策质量。
11
1