NVIDIA тестирует с Palantir sovereign AI на собственной цепочке поставок

NVIDIA и Palantir представили совместно разработанный sovereign AI-стек для сложных и критически важных цепочек поставок. Первой его разворачивает сама NVIDIA — фактически выступая первым заказчиком и проверяя продукт в реальной работе, прежде чем архитектуру предложат другим организациям. 11

Речь не о подключении чат-бота к таблицам снабжения. Компании объединяют операционные данные, инструменты оптимизации, ИИ-модели и опыт специалистов по планированию в управляемой среде, которую контролирует сама организация.

Что именно объявили NVIDIA и Palantir

Стек встраивает открытые модели NVIDIA Nemotron в Palantir Foundry и Palantir Artificial Intelligence Platform (AIP). В основе лежит Palantir Ontology — модель, описывающая операционную среду предприятия. По заявлению компаний, система должна помогать находить ограничения, формализовать накопленную экспертизу и поддерживать решения в цепочке поставок. 11

Для NVIDIA первоочередная задача — ускорить путь от кремниевой пластины до первого токена: то есть от выпуска чипа до момента, когда ИИ-система развёрнута и начинает выдавать результат. Компания рассчитывает таким образом закрепить операционную экспертизу внутри собственной цепочки поставок. 11

Почему первым испытанием стала цепочка поставок NVIDIA

Масштаб задачи хорошо иллюстрируют системы NVIDIA Vera Rubin. Одна стойка включает примерно 1,3 млн компонентов: вычислительные узлы, память, сетевое оборудование, системы питания, охлаждения и механические элементы. 37

При такой взаимозависимости распределение материалов нельзя свести к обычной электронной таблице. План могут ограничивать производственные мощности, доступность отдельных компонентов, сроки поставки или уже взятые обязательства перед клиентами. NVIDIA использует Ontology и Command Center от Palantir вместе с NVIDIA cuOpt, чтобы просчитывать сценарии и распределять дефицитные материалы между площадками. 16

В NVIDIA целевой показатель называют Time of Ownership — время, в течение которого материалы остаются под контролем компании, прежде чем смогут войти в поставляемые системы. На практике система должна выявлять ограничение, сдерживающее выпуск, и подсказывать вариант распределения, который лучше всего его устраняет. 1

Как устроен ИИ-стек

У компонентов разные функции:

• Открытые модели Nemotron формируют слой рассуждений, который можно специализировать для задач снабжения и планирования.
• Palantir Foundry и AIP создают среду данных и приложений, где команды работают с моделями и операционными процессами.
• Palantir Ontology описывает важные объекты и связи реального мира: материалы, площадки, мощности, распределения, обязательства и результаты производства. 116
• NVIDIA cuOpt используется для оптимизации и анализа сценариев, в том числе при распределении материалов. 1

Компании позиционируют решение не как универсальную модель, подключённую к разрозненным наборам данных, а как управляемую операционную среду. В NVIDIA подчёркивают, что закрытые данные цепочки поставок, веса моделей и инференс остаются внутри единой контролируемой среды. 1

Почему в обучение включили решения специалистов

NVIDIA пришла к выводу, что одной математической оптимизации недостаточно: она не учитывает весь контекст, которым пользуются опытные планировщики. На решения могут влиять неструктурированные и быстро меняющиеся сведения — письма, прогнозы погоды, геополитические события, отчёты по итогам общения с поставщиками и накопленные внутри компании знания. 1

В качестве данных для дообучения специализированной модели Nemotron 3.5 Lightning NVIDIA использовала решения специалистов по распределению, их обоснования и последующие результаты. Модель насчитывает 30 млрд параметров и построена по схеме mixture-of-experts: при одном прямом проходе активны примерно 3 млрд параметров. 1

На внутреннем наборе NVIDIA для оценки решений по распределению материалов компания сообщила следующие результаты:

Модель	Заявленная точность решений по распределению
Дообученная Nemotron 3.5 Lightning	86,7%
Nemotron 3 Ultra	55,5%
Базовая Nemotron 3.5 Lightning	17,5%

Это результаты, сообщённые NVIDIA на собственном тестовом наборе для разработки. Они не являются независимой оценкой эффективности для любых цепочек поставок и всех вариантов внедрения. 1

Почему рекомендации всё равно проверяют люди

Компании не заявляют, что система способна полностью заменить специалистов по планированию. Решения о распределении материалов связаны со значимыми компромиссами, а новая информация может не входить в данные, на которых обучалась модель.

Поэтому люди продолжают проверять, корректировать и улучшать рекомендации. Эти вмешательства могут оформляться как новые управляемые записи о решениях и создавать цикл обратной связи для дальнейшего дообучения и совершенствования системы. 1

Как стек планируют внедрять у других заказчиков

NVIDIA и Palantir сообщили, что другие организации смогут применять архитектуру в собственных цепочках поставок через эталонную архитектуру Palantir Sovereign AI Operating System. Развёртывание возможно в облаке или в локальной инфраструктуре — это особенно важно для сложных отраслей и государственных структур, которым необходимо сохранять контроль над закрытыми данными. 11

Связанная эталонная архитектура построена на NVIDIA Enterprise Reference Architectures и рассчитана на запуск программного комплекса Palantir, включая AIP, Foundry, Apollo, Rubix и AIP Hub. 29

Dell входит в инфраструктурную экосистему решения: её связанная архитектура объединяет инфраструктуру Dell AI Factory, включая PowerEdge, ObjectScale и PowerFlex, с технологиями Palantir и NVIDIA. 17 В публикациях о сентябрьском анонсе среди партнёров по аппаратному обеспечению или облачному развёртыванию также названы Cisco, Rackspace и Nebius. 25

Где показали решение

Внедрение для цепочки поставок и более широкие варианты применения sovereign AI были представлены на мероприятии Palantir AIPCon 11. 6

Главный смысл анонса в том, что NVIDIA сначала использует объединённый стек в собственной крайне ограниченной и сложной цепочке поставок. Это превращает проект в практическую проверку того, способны ли отраслевые модели, оптимизация и управляемые операционные данные улучшить решения в одной из самых трудных сред промышленного планирования. 111