NVIDIA тестує з Palantir суверенний ШІ на власному ланцюгу постачання

NVIDIA і Palantir представили спільно розроблений суверенний ШІ-стек для складних і критично важливих ланцюгів постачання. Першим замовником і майданчиком для практичного застосування стала сама NVIDIA: компанія розгортає систему у власних операціях, а згодом архітектуру запропонують іншим організаціям. 11

Йдеться не про чатбот, підключений до таблиць із даними. Компанії поєднали операційні дані, інструменти оптимізації, ШІ-моделі та досвід фахівців із планування в контрольованому середовищі, яке залишається під управлінням самої організації.

Що саме представили компанії

До стеку входять відкриті моделі NVIDIA Nemotron, інтегровані з Palantir Foundry та платформою штучного інтелекту Palantir AIP. Основою для роботи є Palantir Ontology — операційна модель, що описує важливі об’єкти та зв’язки у виробничому процесі. За заявою компаній, система має виявляти обмеження, формалізувати накопичену операційну експертизу та підтримувати рішення у ланцюгах постачання. 11

Для NVIDIA першим завданням є прискорення шляху від пластини до першого токена — тобто від виготовлення напівпровідникової пластини до моменту, коли ШІ-система вже розгорнута та генерує результат. Компанія описує це як спосіб закріпити операційні знання у власному ланцюгу постачання. 11

Чому першим тестом став ланцюг постачання NVIDIA

Масштаб систем Vera Rubin добре показує складність завдання: одна стійка містить приблизно 1,3 млн компонентів — від обчислювальних і пам’яті до мережевого обладнання, систем живлення, охолодження та механічних вузлів. 37

За такої кількості взаємозалежностей розподіл матеріалів не зводиться до звичайної електронної таблиці. План може бути обмежений виробничою потужністю, доступністю певного компонента, строками надходження вантажів або вже взятими зобов’язаннями перед клієнтами. NVIDIA використовує Ontology і Command Center для ланцюгів постачання від Palantir разом з NVIDIA cuOpt, щоб моделювати сценарії та розподіляти дефіцитні матеріали між майданчиками. 16

Компанія називає ключовим показником Time of Ownership — час, протягом якого матеріали залишаються під контролем NVIDIA, перш ніж перетворяться на частину поставленої системи. На практиці ШІ має допомагати визначити, яке саме обмеження стримує пропускну здатність і який варіант розподілу найкраще його послабить. 1

Як розподілено ролі в ШІ-стеці

Кожна складова виконує окрему функцію:

• Відкриті моделі Nemotron формують рівень міркування, який можна спеціалізувати для рішень у ланцюгу постачання.
• Palantir Foundry та AIP є середовищем даних і застосунків, де команди працюють із моделями та операційними процесами.
• Palantir Ontology описує реальні об’єкти й відносини: матеріали, майданчики, потужності, розподіл, зобов’язання та виробничі результати. 116
• NVIDIA cuOpt підтримує оптимізацію та аналіз сценаріїв, зокрема для розподілу матеріалів. 1

Разом це позиціонують як кероване операційне середовище, а не як універсальну мовну модель, підключену до розрізнених наборів даних. NVIDIA наголошує, що внутрішні дані ланцюга постачання, ваги моделей і виконання інференсу залишаються в межах одного контрольованого середовища. 1

Чому для навчання використали рішення людей

У NVIDIA дійшли висновку, що суто математична оптимізація не враховує весь контекст, яким у реальній роботі послуговуються досвідчені планувальники. Важливими можуть бути неструктуровані та швидкозмінні сигнали: листування, прогнози погоди, геополітичні події, підсумки розмов із постачальниками та внутрішні знання команди. 1

Компанія використала рішення планувальників щодо розподілу, їхнє обґрунтування та подальші результати як дані для донавчання спеціалізованої моделі Nemotron 3.5 Lightning. Загалом вона має 30 млрд параметрів і використовує архітектуру mixture-of-experts: під час одного проходу моделі активно приблизно 3 млрд параметрів. 1

На власному внутрішньому тесті NVIDIA для рішень щодо розподілу матеріалів компанія повідомила такі результати:

Модель	Заявлена точність рішень щодо розподілу
Донавчена Nemotron 3.5 Lightning	86,7%
Nemotron 3 Ultra	55,5%
Базова Nemotron 3.5 Lightning	17,5%

Це результати, заявлені NVIDIA на її власному тестовому наборі для розробки. Вони не є незалежною оцінкою ефективності в усіх ланцюгах постачання або в кожному можливому розгортанні. 1

Чому остаточне слово залишається за людьми

Компанії не подають систему як автономну заміну планувальникам. Рішення про розподіл компонентів можуть мати значні наслідки, а нові обставини іноді з’являються вже після того, як модель було навчено.

Тому фахівці мають перевіряти рекомендації, за потреби коригувати їх і вдосконалювати процес. Такі втручання можуть ставати новими контрольованими записами рішень, створюючи цикл зворотного зв’язку для подальшого донавчання й операційного поліпшення. 1

Як стек планують розгортати в інших організаціях

NVIDIA і Palantir заявили, що інші компанії та установи зможуть застосовувати цю архітектуру у власних ланцюгах постачання через еталонну архітектуру Palantir Sovereign AI Operating System. Вона передбачає розгортання як у хмарі, так і у власній локальній інфраструктурі. Основна аудиторія — складні галузі та державні структури, для яких принципово зберігати контроль над конфіденційними даними. 11

Пов’язана еталонна архітектура побудована на NVIDIA Enterprise Reference Architectures і розрахована на запуск програмного комплексу Palantir, зокрема AIP, Foundry, Apollo, Rubix та AIP Hub. 29

Dell є частиною інфраструктурної екосистеми: її пов’язана архітектура об’єднує рішення Dell AI Factory, зокрема PowerEdge, ObjectScale і PowerFlex, із технологіями Palantir та NVIDIA. 17 У повідомленнях про вересневий анонс також згадано Cisco, Rackspace і Nebius як партнерів для апаратних або хмарних варіантів розгортання. 25

Де показали систему

Рішення для ланцюга постачання та ширші сценарії суверенного ШІ продемонстрували на заході Palantir AIPCon 11. 6

Ключова особливість анонсу в тому, що NVIDIA спершу застосовує спільний стек у власному, дуже обмеженому за ресурсами ланцюгу постачання. Це робить проєкт практичним випробуванням: чи зможуть спеціалізовані моделі, оптимізація та контрольовані операційні дані покращити рішення в одному з найскладніших промислових середовищ планування. 111