엔비디아·팔란티어, 핵심 공급망용 ‘소버린 AI’ 스택 공개…엔비디아가 첫 고객

엔비디아와 팔란티어가 복잡하고 중요한 공급망을 겨냥한 공동 개발 소버린 AI 스택을 공개했다. 첫 도입처는 다른 기업이 아니라 엔비디아 자체 공급망이다. 즉, 엔비디아가 이 제품의 첫 실사용 고객 역할을 맡는다.11

핵심은 공급망 데이터에 챗봇 하나를 붙이는 방식이 아니다. 운영 데이터, 최적화 소프트웨어, AI 모델, 숙련된 계획 담당자의 판단을 조직이 통제하는 거버넌스 환경 안에서 결합하는 것이 목표다.

무엇을 결합했나

이번 스택은 엔비디아의 오픈 Nemotron 모델을 팔란티어 Foundry와 인공지능 플랫폼 AIP에 통합하고, 그 기반에 팔란티어 Ontology를 둔다. Ontology는 자재, 생산 거점, 가용 생산능력, 배분, 고객 약정, 생산 결과처럼 실제 운영에서 중요한 대상과 관계를 모델링하는 계층이다.116

역할은 다음과 같이 나뉜다.

• Nemotron 모델: 공급망 의사결정에 맞춰 특화할 수 있는 추론 계층
• Foundry·AIP: 데이터와 AI 모델, 운영 워크플로를 다루는 애플리케이션 환경
• Ontology: 현실의 운영 객체와 이들 간 관계를 일관되게 표현하는 운영 모델
• NVIDIA cuOpt: 자재 배분 같은 문제의 최적화와 시나리오 분석 지원1

엔비디아는 자체 공급망에서 반도체 **웨이퍼부터 ‘첫 토큰(first token)’**까지의 시간을 줄이는 데 우선 활용한다. 여기서 첫 토큰은 AI 시스템이 배포돼 실제 출력을 내기 시작하는 시점을 뜻한다.11

왜 엔비디아 공급망이 첫 시험대인가

엔비디아 베라 루빈 시스템의 랙 하나에는 컴퓨팅, 메모리, 네트워킹, 전력, 냉각, 기계 부품을 아우르는 약 130만 개 부품이 들어간다.37

이처럼 상호의존성이 큰 환경에서는 자재 배분이 단순한 스프레드시트 작업으로 끝나지 않는다. 제조 능력, 부품 수급, 입고 시점, 이미 맺은 고객 공급 약정 등 여러 제약이 동시에 얽힌다. 엔비디아는 팔란티어 Ontology와 공급망용 Command Center, 그리고 cuOpt를 활용해 여러 시나리오를 검토하고, 제한된 자재를 생산 거점별로 배분하려 한다.16

엔비디아가 제시한 목표 지표는 Time of Ownership이다. 자재가 엔비디아의 관리 아래 머무르다가 최종 납품 시스템에 기여할 때까지 걸리는 시간을 줄이겠다는 뜻이다. 시스템은 처리량을 제한하는 병목이 무엇인지, 어떤 배분안이 이를 가장 효과적으로 완화하는지 찾도록 설계됐다.1

전문가의 판단을 왜 모델 학습에 넣었나

엔비디아는 수학적 최적화만으로는 베테랑 계획 담당자가 고려하는 모든 맥락을 담기 어렵다고 봤다. 실제 배분 판단에는 이메일, 일기예보, 지정학적 상황, 공급업체 미팅 내용, 조직 내부의 축적된 경험처럼 비정형적이고 빠르게 변하는 정보가 영향을 줄 수 있다.1

이에 엔비디아는 계획 담당자들의 자재 배분 결정, 그 결정의 근거, 이후 실제 결과를 사후 학습 데이터로 활용해 특화된 Nemotron 3.5 Lightning 모델을 만들었다. 이 모델은 전체 300억 개 매개변수의 전문가 혼합(MoE) 구조이며, 한 번의 추론 과정에서 활성화되는 매개변수는 약 30억 개다.1

엔비디아가 자체 개발한 자재 배분 의사결정 벤치마크에서 공개한 결과는 다음과 같다.

모델	보고된 자재 배분 결정 정확도
사후 학습 Nemotron 3.5 Lightning	86.7%
Nemotron 3 Ultra	55.5%
기본 Nemotron 3.5 Lightning	17.5%

이는 엔비디아가 자체 개발 벤치마크에서 보고한 수치다. 모든 공급망이나 모든 실제 배포 환경에서의 성능을 독립적으로 입증한 결과로 해석해서는 안 된다.1

AI가 권고해도 사람의 검토가 남는 이유

양사는 이 시스템을 공급망 계획 담당자를 완전히 대체하는 자율 시스템으로 내세우지 않는다. 자재 배분은 중요한 이해관계와 손익이 걸린 판단이며, 학습 데이터에 없던 새로운 정보가 언제든 등장할 수 있기 때문이다.

따라서 사람은 AI의 권고를 검토하고 필요에 따라 수정하며, 개선 과정에 계속 참여한다. 이런 개입은 다시 통제·관리되는 의사결정 기록이 돼 추가 사후 학습과 운영 개선에 활용될 수 있다.1

다른 기업과 기관에는 어떻게 제공되나

엔비디아와 팔란티어는 다른 조직도 클라우드 또는 온프레미스 환경에서 팔란티어 소버린 AI 운영체제 레퍼런스 아키텍처를 통해 자사 공급망에 이 구조를 적용할 수 있다고 밝혔다. 특히 독점 데이터에 대한 통제권을 유지하려는 복잡 산업 및 정부 환경이 주요 대상이다.11

관련 레퍼런스 아키텍처는 엔비디아 엔터프라이즈 레퍼런스 아키텍처를 기반으로 하며, AIP, Foundry, Apollo, Rubix, AIP Hub 등을 포함한 팔란티어 소프트웨어 제품군을 실행하도록 검증됐다.29

델은 주변 인프라 생태계의 한 축이다. 관련 아키텍처는 PowerEdge, ObjectScale, PowerFlex를 포함한 델 AI 팩토리 인프라와 팔란티어·엔비디아 기술을 결합한다.17 9월 발표 관련 보도에서는 하드웨어 또는 클라우드 배포 선택지의 파트너로 시스코, 랙스페이스, 네비우스도 언급됐다.25

이 공급망 적용 사례와 더 폭넓은 소버린 AI 활용 사례는 팔란티어의 AIPCon 11 행사에서 공개됐다.6

이번 발표의 관건은 엔비디아가 가장 복잡하고 제약이 많은 자사 공급망에서 먼저 이 스택을 쓴다는 데 있다. 특정 산업에 맞춘 모델, 최적화 소프트웨어, 거버넌스가 적용된 운영 데이터를 한데 묶는 방식이 실제 산업 계획 환경에서 의사결정을 개선할 수 있는지 검증하는 사례가 될 전망이다.111