단순 챗봇은 잊어라… 팔란티어-엔비디아, '스스로 일하는 AI 에이전트'로 기업 작전을 바꾼다

기업용 AI의 경쟁 축이 질문에 답하는 챗봇에서, 실제 비즈니스 운영을 직접 수행하는 에이전트로 빠르게 이동하고 있다. 이런 흐름을 결정적으로 보여주는 사건이 지난 2026년 6월 1일, 대만 컴퓨텍스 주간에 열린 엔비디아 GTC 타이페이에서 발생했다. 엔비디아가 자사가 보유한 가장 강력한 오픈소스 모델인 '네메트론 3 울트라(Nemotron 3 Ultra)'를 팔란티어의 자율 에이전트 플랫폼 핵심부에 내장한다고 공식 확인한 것이다. 단순히 데이터를 '분석'하는 AI가 아니라, AI가 복잡하고 긴 호흡의 작업 흐름을 스스로 '실행'하게 만드는 것이 이들의 목표다 .

이번 발표는 기업용 AI 시장에서 가장 중요한 행보를 보이는 두 기업 간의 협력이 한층 깊어졌음을 의미한다. 팔란티어가 10년 이상 투자해 온 핵심 자산인 '온톨로지(Ontology)' 프레임워크(기업 운영 전체를 디지털 트윈으로 구현한 일종의 가상 설계도)와 엔비디아의 최첨단 하드웨어, 그리고 초효율 차세대 오픈소스 추론 모델이 결합되는 것이다 . 고객사 입장에서 보면, 회의 중에 공급망 해결책을 제안하는 수준을 뛰어넘어, AI가 스스로 문제를 감지하고, 해결 코드를 작성한 뒤, 테스트를 거쳐 실제 시스템에 배포하는 완전 자동화의 미래가 성큼 다가온 셈이다.

그 엔진 안에는 무엇이 들었나: 네메트론 3 울트라 해부

이번 에이전트 혁명을 추진하는 진짜 엔진은 엔비디아의 최신 오픈소스 모델인 '네메트론 3 울트라'다 . 기존의 거대한 단일 언어 모델과는 접근 방식부터 다르다. 총 매개변수만 5,500억 개에 달하지만, 이 모델은 하이브리드 맘바-트랜스포머(Mamba-Transformer) 구조 위에 '전문가 혼합(MoE)' 기법을 적용해, 매 토큰 추론 시 실제로 활성화되는 매개변수는 약 550억 개에 불과하다 . 이 희소 활성화 방식이 바로 막대한 양의 맥락을 처리하는 속도와 효율성의 비결이다.

주요 기술 스펙 한눈에 보기

• 아키텍처: 하이브리드 맘바-트랜스포머 전문가 혼합(MoE). 상태 공간 모델의 장문 처리 효율과 트랜스포머의 추론 능력을 하나로 합쳤다 .
• 매개변수: 총 5,500억 개. 토큰당 약 550억 개 활성화 .
• 맥락 창(Context Window): 무려 100만 토큰을 기본 지원한다. 장편 소설 여러 권이나 기업의 방대한 코드 저장소 전체를 한 번에 추론할 수 있는 수준이다 .
• 핵심 혁신 1 - '잠재 전문가 혼합(LatentMoE)': 전문가 시스템으로 전달하기 전 토큰 표현을 저차원 공간으로 압축하는 기술이다. 엔비디아는 이 기법 덕분에 동일한 추론 비용으로 4배 더 많은 전문가를 활용, 연산량 대비 정확도(FLOP)를 비약적으로 향상시켰다고 설명한다 .
• 핵심 혁신 2 - '다중 토큰 예측(MTP)': 한 번의 순전파 과정에서 여러 개의 미래 토큰을 동시에 예측한다. 사고의 연쇄(Chain-of-Thought) 일관성을 높이는 것은 물론, 일종의 내장형 추측 디코딩 기능처럼 작동해 텍스트 생성 속도 자체를 끌어올리는 역할을 한다 .
• 훈련 정밀도: 엔비디아 블랙웰 아키텍처 기반으로 초효율 4비트 NVFP4 포맷을 사용해 사전 훈련됐다 .
• 성능: 이전 세대 모델 대비 5배 빠른 추론 속도를 공식적으로 보장한다 .

이 모든 사양은 ‘에이전트형 AI(Agentic AI)’에 특화되어 있다. 100만 토큰의 맥락 창과 기본 탑재된 다중 토큰 예측 기능은 일상적인 대화용이 아니다. 복잡한 작업 흐름에 대한 내부 기억을 유지하고, 코드를 추론하며, 데이터 파이프라인을 감시하고, 장시간에 걸친 다단계 작업을 계획하는 AI에게 꼭 필요한 기능들이다 . 엔비디아는 이 울트라 모델을 “심층 연구와 전략적 기획을 요구하는 복잡한 작업을 위한 대규모 추론 엔진”이라고 명확히 규정하고 있다 . 이 모델의 오픈소스 가중치는 2026년 6월 4일, 허깅페이스(Hugging Face) 및 오픈라우터(OpenRouter) 등을 통해 전 세계에 공개될 예정이다 .

팔란티어의 자율 운영 플랫폼: AI FDE와 '온톨로지'의 만남

팔란티어가 하는 일은 단순히 챗봇 하나를 시스템에 연결하는 수준이 아니다. 이들은 네메트론 모델들을 자사의 AI FDE(Forward Deployed Engineer) 플랫폼에 통합하고 있으며, 이는 팔란티어의 핵심 운영체제인 파운드리(Foundry) 내부에서 작동하는 일종의 대화형 에이전트다 . AI FDE의 핵심 목표는 사람의 자연어 명령을 구체적인 운영 액션으로 번역하는 것이다. 예를 들어 데이터 변환 실행, 코드 저장소 관리, 그리고 조직의 중심 온톨로지를 구축·유지하는 일 등을 수행한다 .

이번 통합은 이런 에이전트들을 '장시간 실행 가능(Long-running)'하게 만드는 데 초점이 맞춰져 있다. 이는 엔비디아와 팔란티어가 단발성 LLM 질의응답과 차별화하기 위해 사용하는 용어다 . '장시간 실행 에이전트'는 사람이 매 단계마다 개입하지 않아도, 새로운 데이터 스트림을 받아들여 변환하고, 온톨로지를 업데이트한 뒤 그 위에서 작동할 새 애플리케이션까지 스스로 구축하는 복잡하고 다단계의 임무를 자율적으로 완수할 수 있다 . 이 에이전트는 상호작용을 통해 지속적으로 학습하며, 시간이 지날수록 특정 분야에 더 깊이 특화된, 그리고 외부 인터넷과 단절된 망 내부에서도 작동하는 기업 맞춤형 시스템을 구축하도록 설계되었다 .

이러한 능력의 근간에는 팔란티어의 가장 큰 차별화 요소인 온톨로지가 자리 잡고 있다. 온톨로지는 조직이 가진 모든 데이터, 업무 로직, 그리고 행동 방식을 하나로 연결해 보여주는 디지털 지도다. AI 에이전트가 데이터 자체만 이해하는 것이 아니라, 그 비즈니스가 실제로 어떻게 돌아가는지를 이해할 수 있게 해주는 핵심 비밀 무기인 셈이다 . 엔비디아의 네메트론 모델을 이 의미론적 지도 위에 결합함으로써, 양사는 AI가 공급망, 군수 네트워크, 사이버 보안 체계 전반에서 하나의 행동이 가져올 연쇄 효과를 실시간으로 이해하는, 진정한 운영 의사 결정을 위한 기술 체계를 구축하고 있는 중이다 .

타깃 고객: 글로벌 대기업부터 국방·정보 기관까지

이 초고도 기술은 가상의 시나리오가 아니다. 이미 세계에서 가장 복잡하고 실패가 용납되지 않는 분야들을 겨냥하고 있다. 팔란티어의 고객군은 크게 보면 서로 깊이 얽혀 있는 두 축으로 나뉜다:

• 민간 대기업: 엔비디아-팔란티어 AI 인프라의 초기 도입 사례로는 로우스(Lowe's), 부즈 앨런 해밀턴(Booz Allen Hamilton), T-모바일(T-Mobile) 같은 내로라하는 기업들이 거론된다 . 이 플랫폼은 공급망, 소매, 헬스케어, 금융 서비스 전반의 운영 의사 결정을 위해 설계되었다 .
• 정부 및 국방 기관: 팔란티어는 자사의 고담(Gotham) 및 AIP 플랫폼을 통해 미국의 광범위한 국방·정보 기관 네트워크를 지원하고 있다. 또한 이런 AI 도입을 가속하기 위해, 2025년 6월 발표된 연방 정부의 미션 크리티컬 워크플로우 AI 배포를 위한 액센츄어 페더럴 서비스(Accenture Federal Services)와의 협업 이나, 2026년 발표된 딜로이트(Deloitte)와의 정부 기관 데이터 사일로 해체를 위한 기업형 운영 체제 구축 동맹 등 전략적 파트너십을 연이어 체결해 왔다.

DevCon 같은 팔란티어의 개발자 컨퍼런스에서 시연된 최종 비전은, AI 에이전트가 보안이 완벽히 보장된 환경 안에서 엔지니어의 전 생애주기(코드 작성, 평가 설계, 안전한 디버깅 등)를 관리하는 것이다. 그리고 이 모든 것이 종종 공용 인터넷과 완전히 분리된 망 안에서 이뤄진다는 점이 가장 큰 차이점이다 .

몇 달간 정교하게 짜인 큰 그림

이번 월요일 발표는 중요한 제품 이정표이지만, 양사의 관계가 이제 막 시작됐다는 의미는 아니다. 이 통합을 위한 전략적 틀은 2025년 10월, 워싱턴 D.C.에서 열린 GTC에서 처음 수립되었다. 당시 양사는 “운영 AI를 위한 업계 최초의 통합 기술 체계”를 구축하겠다고 공식 발표한 바 있다 . 이 초기 협약의 핵심은 엔비디아의 블랙웰 아키텍처, CUDA-X 라이브러리, 네메트론 모델들을 팔란티어의 온톨로지 플랫폼과 결합하겠다는 것이었다 .

팔란티어 발표와 함께, 6월 1일 GTC 타이페이 행사는 엔비디아의 기업용 에이전트 전략을 알리는 더 큰 무대이기도 했다. 엔비디아는 이 자리에서 **엔비디아 에이전트 툴킷(NVIDIA Agent Toolkit)**을 새롭게 선보였다. 이는 기업들이 자율형 AI 에이전트를 쉽게 배포할 수 있도록, NemoClaw 설계도, 네메트론 모델군, 보안 런타임인 OpenShell, 그리고 CUDA-X 라이브러리 등을 한데 묶은 일종의 종합 패키지다. 팔란티어와 SAP가 이 툴킷의 주요 런칭 파트너로 이름을 올렸다 . 또한 사이버 보안 분야의 선두 주자 크라우드스트라이크(CrowdStrike) 역시 이날 네메트론 모델을 활용한 신규 취약점 식별 에이전트 통합 계획을 발표하면서, ‘장시간 실행 에이전트’ 패러다임이 일회성 파트너십이 아닌 엔비디아 생태계 전체의 큰 흐름임을 재확인시켜 주었다 .

이 거래가 시장에 던지는 의미

팔란티어와 엔비디아의 이번 통합 발표는 기업용 AI가 실험적인 '보조 도구(Copilot)'에서 이제 조직 깊숙이 박혀 자율적으로 움직이는 '운영자(Operator)'로 성숙하고 있음을 보여주는 신호탄이다. 장기 추론에 최적화된 최첨단 오픈소스 모델을, 기업이 어떻게 돌아가는지 이미 완벽하게 재현하고 있는 플랫폼 위에 얹음으로써, 양사는 AI 에이전트의 진짜栖息地(서식지)가 채팅창이 아니라 비즈니스 그 자체의 운영 핵심부라고 확신하고 있는 것이다.

무엇보다 네메트론 3 울트라가 오픈소스로 풀린다는 점은 상징적 의미가 크다. 보안에 극도로 민감한 정부 및 대기업 고객들에게 이는 외부 API에 데이터를 전송하지 않고도, 완전히 격리된 자체 프라이빗 인프라 안에서 최첨단 추론 능력을 가동할 수 있는 길을 열어주기 때문이다. 이는 팔란티어의 핵심 시장에서 결코 타협할 수 없는 필수 조건에 다름 아니다 .