엔비디아 네모트론 3 울트라: 오픈소스 550B 모델이 기업 AI 추론 비용을 90% 절감하는 방법

추론 비용 이점: 폐쇄형 라이벌 대비 최대 10배 저렴

랭체인의 딥 에이전츠 하네스(Deep Agents harness)는 네모트론 3 울트라에 최적화되어, 일부 주요 폐쇄소스 모델 대비 실행당 추론 비용을 최대 10배까지 낮췄습니다. 아티피셜 애널리시스(Artificial Analysis)에 따르면, 네모트론 3 울트라의 토큰 100만 개당 비용은 0.58달러로, 클로드 소네트 4.6(Claude Sonnet 4.6)의 2.31달러보다 75% 저렴합니다. 중국 금융 매체는 폐쇄형 모델 대비 추론 비용이 약 90% 낮다고 보도하기도 했습니다.

엔터프라이즈 벤치마크 성능: 폐쇄형 라이벌과의 비교

엔비디아는 랭체인의 딥 에이전츠 벤치마크에서 네모트론 3 울트라가 비즈니스 태스크에서 최고 점수 모델과 동등한 품질(parity)을 달성했다고 밝혔습니다. 주요 벤치마크 점수는 다음과 같습니다.

• 아티피셜 애널리시스 AI 지수: 47.7~48점 기록 — 미국 오픈웨이트 모델 중 최고점이며, 젬마 4 31B(39점), 네모트론 3 슈퍼(36점)를 앞서지만, 중국 오픈웨이트 선두주자인 키미 K2.6(54점)과 GPT-5.5(60.2점), 클로드 오퍼스 4.7(57점) 같은 독점 프론티어 모델에는 뒤집니다.
• GPQA 다이아몬드: 86.7% 기록, 최고 수준 모델과 경쟁.
• 에이전트 벤치마크: 허깅페이스 공개 데이터 기준, 터미널 벤치 2.1에서 56.4점, GDPVal에서 46.7점, SWE-벤치 Verified에서 70.7점을 기록하며 에이전트 태스크에서 미니맥스-2.7, GLM-5.1, 키미-K2.6과 경쟁.
• 핀치벤치 에이전트 생산성: 90~91% 기록, 키미 K2.6과 동률이며 Qwen 3.5를 앞섬.

아키텍처 사양

성능 향상의 원천

성능 향상은 세 가지 핵심 혁신에서 비롯됩니다:

• 하이브리드 맘바-어텐션 MoE 아키텍처: 맘바 2 상태 공간 레이어와 어텐션 레이어를 MoE 라우팅 프레임워크 내에서 결합, 토큰당 550B 중 55B의 파라미터만 활성화하여 막대한 효율성 달성.
• 다계층 온폴리시 증류(MOPD): 대화형 환경 전반에 걸쳐 강화 학습을 활용해 추론 능력을 증류하는 사후 학습 기술.
• 희소 활성화(Sparse activation): 10:1의 총 대 활성 파라미터 비율을 통해 고밀도 모델의 연산 비용 일부만으로 프론티어 수준의 추론을 구현.

네모트론 3 울트라는 8K 토큰 입력/64K 토큰 출력 설정에서 GLM-5.1-754B-A40B 대비 최대 5.9배 높은 추론 처리량을 달성합니다. 사전 릴리스된 DeepInfra 엔드포인트에서는 초당 300개 이상의 토큰을 처리했습니다.

랭체인 파트너십 및 발언

랭체인은 딥 에이전츠 하네스에서 네모트론 3 울트라에 대한 Day 0 지원을 제공했으며, 네모트론 코얼리션(Nemotron Coalition) 의 일원입니다. 랭체인 CEO 해리슨 체이스는 기업들이 폐쇄형 모델의 일부 비용만으로 강력한 성능을 달성할 수 있다고 말했습니다. 엔비디아는 랭체인의 딥 에이전츠 하네스가 "네모트론 3 울트라를 사용하여 더 많은 작업을 더 높은 처리량으로 완료하면서 일부 주요 폐쇄형 모델보다 최대 10배 낮은 추론 비용을 제공했다"고 밝혔습니다.

기업 도입 현황

글로벌 파트너 EY를 비롯해 애브리지(Abridge), 암독스(Amdocs), 박스(Box) 등이 이미 네모클로 + 네모트론 3 울트라 스택을 기업용 AI 에이전트 구축에 활용하고 있습니다. 또한, 캐던스, 지멘스, 시놉시스, 다쏘시스템도 엔비디아의 네모클로 청사진을 사용해 자율 AI 엔지니어를 배포 중입니다.

개발자 접근 옵션

개발자는 다음 경로를 통해 네모트론 3 울트라에 접근할 수 있습니다:

• 허깅페이스: nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16에서 모델 가중치 획득
• 엔비디아 엔드포인트 / 엔비디아 NIM: 엔비디아 클라우드 엔드포인트를 통한 관리형 추론 (네모클로 기본값)
• 올라마(Ollama): ollama.com/library/nemotron-3-ultra에서 사용 가능
• 온프레미스 / GPU 클라우드: 모든 GPU 클라우드 인스턴스에 가중치 배포 가능
• 엔비디아 네모클로: 단일 명령으로 배포 가능한 오픈소스 청사진

주식 시장 반응

엔비디아(NVDA) 주식은 7월 9일 수요일에 4% 상승했습니다. 새로운 벤치마크 결과와 네모클로 발표가 네모트론 3 울트라가 비용과 엔터프라이즈 성능 모두에서 폐쇄형 모델에 도전할 수 있음을 시사했기 때문입니다. 뱅크오브아메리카는 이번 발표 이후 엔비디아 주식에 대한 '매수(Buy)' 등급을 재확인했으며, 모델의 비용 대비 성능 이점과 기업 모멘텀을 근거로 들었습니다.

주요 발표 타임라인

• 2026년 6월 1일: 젠슨 황, 타이페이 컴퓨텍스 2026에서 네모트론 3 울트라 발표
• 2026년 6월 4일: 엔비디아, 가중치, 학습 데이터, 레시피를 포함한 오픈소스 모델 공식 출시
• 2026년 7월 8일 (화): 랭체인과 엔비디아, 네모클로 포 랭체인 딥 에이전츠 청사진 발표, 10배 낮은 추론 비용 및 EY, 애브리지, 암독스, 박스의 기업 도입 강조
• 2026년 7월 9일 (수): NVDA 주가 4% 상승, 뱅크오브아메리카 매수 의견 재확인