엔비디아가 기업용 멀티모달 모델과 개인용 로컬 모델을 아우르는 Nemotron 3.5 신제품군을 내놨습니다. 10월 15일 공개된 모델은 Nemotron 3.5 Super VL과 Nemotron 3.5 Bolt 74B-A9B 24GB 두 가지이며, 소형 Bolt E4B 4GB는 10월 23일 출시 예정입니다.
7
12
핵심은 AI 에이전트를 데이터센터에만 두지 않고, 데스크톱급 엔비디아 시스템에서도 실행하려는 구상입니다. 다만 ‘완전 개방형’이라는 표현의 범위, 특히 모델 가중치와 학습 데이터가 각각 어디까지 공개됐는지는 제공된 자료만으로 확인하기 어렵습니다.
용도에 따라 나뉜 세 모델
| 모델 |
공개된 사양·용도 |
출시 일정 |
| Nemotron 3.5 Super VL |
총 1,200억 개 파라미터, 토큰당 120억 개 활성화. 글과 시각 정보를 함께 다루는 멀티모달 에이전트용 모델 3 |
10월 15일 공개 7 |
| Nemotron 3.5 Bolt 74B-A9B 24GB |
Mamba와 Transformer를 결합한 혼합 전문가(MoE) 구조. RTX 및 DGX Spark에서 로컬 에이전트 작업을 수행하도록 설계 13 |
10월 15일 공개 7 |
| Nemotron 3.5 Bolt E4B 4GB |
소형 로컬 에이전트 모델로 소개됨. 이름에 표시된 ‘4GB’ 외에 확인된 세부 사양은 제한적 |
10월 23일 출시 예정 7 11 |
Super VL의 ‘120B’는 전체 파라미터 수를, ‘12B’는 각 토큰을 처리할 때 활성화되는 파라미터 수를 뜻합니다. 엔비디아는 이 모델을 문서와 시각 정보를 활용하는 전문 에이전트용으로 소개했습니다. 회사 기술 블로그는 에이전트 작업에서 같은 규모의 다른 오픈 모델보다 단일 GPU 처리량이 최대 5배 높다고 주장합니다. 이는 엔비디아가 제시한 성능 비교이며, 모든 환경에서 보장되는 속도 차이를 뜻하지는 않습니다.
3
24GB에서 구동하도록 압축한 Bolt
Bolt 74B-A9B는 이름에 74B가 들어가지만, 실제로는 혼합 전문가 구조를 사용합니다. 엔비디아에 따르면 모델을 24GB 메모리에 담기 위해 더 큰 Super VL 모델을 바탕으로 구조적 압축을 적용하고, 네트워크를 2비트로 양자화했습니다. 회사는 디코딩 속도 목표로 초당 최소 80토큰도 제시했습니다.
13
이 모델은 RTX 시스템과 DGX Spark에서 일상적인 에이전트 작업을 로컬로 처리하도록 설계됐습니다. 기기에서 직접 실행하면 외부 서비스에 요청을 보내지 않는 방식의 배포를 선택할 수 있지만, 실제 속도와 작업 범위는 사용하는 하드웨어와 설정에 따라 달라질 수 있습니다.
13
소형 모델인 Bolt E4B는 4GB 제품으로 발표됐으며 10월 23일 출시 예정입니다. 다만 확인된 자료에는 이 모델의 정확한 파라미터 수나 양자화 방식이 명시돼 있지 않아, 이름만으로 해당 사양을 추정하기는 어렵습니다.
7
11
독립 평가와 실제 도입 사례
Artificial Analysis는 Super VL을 미국산 오픈 웨이트 모델 가운데 선두로 평가하고 Intelligence Index 26점을 부여했습니다. 비교 대상으로 제시된 Nemotron 3 Super는 13점이었습니다. 해당 평가에서는 Super VL이 작업당 출력 토큰을 약 60% 적게 사용한 것으로도 소개됐습니다. 이는 특정 평가 지표와 비교 집단을 기준으로 한 결과입니다.
16
여행·경비 관리 플랫폼 Navan은 Super VL을 미세조정해 여러 AI 여행 에이전트의 운영 환경에 적용했다고 밝혔습니다. Navan은 내부 평가에서 이 모델이 전반적으로 가장 좋은 성능을 보였고 지연 시간도 가장 낮았다고 설명했습니다. 회사는 사전 접근 권한을 얻은 뒤 3주 안에 미세조정과 배포를 진행했다고도 밝혔습니다. 다만 공개된 자료에는 비용 절감률이나 지연 시간 감소 폭 같은 구체적인 수치는 제시되지 않았습니다.
1
8
‘개방형 모델’의 범위와 성능 주장은 따져봐야
이번 발표는 대형 멀티모달 모델과 메모리 제약이 있는 로컬 시스템용 모델을 한 제품군으로 묶었다는 점이 눈에 띕니다. 엔비디아는 이를 통해 데이터센터뿐 아니라 RTX와 DGX Spark에서도 에이전트 작업을 지원하겠다는 방향을 제시했습니다.
7
13
다만 ‘오픈’이라는 표현만으로 모델 가중치, 학습 데이터, 학습 과정이 모두 공개됐다고 볼 수는 없습니다. 또 엔비디아의 최대 5배 처리량 주장은 회사가 제시한 비교 결과이고, Navan의 성능 평가는 자체 내부 평가입니다. 실제 도입을 검토한다면 공개된 평가 조건과 하드웨어 요구사항을 함께 확인할 필요가 있습니다.
3
7
1