엔비디아가 차세대 AI 인프라 플랫폼 Vera Rubin NVL72의 에이전트 AI 성능을 공개하며 최대 30배라는 수치를 제시했다. 회사에 따르면 Vera Rubin NVL72는 DeepSeek V4 Pro를 SemiAnalysis의 AgentX 워크로드에서 실행했을 때, 이전 세대인 GB300 NVL72보다 전력 1MW당 처리량이 최대 30배 높았고 토큰 비용은 최대 35배 낮았다.

다만 이 수치를 곧바로 업계의 확정적인 성능 격차로 받아들이기는 어렵다. 현재 공개된 자료에는 Vera Rubin의 토큰 100만 개당 구체적인 달러 비용이 제시되지 않았으며, 동일한 조건에서 진행한 독립적인 일대일 검증 결과도 포함돼 있지 않다.

엔비디아가 주장한 핵심 수치

엔비디아가 제시한 비교는 다음과 같다.

• GB300 NVL72 대비 에이전트 AI 전력 1MW당 처리량 최대 30배
• GB300 NVL72 대비 토큰 비용 최대 35배 절감
• DeepSeek V4 Pro 모델과 SemiAnalysis AgentX 워크로드를 활용한 테스트

AgentX는 단순한 단문 질의응답 성능을 측정하는 테스트가 아니다. 실제 운영 환경을 닮은 코딩 세션을 재생하면서 컨텍스트 증가, 도구 호출, 코드 실행, 하위 에이전트 생성 등을 포함한다. 6

에이전트는 한 번 답하고 끝나지 않는다. 답변을 만든 뒤 결과를 확인하고, 외부 도구를 호출하고, 코드를 실행하거나 새로운 작업을 생성한 다음, 더 커진 컨텍스트를 바탕으로 다시 추론할 수 있다. 따라서 이런 작업에서는 GPU 자체의 연산 성능뿐 아니라 메모리, 네트워크, CPU, 스토리지, 전력 효율까지 전체 시스템의 균형이 중요하다.

Hopper와 비교할 때 주의할 점

‘최대 30배’라는 직접 비교의 기준은 Hopper가 아니라 GB300 NVL72다. 엔비디아는 AgentX 관련 자료에서 GB300 NVL72가 DeepSeek V4 Pro를 실행할 때 H200 기반 Hopper 시스템보다 전력 1MW당 처리량이 최대 15배 높다고 별도로 설명한다.

이 수치를 Vera Rubin의 30배와 단순히 곱해 ‘Hopper보다 450배’라고 해석해서는 안 된다. 두 수치는 서로 다른 ‘최대치’ 비교이며, 현재 공개된 자료에는 Vera Rubin·GB300·Hopper를 동일한 조건에서 한 번에 비교한 통합 테스트 표가 없다.

비용 수치에도 같은 한계가 있다. 공개된 근거가 뒷받침하는 것은 GB300 대비 최대 35배 비용 절감이라는 엔비디아의 주장이다. Vera Rubin의 실제 토큰 100만 개당 가격이나 Vera Rubin과 Hopper의 구체적인 비용 비교는 확인되지 않는다.

Vera Rubin NVL72는 무엇으로 구성되나

Vera Rubin NVL72는 Rubin GPU 72개와 Vera CPU 36개를 하나의 랙 규모 시스템으로 묶는다. 여기에 ConnectX-9 SuperNIC과 BlueField-4 DPU가 결합된다. 엔비디아는 NVLink 6을 랙 내부의 스케일업 연결망으로, Quantum-X800 InfiniBand와 Spectrum-X Ethernet을 여러 시스템을 연결하는 스케일아웃 네트워크로 설명한다. 23

핵심은 여러 가속기 서버를 단순히 나열하는 대신 랙 전체를 하나의 긴밀한 컴퓨팅 시스템처럼 설계했다는 점이다. 에이전트 작업에서는 추론 도중 CPU 실행, 네트워크 통신, 데이터 처리, 스토리지 접근이 반복되기 때문에 이런 통합 설계가 실제 처리량과 응답성에 영향을 줄 수 있다.

에이전트 작업을 겨냥한 88코어 Vera CPU

Vera는 엔비디아가 설계한 Olympus 코어를 기반으로 한 88코어 CPU다. Spatial Multithreading 기술과 LPDDR5X 메모리를 사용하며, 메모리 대역폭은 최대 1.2TB/s다. 엔비디아는 에이전트 AI, 강화학습, 데이터 처리 등에서 x86 CPU보다 작업 완료 속도가 최대 1.8배 빠르다고 주장한다. 15

Vera의 역할은 일반적인 호스트 운영체제를 실행하는 데 그치지 않는다. 모델 추론을 둘러싼 CPU 작업을 처리하도록 설계됐으며, 주요 대상은 다음과 같다.

• 도구 호출
• 코드 실행
• 샌드박스 환경과 오케스트레이션
• 데이터 처리와 분석
• 시뮬레이션 및 강화학습

이런 작업을 CPU에서 효율적으로 처리하면 GPU가 추론에 집중할 수 있고, 에이전트 루프 전체에서 발생하는 병목도 줄일 수 있다는 것이 엔비디아의 설명이다. 159

BlueField-4와 ‘Scale-In’ 인프라 계층

BlueField-4는 인프라 처리 전용 구성요소다. 64코어 Grace CPU, LPDDR5X 메모리, ConnectX-9 네트워킹을 결합한 듀얼 다이 DPU로, 최대 800Gb/s 연결을 지원한다. 1

엔비디아는 BlueField-4가 제어, 보안, 데이터 이동, 오케스트레이션 같은 인프라 기능을 호스트 CPU와 GPU에서 분리해 처리한다고 설명한다. 이 구조에서 DPU는 대규모 AI 팩토리 전반에 격리되고 안전하며 예측 가능한 운영 환경을 제공하는 인프라 계층으로 작동한다. 1

이는 엔비디아가 말하는 ‘Scale-In’ 전략의 핵심이기도 하다. AI 시스템의 효율은 GPU 칩의 성능만으로 결정되지 않는다. 랙 내부의 통신, 스토리지, 작업 스케줄링, 보안 기능을 가속기 자원을 과도하게 소모하지 않고 처리하는 능력도 토큰 생산량과 전력 효율에 영향을 준다.

DSX MaxLPS는 어떤 역할을 하나

DSX MaxLPS는 Vera Rubin GPU나 CPU와 별개의 칩이 아니라, 엔비디아의 DSX AI 팩토리 전략을 구성하는 소프트웨어다. 엔비디아는 이를 제한된 전력 예산 안에서 전력 1MW당 토큰 성능을 극대화하기 위한 기술 모음으로 소개한다. 액체 냉각과 랙 내부 최적화 기술을 결합해 더 많은 GPU를 에너지 효율이 높은 작동 지점에서 운영하는 것이 목표다.

따라서 DSX MaxLPS는 30배 효율성 주장과도 연결된다. 이 수치는 GPU 실리콘만의 성능이 아니라 냉각, 랙 구성, 인프라 소프트웨어를 포함한 AI 팩토리 수준에서 측정되는 지표이기 때문이다. 다만 공개된 자료만으로는 개선분 가운데 어느 정도가 칩 설계, 소프트웨어 스택, 테스트 구성 또는 이들의 조합에서 비롯됐는지 구분할 수 없다.

SpaceXAI의 Vera Rubin 도입 계획

엔비디아와 SpaceXAI는 SpaceXAI가 차세대 에이전트 AI 워크로드를 위해 Vera CPU를 도입하고, Vera Rubin을 기반으로 Grok 관련 인프라를 확장할 계획이라고 밝혔다. 45

두 회사는 최적화된 Vera Rubin NVL72 시스템을 궤도에 올려 1세대 Starmind AI 위성에 적용하는 계획도 설명했다. 4

다만 이는 계획에 대한 발표다. 궤도용 NVL72 기반 시스템이 이미 발사됐거나 실제 서비스에 들어갔다는 의미는 아니다.

결론: 중요한 것은 ‘30배’보다 테스트 조건

Vera Rubin NVL72의 의미는 엔비디아가 AI 인프라 성능을 에이전트의 실제 작동 방식에 맞춰 측정하려 한다는 데 있다. 에이전트는 긴 세션 동안 컨텍스트를 계속 확장하고, 도구와 코드를 사용하며, 하위 에이전트를 호출한다. 엔비디아는 이런 워크로드에서 Vera Rubin NVL72가 GB300 NVL72보다 전력 1MW당 처리량을 최대 30배 높이고 토큰 비용을 최대 35배 낮췄다고 보고했다.

AI 인프라를 도입하려는 기업이 확인해야 할 핵심은 숫자의 크기 자체가 아니다. 실제 사용 모델, 목표 지연시간, 컨텍스트 길이, 동시 사용자 수, 전력 예산, 총소유비용을 적용했을 때 같은 격차가 재현되는지가 더 중요하다. 현재 공개된 자료는 엔비디아의 주장과 이를 뒷받침하는 플랫폼 구조를 보여주지만, 최종적인 독립 검증 결과까지 제시한 것은 아니다.

엔비디아가 차세대 AI 인프라 플랫폼 Vera Rubin NVL72의 에이전트 AI 성능을 공개하며 최대 30배라는 수치를 제시했다. 회사에 따르면 Vera Rubin NVL72는 DeepSeek V4 Pro를 SemiAnalysis의 AgentX 워크로드에서 실행했을 때, 이전 세대인 GB300 NVL72보다 전력 1MW당 처리량이 최대 30배 높았고 토큰 비용은 최대 35배 낮았다.

다만 이 수치를 곧바로 업계의 확정적인 성능 격차로 받아들이기는 어렵다. 현재 공개된 자료에는 Vera Rubin의 토큰 100만 개당 구체적인 달러 비용이 제시되지 않았으며, 동일한 조건에서 진행한 독립적인 일대일 검증 결과도 포함돼 있지 않다.

엔비디아가 주장한 핵심 수치

엔비디아가 제시한 비교는 다음과 같다.

• GB300 NVL72 대비 에이전트 AI 전력 1MW당 처리량 최대 30배
• GB300 NVL72 대비 토큰 비용 최대 35배 절감
• DeepSeek V4 Pro 모델과 SemiAnalysis AgentX 워크로드를 활용한 테스트

AgentX는 단순한 단문 질의응답 성능을 측정하는 테스트가 아니다. 실제 운영 환경을 닮은 코딩 세션을 재생하면서 컨텍스트 증가, 도구 호출, 코드 실행, 하위 에이전트 생성 등을 포함한다. 6

에이전트는 한 번 답하고 끝나지 않는다. 답변을 만든 뒤 결과를 확인하고, 외부 도구를 호출하고, 코드를 실행하거나 새로운 작업을 생성한 다음, 더 커진 컨텍스트를 바탕으로 다시 추론할 수 있다. 따라서 이런 작업에서는 GPU 자체의 연산 성능뿐 아니라 메모리, 네트워크, CPU, 스토리지, 전력 효율까지 전체 시스템의 균형이 중요하다.

Hopper와 비교할 때 주의할 점

‘최대 30배’라는 직접 비교의 기준은 Hopper가 아니라 GB300 NVL72다. 엔비디아는 AgentX 관련 자료에서 GB300 NVL72가 DeepSeek V4 Pro를 실행할 때 H200 기반 Hopper 시스템보다 전력 1MW당 처리량이 최대 15배 높다고 별도로 설명한다.

이 수치를 Vera Rubin의 30배와 단순히 곱해 ‘Hopper보다 450배’라고 해석해서는 안 된다. 두 수치는 서로 다른 ‘최대치’ 비교이며, 현재 공개된 자료에는 Vera Rubin·GB300·Hopper를 동일한 조건에서 한 번에 비교한 통합 테스트 표가 없다.

비용 수치에도 같은 한계가 있다. 공개된 근거가 뒷받침하는 것은 GB300 대비 최대 35배 비용 절감이라는 엔비디아의 주장이다. Vera Rubin의 실제 토큰 100만 개당 가격이나 Vera Rubin과 Hopper의 구체적인 비용 비교는 확인되지 않는다.

Vera Rubin NVL72는 무엇으로 구성되나

Vera Rubin NVL72는 Rubin GPU 72개와 Vera CPU 36개를 하나의 랙 규모 시스템으로 묶는다. 여기에 ConnectX-9 SuperNIC과 BlueField-4 DPU가 결합된다. 엔비디아는 NVLink 6을 랙 내부의 스케일업 연결망으로, Quantum-X800 InfiniBand와 Spectrum-X Ethernet을 여러 시스템을 연결하는 스케일아웃 네트워크로 설명한다. 23

핵심은 여러 가속기 서버를 단순히 나열하는 대신 랙 전체를 하나의 긴밀한 컴퓨팅 시스템처럼 설계했다는 점이다. 에이전트 작업에서는 추론 도중 CPU 실행, 네트워크 통신, 데이터 처리, 스토리지 접근이 반복되기 때문에 이런 통합 설계가 실제 처리량과 응답성에 영향을 줄 수 있다.

에이전트 작업을 겨냥한 88코어 Vera CPU

Vera는 엔비디아가 설계한 Olympus 코어를 기반으로 한 88코어 CPU다. Spatial Multithreading 기술과 LPDDR5X 메모리를 사용하며, 메모리 대역폭은 최대 1.2TB/s다. 엔비디아는 에이전트 AI, 강화학습, 데이터 처리 등에서 x86 CPU보다 작업 완료 속도가 최대 1.8배 빠르다고 주장한다. 15

Vera의 역할은 일반적인 호스트 운영체제를 실행하는 데 그치지 않는다. 모델 추론을 둘러싼 CPU 작업을 처리하도록 설계됐으며, 주요 대상은 다음과 같다.

• 도구 호출
• 코드 실행
• 샌드박스 환경과 오케스트레이션
• 데이터 처리와 분석
• 시뮬레이션 및 강화학습

이런 작업을 CPU에서 효율적으로 처리하면 GPU가 추론에 집중할 수 있고, 에이전트 루프 전체에서 발생하는 병목도 줄일 수 있다는 것이 엔비디아의 설명이다. 159

BlueField-4와 ‘Scale-In’ 인프라 계층

BlueField-4는 인프라 처리 전용 구성요소다. 64코어 Grace CPU, LPDDR5X 메모리, ConnectX-9 네트워킹을 결합한 듀얼 다이 DPU로, 최대 800Gb/s 연결을 지원한다. 1

엔비디아는 BlueField-4가 제어, 보안, 데이터 이동, 오케스트레이션 같은 인프라 기능을 호스트 CPU와 GPU에서 분리해 처리한다고 설명한다. 이 구조에서 DPU는 대규모 AI 팩토리 전반에 격리되고 안전하며 예측 가능한 운영 환경을 제공하는 인프라 계층으로 작동한다. 1

이는 엔비디아가 말하는 ‘Scale-In’ 전략의 핵심이기도 하다. AI 시스템의 효율은 GPU 칩의 성능만으로 결정되지 않는다. 랙 내부의 통신, 스토리지, 작업 스케줄링, 보안 기능을 가속기 자원을 과도하게 소모하지 않고 처리하는 능력도 토큰 생산량과 전력 효율에 영향을 준다.

DSX MaxLPS는 어떤 역할을 하나

DSX MaxLPS는 Vera Rubin GPU나 CPU와 별개의 칩이 아니라, 엔비디아의 DSX AI 팩토리 전략을 구성하는 소프트웨어다. 엔비디아는 이를 제한된 전력 예산 안에서 전력 1MW당 토큰 성능을 극대화하기 위한 기술 모음으로 소개한다. 액체 냉각과 랙 내부 최적화 기술을 결합해 더 많은 GPU를 에너지 효율이 높은 작동 지점에서 운영하는 것이 목표다.

따라서 DSX MaxLPS는 30배 효율성 주장과도 연결된다. 이 수치는 GPU 실리콘만의 성능이 아니라 냉각, 랙 구성, 인프라 소프트웨어를 포함한 AI 팩토리 수준에서 측정되는 지표이기 때문이다. 다만 공개된 자료만으로는 개선분 가운데 어느 정도가 칩 설계, 소프트웨어 스택, 테스트 구성 또는 이들의 조합에서 비롯됐는지 구분할 수 없다.

SpaceXAI의 Vera Rubin 도입 계획

엔비디아와 SpaceXAI는 SpaceXAI가 차세대 에이전트 AI 워크로드를 위해 Vera CPU를 도입하고, Vera Rubin을 기반으로 Grok 관련 인프라를 확장할 계획이라고 밝혔다. 45

두 회사는 최적화된 Vera Rubin NVL72 시스템을 궤도에 올려 1세대 Starmind AI 위성에 적용하는 계획도 설명했다. 4

다만 이는 계획에 대한 발표다. 궤도용 NVL72 기반 시스템이 이미 발사됐거나 실제 서비스에 들어갔다는 의미는 아니다.

결론: 중요한 것은 ‘30배’보다 테스트 조건

Vera Rubin NVL72의 의미는 엔비디아가 AI 인프라 성능을 에이전트의 실제 작동 방식에 맞춰 측정하려 한다는 데 있다. 에이전트는 긴 세션 동안 컨텍스트를 계속 확장하고, 도구와 코드를 사용하며, 하위 에이전트를 호출한다. 엔비디아는 이런 워크로드에서 Vera Rubin NVL72가 GB300 NVL72보다 전력 1MW당 처리량을 최대 30배 높이고 토큰 비용을 최대 35배 낮췄다고 보고했다.

AI 인프라를 도입하려는 기업이 확인해야 할 핵심은 숫자의 크기 자체가 아니다. 실제 사용 모델, 목표 지연시간, 컨텍스트 길이, 동시 사용자 수, 전력 예산, 총소유비용을 적용했을 때 같은 격차가 재현되는지가 더 중요하다. 현재 공개된 자료는 엔비디아의 주장과 이를 뒷받침하는 플랫폼 구조를 보여주지만, 최종적인 독립 검증 결과까지 제시한 것은 아니다.