엔비디아가 거둔 성과

이번 첫 발표에서 엔비디아는 특히 DeepSeek V4 Pro 모델을 구동하는 작업에서 눈에 띄는 성과를 보였습니다. DeepSeek V4 Pro는 최첨단 에이전트 AI를 대표하는 대형 혼합 전문가(MoE) 모델입니다.

• 최고 성능 달성: 엔비디아 GB300 NVL72 (블랙웰 울트라)는 테스트된 모든 플랫폼 중에서 가장 높은 성능을 기록했습니다 .
• 에너지 효율의 혁신: 동일한 전력을 사용할 때, 이전 세대인 엔비디아 HGX H200 (호퍼) 시스템보다 메가와트당 최대 20배 더 많은 동시 에이전트를 실행할 수 있었습니다. 이는 초당 20토큰 및 60토큰 SLO 등급 모두에서 동일하게 나타난 결과입니다 .
• 압도적 원시 성능: 인공지능 분석이 소셜 미디어를 통해 공개한 세부 수치를 보면, 랙 스케일 분리형 구성의 GB300은 가장 낮은 SLO 등급(20 tokens/s, 10s TTFT)에서 무려 61,340개의 동시 에이전트를 처리한 것으로 나타났습니다 .

엔비디아의 더 큰 전략적 그림

이번 에이전트퍼프 결과는 단순한 벤치마크 점수를 넘어, 블랙웰 울트라를 대규모 에이전트 AI 시대의 결정적 플랫폼으로 자리매김하려는 엔비디아의 다각적인 전략의 일환입니다.

• 풀스택 최적화에 대한 서사: 엔비디아는 이 20배의 성능 향상이 극단적인 공동 설계 덕분이라고 설명합니다. 72개의 GPU를 하나의 패브릭으로 연결하는 NVLink, MoE 모델을 위해 통신과 연산을 중첩하는 CUDA 커널, 그리고 동시 에이전트 세션이 확장되어도 효율을 유지하는 TensorRT LLM 최적화(WideEP/DeepEP, DeepGEMM, fused MoE) 등이 그 핵심입니다 .
• 벤치마크 지배력의 확장: 에이전트퍼프는 기존 MLPerf에서의 기록 행진에 에이전트 작업 부하라는 차원을 추가합니다. 엔비디아는 이미 블랙웰 울트라로 MLPerf 추론 v5.1에서 기록을 세웠고(기존 블랙웰 대비 DeepSeek-R1 처리량 1.4배 향상) , MLPerf 훈련 v5.1의 7개 벤치마크 모두를 휩쓸며 그 기반을 다졌습니다.
• 생태계 증명: Together AI (Cursor의 에이전트 코딩을 지원)와 DeepInfra (Pam.ai의 AI 인력을 지원) 같은 파트너사들이 이미 블랙웰에서 에이전트 작업을 구동 중임을 강조하며, 이 하드웨어가 단순히 벤치마크용이 아니라 상용 환경에 바로 투입 가능하다는 점을 증명하고 있습니다 .
• 미래 로드맵 제시: 엔비디아 기술 블로그는 이번 발표에서 차세대 ‘베라 루빈(Vera Rubin)’ 아키텍처(현재 생산 중)를 에이전트 AI 용량 확장의 다음 단계로 명시적으로 예고했습니다 . 기술 심층 분석 노트는 또한 50 페타플롭스의 NVFP4 컴퓨팅 성능과 향상된 LLM 도구 호출 가속화를 통한 개선을 전망하고 있습니다 .

엔비디아가 거둔 성과

이번 첫 발표에서 엔비디아는 특히 DeepSeek V4 Pro 모델을 구동하는 작업에서 눈에 띄는 성과를 보였습니다. DeepSeek V4 Pro는 최첨단 에이전트 AI를 대표하는 대형 혼합 전문가(MoE) 모델입니다.

• 최고 성능 달성: 엔비디아 GB300 NVL72 (블랙웰 울트라)는 테스트된 모든 플랫폼 중에서 가장 높은 성능을 기록했습니다 .
• 에너지 효율의 혁신: 동일한 전력을 사용할 때, 이전 세대인 엔비디아 HGX H200 (호퍼) 시스템보다 메가와트당 최대 20배 더 많은 동시 에이전트를 실행할 수 있었습니다. 이는 초당 20토큰 및 60토큰 SLO 등급 모두에서 동일하게 나타난 결과입니다 .
• 압도적 원시 성능: 인공지능 분석이 소셜 미디어를 통해 공개한 세부 수치를 보면, 랙 스케일 분리형 구성의 GB300은 가장 낮은 SLO 등급(20 tokens/s, 10s TTFT)에서 무려 61,340개의 동시 에이전트를 처리한 것으로 나타났습니다 .

엔비디아의 더 큰 전략적 그림

이번 에이전트퍼프 결과는 단순한 벤치마크 점수를 넘어, 블랙웰 울트라를 대규모 에이전트 AI 시대의 결정적 플랫폼으로 자리매김하려는 엔비디아의 다각적인 전략의 일환입니다.

• 풀스택 최적화에 대한 서사: 엔비디아는 이 20배의 성능 향상이 극단적인 공동 설계 덕분이라고 설명합니다. 72개의 GPU를 하나의 패브릭으로 연결하는 NVLink, MoE 모델을 위해 통신과 연산을 중첩하는 CUDA 커널, 그리고 동시 에이전트 세션이 확장되어도 효율을 유지하는 TensorRT LLM 최적화(WideEP/DeepEP, DeepGEMM, fused MoE) 등이 그 핵심입니다 .
• 벤치마크 지배력의 확장: 에이전트퍼프는 기존 MLPerf에서의 기록 행진에 에이전트 작업 부하라는 차원을 추가합니다. 엔비디아는 이미 블랙웰 울트라로 MLPerf 추론 v5.1에서 기록을 세웠고(기존 블랙웰 대비 DeepSeek-R1 처리량 1.4배 향상) , MLPerf 훈련 v5.1의 7개 벤치마크 모두를 휩쓸며 그 기반을 다졌습니다.
• 생태계 증명: Together AI (Cursor의 에이전트 코딩을 지원)와 DeepInfra (Pam.ai의 AI 인력을 지원) 같은 파트너사들이 이미 블랙웰에서 에이전트 작업을 구동 중임을 강조하며, 이 하드웨어가 단순히 벤치마크용이 아니라 상용 환경에 바로 투입 가능하다는 점을 증명하고 있습니다 .
• 미래 로드맵 제시: 엔비디아 기술 블로그는 이번 발표에서 차세대 ‘베라 루빈(Vera Rubin)’ 아키텍처(현재 생산 중)를 에이전트 AI 용량 확장의 다음 단계로 명시적으로 예고했습니다 . 기술 심층 분석 노트는 또한 50 페타플롭스의 NVFP4 컴퓨팅 성능과 향상된 LLM 도구 호출 가속화를 통한 개선을 전망하고 있습니다 .