Jetson Thor: 로봇과 엣지 AI를 위한 초고성능 컴퓨팅

Jetson Thor는 로봇과 산업용 시스템을 위해 설계된 엣지 AI 모듈 플랫폼이다. NVIDIA의 Blackwell GPU 아키텍처를 기반으로 하며, 작은 전력 예산에서도 높은 AI 성능을 제공하도록 설계됐다.

주요 특징은 다음과 같다.

• 최대 2,070 FP4 TFLOPS AI 연산 성능
• 128GB 메모리 탑재
• 약 130W 전력 범위에서 동작
• 이전 세대 Jetson AGX Orin 대비 최대 7.5배 AI 성능, 3.5배 전력 효율 개선

이 성능 덕분에 로봇이나 산업 장비가 클라우드 의존도를 낮추고 현장에서 직접 AI 추론을 수행할 수 있다. 특히 카메라·라이다·센서 데이터를 동시에 처리하는 실시간 멀티센서 AI 환경에서 큰 장점이 있다.

로봇 분야에서의 의미

Jetson Thor는 단순히 연산 성능만 높은 것이 아니라 저지연 추론과 에너지 효율을 동시에 제공한다. 그 결과 다음과 같은 영역에서 활용이 기대된다.

• 휴머노이드 로봇
• 산업 자동화 시스템
• 물류 로봇
• 의료 장비

이런 장치들은 빠른 의사결정을 위해 현장에서 직접 AI 모델을 실행해야 하는데, Jetson Thor는 이를 가능하게 하는 하드웨어 기반을 제공한다.

Vera Rubin NVL72: 랙 단위로 설계된 AI 슈퍼컴퓨터

이번 행사에서 가장 큰 주목을 받은 제품은 Vera Rubin NVL72이다. 이는 단일 GPU가 아니라 서버 랙 전체를 하나의 AI 가속기처럼 작동하도록 설계된 시스템이다.

구성은 다음과 같다.

• 36개의 NVIDIA Vera CPU
• 72개의 Rubin GPU
• 6세대 NVLink 스위치로 GPU를 하나의 시스템처럼 연결

이 구조 덕분에 시스템 전체가 거대한 AI 컴퓨터처럼 작동하며 초대형 AI 모델 학습과 추론을 처리할 수 있다.

성능 및 효율 개선

NVIDIA 자료에 따르면 Rubin 기반 시스템은 다음과 같은 효율 향상을 제공한다.

• 동일한 모델 학습에 Blackwell 대비 1/4 수준 GPU 필요
• 토큰당 추론 비용 약 1/10 수준
• 추론 처리량 및 와트당 성능 최대 10배 향상

이 시스템은 특히 트릴리언 파라미터 모델이나 긴 컨텍스트 AI 모델 같은 차세대 워크로드에 맞춰 설계됐다.

AI 인프라 경쟁의 변화

Vera Rubin NVL72가 보여주는 핵심 변화는 AI 경쟁이 더 이상 **개별 칩 성능 경쟁이 아니라 ‘랙 규모 시스템 경쟁’**으로 이동하고 있다는 점이다.

즉 앞으로는 다음 요소가 함께 설계된다.

• GPU 및 CPU
• 고속 인터커넥트(NVLink)
• 네트워크 및 DPU
• 냉각 시스템

이런 통합 설계를 통해 데이터센터는 ‘AI 공장(AI factory)’ 형태의 인프라로 진화하고 있다.

Alpamayo: 추론 가능한 자율주행 AI

Alpamayo는 엔비디아가 개발한 자율주행 AI 모델 및 개발 플랫폼으로, COMPUTEX에서 스마트 차량 기술 부문 상을 받았다.

기존 자율주행 시스템은 주로 다음 두 단계로 작동한다.

1. 도로 상황 인식
2. 경로 계획

하지만 Alpamayo는 여기에 추론 기반 AI 모델을 도입했다.

대표적으로 시각‑언어‑행동(Vision‑Language‑Action, VLA) 모델을 사용해 차량이 단순히 상황을 인식하는 것이 아니라 왜 그런 결정을 내렸는지 설명할 수 있도록 설계됐다.

예를 들어 예상치 못한 도로 상황에서 AI는

• 상황을 여러 문제로 분해하고
• 가능한 행동을 비교한 뒤
• 가장 안전한 경로를 선택한다.

이 과정에서 의사결정 과정까지 기록되기 때문에 개발자들이 시스템을 분석하고 개선하기 쉬워진다.

실제 데이터 + 시뮬레이션 학습

자율주행 시스템의 가장 큰 문제 중 하나는 데이터 부족이다. 모든 도로 상황을 실제로 테스트하기 어렵기 때문이다.

Alpamayo는 이를 해결하기 위해 다음 데이터를 함께 활용한다.

• 실제 차량 주행 데이터
• 시뮬레이션 및 합성 데이터
• 대규모 주행 시나리오 데이터셋

이 방식은 현실 세계에서 발생하기 어려운 희귀한 사고 상황까지 학습하는 데 도움이 된다.

세 제품이 보여주는 엔비디아의 AI 전략

COMPUTEX 2026 수상 결과는 엔비디아의 AI 전략을 세 단계로 보여준다.

• Jetson Thor → 로봇과 엣지 AI 장치
• Vera Rubin NVL72 → 데이터센터 및 AI 공장 인프라
• Alpamayo → 자율주행 소프트웨어 플랫폼

즉 AI 기술을 데이터센터에서 시작해 현실 세계의 로봇과 자동차까지 연결하는 전체 생태계를 구축하려는 방향이다.

이 전략은 앞으로 로봇, 자율주행, 대형 AI 모델이 동시에 성장하는 시장에서 중요한 경쟁력이 될 가능성이 크다.

Jetson Thor: 로봇과 엣지 AI를 위한 초고성능 컴퓨팅

Jetson Thor는 로봇과 산업용 시스템을 위해 설계된 엣지 AI 모듈 플랫폼이다. NVIDIA의 Blackwell GPU 아키텍처를 기반으로 하며, 작은 전력 예산에서도 높은 AI 성능을 제공하도록 설계됐다.

주요 특징은 다음과 같다.

• 최대 2,070 FP4 TFLOPS AI 연산 성능
• 128GB 메모리 탑재
• 약 130W 전력 범위에서 동작
• 이전 세대 Jetson AGX Orin 대비 최대 7.5배 AI 성능, 3.5배 전력 효율 개선

이 성능 덕분에 로봇이나 산업 장비가 클라우드 의존도를 낮추고 현장에서 직접 AI 추론을 수행할 수 있다. 특히 카메라·라이다·센서 데이터를 동시에 처리하는 실시간 멀티센서 AI 환경에서 큰 장점이 있다.

로봇 분야에서의 의미

Jetson Thor는 단순히 연산 성능만 높은 것이 아니라 저지연 추론과 에너지 효율을 동시에 제공한다. 그 결과 다음과 같은 영역에서 활용이 기대된다.

• 휴머노이드 로봇
• 산업 자동화 시스템
• 물류 로봇
• 의료 장비

이런 장치들은 빠른 의사결정을 위해 현장에서 직접 AI 모델을 실행해야 하는데, Jetson Thor는 이를 가능하게 하는 하드웨어 기반을 제공한다.

Vera Rubin NVL72: 랙 단위로 설계된 AI 슈퍼컴퓨터

이번 행사에서 가장 큰 주목을 받은 제품은 Vera Rubin NVL72이다. 이는 단일 GPU가 아니라 서버 랙 전체를 하나의 AI 가속기처럼 작동하도록 설계된 시스템이다.

구성은 다음과 같다.

• 36개의 NVIDIA Vera CPU
• 72개의 Rubin GPU
• 6세대 NVLink 스위치로 GPU를 하나의 시스템처럼 연결

이 구조 덕분에 시스템 전체가 거대한 AI 컴퓨터처럼 작동하며 초대형 AI 모델 학습과 추론을 처리할 수 있다.

성능 및 효율 개선

NVIDIA 자료에 따르면 Rubin 기반 시스템은 다음과 같은 효율 향상을 제공한다.

• 동일한 모델 학습에 Blackwell 대비 1/4 수준 GPU 필요
• 토큰당 추론 비용 약 1/10 수준
• 추론 처리량 및 와트당 성능 최대 10배 향상

이 시스템은 특히 트릴리언 파라미터 모델이나 긴 컨텍스트 AI 모델 같은 차세대 워크로드에 맞춰 설계됐다.

AI 인프라 경쟁의 변화

Vera Rubin NVL72가 보여주는 핵심 변화는 AI 경쟁이 더 이상 **개별 칩 성능 경쟁이 아니라 ‘랙 규모 시스템 경쟁’**으로 이동하고 있다는 점이다.

즉 앞으로는 다음 요소가 함께 설계된다.

• GPU 및 CPU
• 고속 인터커넥트(NVLink)
• 네트워크 및 DPU
• 냉각 시스템

이런 통합 설계를 통해 데이터센터는 ‘AI 공장(AI factory)’ 형태의 인프라로 진화하고 있다.

Alpamayo: 추론 가능한 자율주행 AI

Alpamayo는 엔비디아가 개발한 자율주행 AI 모델 및 개발 플랫폼으로, COMPUTEX에서 스마트 차량 기술 부문 상을 받았다.

기존 자율주행 시스템은 주로 다음 두 단계로 작동한다.

1. 도로 상황 인식
2. 경로 계획

하지만 Alpamayo는 여기에 추론 기반 AI 모델을 도입했다.

대표적으로 시각‑언어‑행동(Vision‑Language‑Action, VLA) 모델을 사용해 차량이 단순히 상황을 인식하는 것이 아니라 왜 그런 결정을 내렸는지 설명할 수 있도록 설계됐다.

예를 들어 예상치 못한 도로 상황에서 AI는

• 상황을 여러 문제로 분해하고
• 가능한 행동을 비교한 뒤
• 가장 안전한 경로를 선택한다.

이 과정에서 의사결정 과정까지 기록되기 때문에 개발자들이 시스템을 분석하고 개선하기 쉬워진다.

실제 데이터 + 시뮬레이션 학습

자율주행 시스템의 가장 큰 문제 중 하나는 데이터 부족이다. 모든 도로 상황을 실제로 테스트하기 어렵기 때문이다.

Alpamayo는 이를 해결하기 위해 다음 데이터를 함께 활용한다.

• 실제 차량 주행 데이터
• 시뮬레이션 및 합성 데이터
• 대규모 주행 시나리오 데이터셋

이 방식은 현실 세계에서 발생하기 어려운 희귀한 사고 상황까지 학습하는 데 도움이 된다.

세 제품이 보여주는 엔비디아의 AI 전략

COMPUTEX 2026 수상 결과는 엔비디아의 AI 전략을 세 단계로 보여준다.

• Jetson Thor → 로봇과 엣지 AI 장치
• Vera Rubin NVL72 → 데이터센터 및 AI 공장 인프라
• Alpamayo → 자율주행 소프트웨어 플랫폼

즉 AI 기술을 데이터센터에서 시작해 현실 세계의 로봇과 자동차까지 연결하는 전체 생태계를 구축하려는 방향이다.

이 전략은 앞으로 로봇, 자율주행, 대형 AI 모델이 동시에 성장하는 시장에서 중요한 경쟁력이 될 가능성이 크다.