엔비디아 베라 루빈 AI 랙 가격이 780만 달러까지 오를 수 있는 이유

즉 AI 서버 랙 안에 들어가는 거의 모든 주요 부품이 더 복잡해지고 더 비싸지고 있다는 의미다.

가장 큰 비용 요인은 ‘메모리’

Rubin 플랫폼에서 가장 큰 비용 증가 요인은 차세대 메모리 구조다.

Rubin GPU는 기존 HBM3/HBM3e 다음 단계인 **HBM4(High Bandwidth Memory)**를 사용한다. 이는 대형 AI 모델 학습을 위해 매우 높은 메모리 대역폭을 제공하도록 설계된 메모리다.

동시에 새로운 Vera CPU는 최대 1.5TB 규모의 LPDDR5X 메모리 서브시스템을 사용하며, 이는 SOCAMM 모듈 형태로 제공된다.

메모리 공급사들도 이미 Rubin 생태계를 위해 생산을 시작했다. 예를 들어 마이크론(Micron)은 Rubin 플랫폼용 HBM4 스택과 SOCAMM2 메모리 모듈의 대량 생산을 시작했다고 밝혔다.

이 플랫폼은 다음 두 가지를 동시에 사용한다.

• GPU용 초고대역폭 HBM4 메모리
• CPU용 대용량 LPDDR5X 메모리 풀

이 때문에 랙당 메모리 용량과 비용이 크게 증가한다. 일부 분석에서는 메모리만으로도 전체 랙 비용의 약 25% 수준을 차지할 수 있다고 본다.

랙 전체의 시스템 복잡도 증가

메모리 외에도 Rubin 플랫폼은 여러 특수 칩과 네트워크 기술을 통합해 시스템 복잡도가 크게 높아졌다.

플랫폼은 다음과 같은 핵심 구성 요소를 하나의 아키텍처로 결합한다.

• Vera CPU
• Rubin GPU
• NVLink 스위치
• ConnectX SuperNIC 네트워크
• BlueField DPU
• Spectrum Ethernet 스위치

이처럼 많은 고속 칩과 인터커넥트가 하나의 랙 안에서 작동하려면 더 정교한 기판 설계, 신호 처리, 전력 공급 구조가 필요하다.

그 결과 다음과 같은 하드웨어 비용이 크게 증가한다.

• PCB: 더 많은 레이어와 고급 소재 필요
• MLCC: 전력 안정화를 위한 수동 부품 수 증가
• ABF 기판: 고성능 칩 패키징을 위한 고급 기판 확대

이 부품들은 개별적으로는 작아 보이지만, GPU 수십 개와 네트워크 장치가 들어가는 랙 단위 시스템에서는 전체 비용을 크게 끌어올리는 요소가 된다.

GPU는 여전히 비싸지만 ‘지배적’이지는 않다

Rubin GPU 역시 저렴하지 않다.

일부 분석에 따르면 Rubin GPU 한 개 가격은 약 5만5천 달러로 추정되며 이는 Blackwell 대비 약 57% 상승한 수준이다.

하지만 메모리와 시스템 부품의 비용 증가 속도가 더 빠르기 때문에 전체 랙 비용에서 GPU가 차지하는 비중은 오히려 줄어드는 추세다.

이는 AI 하드웨어 설계 철학이 바뀌고 있다는 의미다. 성능이 더 이상 GPU 하나만으로 결정되지 않고 메모리 구조, 네트워크, 시스템 아키텍처 전체에 의해 좌우되기 때문이다.

AI 반도체 공급망에 미치는 영향

이러한 비용 구조 변화는 AI 반도체 산업 전체에도 영향을 준다.

첫째, AI 붐의 수혜 기업이 더 넓어지고 있다.

특히 다음 분야 기업들의 비중이 커지고 있다.

• HBM 및 DRAM 메모리 제조사
• 고급 패키징 기판 업체
• 고다층 PCB 제조사
• MLCC 등 수동부품 공급사

둘째, 메모리 공급 능력이 AI 인프라 확대 속도를 좌우할 가능성이 커졌다. Rubin은 HBM4 생산량에 크게 의존하기 때문이다.

셋째, 시스템 통합 난도가 높아지면서 ODM/OEM 서버 제조사가 창출하는 부가가치도 커질 수 있다.

AI 하드웨어의 방향: ‘랙 단위 슈퍼컴퓨터’

780만 달러라는 가격은 단순한 서버 가격이 아니다.

초기 AI 서버는 사실상 일반 서버에 GPU 가속기를 추가한 구조였다. 하지만 Rubin 같은 플랫폼은 CPU, GPU, 메모리, 네트워크를 하나의 설계로 묶은 완전한 AI 슈퍼컴퓨터를 랙 단위로 제공하는 구조다.

이 때문에 이제는 하나의 랙 가격이 작은 데이터센터 구축 비용과 맞먹는 수준까지 올라가고 있다.

다만 한 가지 주의할 점이 있다. 780만 달러라는 수치는 공식 가격이 아니라 공급망 분석을 기반으로 한 애널리스트 추정치이며, 엔비디아가 공식 판매 가격을 발표한 것은 아니다.

그럼에도 방향성은 분명하다. 차세대 AI 인프라의 경쟁력은 더 이상 단일 GPU 칩이 아니라 그 칩을 둘러싼 전체 시스템 설계에서 결정되고 있다.