즉 AI 서버 랙 안에 들어가는 거의 모든 주요 부품이 더 복잡해지고 더 비싸지고 있다는 의미다.
Rubin 플랫폼에서 가장 큰 비용 증가 요인은 차세대 메모리 구조다.
Rubin GPU는 기존 HBM3/HBM3e 다음 단계인 **HBM4(High Bandwidth Memory)**를 사용한다. 이는 대형 AI 모델 학습을 위해 매우 높은 메모리 대역폭을 제공하도록 설계된 메모리다.
메모리 공급사들도 이미 Rubin 생태계를 위해 생산을 시작했다. 예를 들어 마이크론(Micron)은 Rubin 플랫폼용 HBM4 스택과 SOCAMM2 메모리 모듈의 대량 생산을 시작했다고 밝혔다.
이 플랫폼은 다음 두 가지를 동시에 사용한다.
메모리 외에도 Rubin 플랫폼은 여러 특수 칩과 네트워크 기술을 통합해 시스템 복잡도가 크게 높아졌다.
플랫폼은 다음과 같은 핵심 구성 요소를 하나의 아키텍처로 결합한다.
이처럼 많은 고속 칩과 인터커넥트가 하나의 랙 안에서 작동하려면 더 정교한 기판 설계, 신호 처리, 전력 공급 구조가 필요하다.
그 결과 다음과 같은 하드웨어 비용이 크게 증가한다.
이 부품들은 개별적으로는 작아 보이지만, GPU 수십 개와 네트워크 장치가 들어가는 랙 단위 시스템에서는 전체 비용을 크게 끌어올리는 요소가 된다.
Rubin GPU 역시 저렴하지 않다.
이는 AI 하드웨어 설계 철학이 바뀌고 있다는 의미다. 성능이 더 이상 GPU 하나만으로 결정되지 않고 메모리 구조, 네트워크, 시스템 아키텍처 전체에 의해 좌우되기 때문이다.
이러한 비용 구조 변화는 AI 반도체 산업 전체에도 영향을 준다.
첫째, AI 붐의 수혜 기업이 더 넓어지고 있다.
특히 다음 분야 기업들의 비중이 커지고 있다.
780만 달러라는 가격은 단순한 서버 가격이 아니다.
초기 AI 서버는 사실상 일반 서버에 GPU 가속기를 추가한 구조였다. 하지만 Rubin 같은 플랫폼은 CPU, GPU, 메모리, 네트워크를 하나의 설계로 묶은 완전한 AI 슈퍼컴퓨터를 랙 단위로 제공하는 구조다.
이 때문에 이제는 하나의 랙 가격이 작은 데이터센터 구축 비용과 맞먹는 수준까지 올라가고 있다.
그럼에도 방향성은 분명하다. 차세대 AI 인프라의 경쟁력은 더 이상 단일 GPU 칩이 아니라 그 칩을 둘러싼 전체 시스템 설계에서 결정되고 있다.
Comments
0 comments