울란차부 사례는 AI 인프라의 입지 공식이 바뀌고 있음을 보여준다. 최대 수요지 한가운데에 데이터센터를 지어야만 하는 것은 아니다. 알리바바 클라우드의 내몽골 울란차부 캠퍼스는 베이징에서 약 350km 떨어져 있지만, 보도된 왕복 네트워크 지연은 약 4밀리초(ms)다. 동시에 낮은 전력비와 냉량한 기후의 이점을 누릴 수 있어 AI 추론과 대규모 학습을 함께 뒷받침할 후보지로 평가된다.
24
25
물리적 거리보다 중요한 것은 체감 지연
울란차부와 베이징의 거리는 약 350km다. 그러나 알리바바 데이터센터 운영 책임자 왕자오양은 현지 매체에 두 지역 간 데이터 전송 지연이 약 4ms이며, 대화형 AI 애플리케이션에는 수용 가능한 수준이라고 설명했다.
25
여기서 중요한 것은 거리와 서비스 지연이 같지 않다는 점이다. 네트워크 연결이 충분히 빠르면, 인근 대도시권 밖의 대규모 캠퍼스도 주요 수요지를 지원할 수 있다. 울란차부에서 베이징으로 직접 연결된 광케이블 2개는 편도 지연을 2.1ms 미만으로 낮춘 것으로 전해진다.
35
전력과 냉각이 만드는 비용 경쟁력
AI 데이터센터는 막대한 전력을 소비한다. 보도에 따르면 울란차부의 전력 단가는 kWh당 약 0.32~0.35위안이며, 한 추산에서는 지역 전력 공급의 약 90%를 재생에너지가 차지하는 것으로 제시됐다.
21
25
기후도 또 다른 장점이다. 울란차부의 연평균 기온은 약 4℃로 알려져 있으며, 자연 냉각을 연중 상당 기간 활용할 수 있다는 설명이 나온다.
24
35 고밀도 AI 가속기 클러스터를 운영하는 사업자에게는 기계식 냉각 부담을 줄여 전력비 절감 효과를 더할 수 있는 조건이다.
재생에너지 연계도 단순한 구호에만 머물지 않는다. 발전·전력망·부하·저장을 통합한 별도의 울란차부 저탄소 컴퓨팅 기지 프로젝트는 2025년 가동에 들어갔다. 이 프로젝트는 데이터센터 부하에 녹색 전력을 직접 공급하도록 설계됐고, 연간 8억4,800만kWh의 녹색 전력을 자체 사용분으로 생산할 것으로 전망된다.
39
CUBE 5.0: ‘얼마나 빨리 지을 수 있나’도 경쟁력
알리바바의 CUBE 5.0은 다른 병목, 즉 데이터센터가 IT 장비를 받을 준비를 갖추는 데 걸리는 시간을 겨냥한다. 기존처럼 현장에서 핵심 설비를 순차 설치하는 대신, 전력 공급·냉각·보안·지능형 관리·소방 시스템을 모듈화해 병렬 생산과 준비를 가능하게 하는 방식이다.
34
알리바바는 이 구조를 통해 대형 AI 데이터센터의 기반 인프라 구축 기간을 100일로 단축하고, 중국 내 전통적 구축 방식과 비교해 건설비를 약 10% 낮출 수 있다고 밝혔다. 기존 중국 내 구축 주기는 통상 6~12개월로 제시된다.
25
34
다만 ‘100일’의 의미는 정확히 볼 필요가 있다. 이 기간은 기본 건물 또는 적층형 컨테이너 단계에서 시작해 서버와 네트워크 장비가 들어오기 전까지를 뜻한다. 프로젝트 결정부터 AI 서비스가 실제 가동되기까지의 전체 기간과 반드시 같지는 않다.
32
34
CUBE 5.0은 하드웨어 변화에도 대응하도록 설계됐다. 알리바바에 따르면 고전압 직류 전력과 공랭·액랭 호환 설계를 적용했고, 이기종 칩과 최소 3세대의 칩 교체 주기를 지원한다.
34
진짜 제약은 건물이 아니라 AI 클러스터의 완성도
빠른 구축과 저렴한 전력만으로 최첨단 가속기를 만들어낼 수는 없다. 적합한 칩, 메모리, 인터커넥트, 성숙한 소프트웨어의 안정적 확보는 여전히 AI 클러스터의 제약 요인이다.
알리바바는 울란차부 리전에 자사 전무 M890 칩 기반의 링쥔(Lingjun) 슈퍼노드 인스턴스를 제공하기 시작했다.
1 알리바바는 M890을 학습과 추론을 함께 처리하는 가속기로 소개하며, 메모리 144GB와 칩 간 대역폭 초당 800GB를 제시했다.
11
이는 중국산 하드웨어 선택지를 넓히는 데 도움이 될 수 있다. 그러나 경쟁력 있는 AI 클러스터는 단순히 칩 수량만으로 완성되지 않는다. 부품의 지속적 공급, 네트워킹, 소프트웨어 도구, 신뢰성, 다수 가속기에서 모델을 효율적으로 실행하는 역량이 함께 갖춰져야 한다.
GPU 부족과 유휴 데이터센터가 공존하는 이유
중국 AI 컴퓨팅 시장에서는 고품질 컴퓨팅 수요가 강한데도 일부 데이터센터가 충분히 활용되지 않는 상반된 현상이 나타난다. 2026년 업계 보고서는 스마트 컴퓨팅센터의 전체 활용률이 40% 미만이라고 인용했고, 앞선 보도들도 시장 일부의 큰 폭의 저활용을 지적했다.
3
10
이 수치를 하나의 보편적 활용률로 받아들여서는 안 된다. 집계 기간, 지역, 칩 종류, 설치 용량·임대 용량·실사용 용량 중 무엇을 세는지에 따라 수치가 달라진다. 그럼에도 이는 구조적 문제를 시사한다. 데이터센터가 수요와 동떨어진 곳에 있거나, 작업에 맞지 않는 칩을 쓰거나, 네트워크·소프트웨어 역량이 부족하거나, 지속적인 고객 수요를 확보하지 못하면 용량은 놀 수 있다.
8
9
따라서 울란차부의 상업적 시험대는 발표된 용량이 아니라 활용률이다. 입지와 모듈형 구축은 컴퓨팅을 더 싸고 빠르게 공급하는 데 유리하지만, 모든 가속기가 생산적으로 배정된다는 보장은 아니다.
알리바바의 ‘하나의 클라우드, 여러 칩’ 과제
알리바바의 큰 방향은 단일 하드웨어 공급업체에 의존하기보다, 여러 종류의 가속기를 공통 클라우드 플랫폼에서 제공하는 것이다. 이 전략에서는 소프트웨어와 시스템 계층의 역할이 커진다. 클러스터 구조, 네트워킹, 컴파일러, 런타임 소프트웨어, 모델 최적화가 서로 다른 칩에서 작동해야 한다.
알리바바에 따르면 자회사 T-Head(핑터우거)의 전무 시리즈는 2026년 5월 기준으로 누적 56만 개 이상 출하됐고, 20개 이상의 산업에서 400곳 이상 고객에게 공급됐다.
7
11 이는 배포 확대를 보여주는 수치이지만, 최첨단 모델 성능을 직접 측정한 결과이거나 성숙한 이기종 컴퓨팅 생태계를 입증하는 지표는 아니다.
울란차부가 보여주는 AI 인프라의 조건
울란차부 캠퍼스의 물리적 논리는 분명하다. 저렴하고 재생에너지 비중이 높은 전력, 차갑고 건조한 기후, 베이징까지 수 밀리초대 네트워크 지연, 구축 주기를 줄이려는 인프라 설계가 결합돼 있다.
21
25
34
장기적 의미는 실행에 달려 있다. AI 컴퓨팅 허브의 승자는 가장 많은 설비를 가장 싼값에 짓는 곳만은 아닐 것이다. 호환되는 칩을 안정적인 네트워크로 연결하고, 실제 작업 수요와 정확히 맞춰 시스템을 높은 수준으로 가동하는 곳이 될 가능성이 크다.