지푸AI(Zhipu AI, 국제 브랜드명 Z.ai)가 2026년 8월 26일 개발자들을 놀라게 했던 익명 모델 ‘Ox Alpha’의 정체를 공개했다. 중국 개발자 커뮤니티에서 ‘뉴라이(牛来)’로 알려졌던 이 모델은 지푸AI의 GLM 시리즈 신작인 GLM-5.3-Flash였다. 이 모델은 오픈 웨이트(open-weight)로 공개된 네이티브 멀티모달 모델이다.
1
15
이번 발표가 주목받은 이유는 모델 출시 자체에 그치지 않는다. 지푸AI는 Ox Alpha를 OpenRouter와 OpenCode에서 무료·익명으로 시험 운영하며 5일 동안 50조 토큰이 넘는 트래픽을 처리했고, 이 모든 추론 서비스를 중국산 칩 10만 개 이상으로 구성된 클러스터가 담당했다고 밝혔다.
8
15
익명 테스트가 대규모 실사용 시험으로
Ox Alpha는 회사 이름이나 제품 로고를 내세우지 않은 채 개발자들에게 먼저 공개됐다. 사용자는 모델을 만든 기업이나 어떤 칩을 썼는지 모른 상태에서 응답 품질, 속도, 안정성, 이용 가능 여부와 가격만으로 모델을 선택했다.
모델은 곧 OpenRouter와 OpenCode의 사용량 순위 상위권에 올랐다. 이후 보도에서는 6일간 누적 트래픽이 60조 토큰을 넘었다는 수치도 나왔다. OpenRouter에서의 사용량이 비슷한 기간의 DeepSeek 관련 트래픽보다 두 배 이상 많았다는 보도도 있었다. 다만 50조 토큰, 60조 토큰 등 수치가 다른 것은 집계 기간과 플랫폼별 측정 방식이 다르기 때문이다. 가장 신중한 결론은 익명 시험이 50조 토큰을 넘는 규모로 진행됐고, 공개 전부터 이례적으로 높은 수요를 끌어냈다는 것이다.
1
3
30
이는 단순한 벤치마크와 다르다. 모델의 정체가 알려지기 전에 실제 개발자 트래픽이 몰렸기 때문이다. 사용자가 브랜드가 아니라 실제 사용 경험을 보고 선택했다는 점에서, 이번 시험은 제품 출시 전 진행된 일종의 블라인드 실서비스 스트레스 테스트에 가깝다.
중국산 칩 10만 개라는 주장, 어디까지 봐야 하나
지푸AI는 온라인 추론 작업이 중국산 가속기 10만 개 이상에서 실행됐으며, 소프트웨어 최적화를 거친 결과 하드웨어 효율과 토큰당 비용이 주류 엔비디아 GPU와 비슷한 수준에 도달했다고 주장했다.
15
24
다만 지푸AI가 공개한 자료에는 정확한 칩 공급업체가 명시되지 않았다. 산업계 보도에서 화웨이, 무어 스레즈, 하이곤이 가능한 공급업체로 거론됐지만, 이는 확인되지 않은 추정이며 지푸AI가 공식적으로 확인한 내용으로 봐서는 안 된다.
30
40
이 주장을 더 넓게 해석하는 것도 경계해야 한다. 이번 사례는 다음을 입증하지 않는다.
- 중국산 칩이 모든 AI 작업에서 엔비디아와 동등하다는 것
- 중국산 하드웨어가 학습 분야에서 엔비디아를 대체했다는 것
- 개발자 도구와 소프트웨어 생태계까지 두 진영이 같다는 것
확인 가능한 의미는 더 구체적이다. 모델과 서빙 시스템을 하드웨어에 맞춰 함께 최적화하면, 대규모 추론 서비스가 엔비디아가 아닌 중국산 칩 스택에서도 운영될 수 있다는 증거라는 점이다.
100만 토큰 컨텍스트를 가능하게 한 추론 소프트웨어
최대 1,048,576토큰의 컨텍스트를 지원하려면 메모리 용량과 대역폭, 칩 사이의 통신, 작업 스케줄링 모두가 병목이 될 수 있다. 지푸AI는 SGLang을 기반으로 전용 추론 엔진을 구축하고 다음과 같은 기법을 적용했다고 전해졌다.
- 연산량과 메모리 부담을 낮추는 W8A8 양자화
- 캐시를 위한 INT8·FP8·BF16 혼합 양자화
- 노드 내부에서 작업을 나누는 텐서 병렬화
- 멀티모달 인코딩, 프롬프트 사전 처리(prefill), 토큰 단위 생성(decode)을 각각 독립적으로 확장할 수 있는 Encode–Prefill–Decode(EPD) 구조
11
24
EPD 구조는 하나의 거대한 처리 흐름으로 모든 작업을 묶는 대신, 입력 형태와 처리 단계별로 별도의 작업 풀을 두는 방식이다. 멀티모달 인코딩과 긴 프롬프트 처리, 실제 답변 생성은 요구하는 연산 특성이 서로 다르기 때문에 각각의 자원을 따로 배치하고 조절할 수 있다.
지푸AI는 같은 하드웨어에서 초기 기준선과 비교했을 때 이 시스템의 종단 간 서비스 성능이 약 3배 향상됐다고 밝혔다.
24
26 이후 SGLang 문서에도 BF16 비교 구성보다 추가적인 처리량과 FP8 캐시 용량 개선이 보고됐지만, 이는 지푸AI가 제시한 ‘3배 향상’ 수치를 독립적으로 감사한 결과는 아니다.
17
엔비디아의 CUDA 지배력에 미친 의미
이번 사례가 엔비디아에 던지는 질문은 ‘엔비디아가 곧바로 무너지는가’가 아니라 ‘추론 단계에서 CUDA 의존도를 얼마나 줄일 수 있는가’에 가깝다.
특정 운영 환경에서는 전용 커널, 양자화, 병렬화, 메모리 관리, 스케줄링을 모델에 맞게 설계함으로써 CUDA에 대한 의존도를 낮출 수 있다. GLM-5.3-Flash는 이 가능성을 실제 글로벌 개발자 트래픽으로 시험했다.
그렇다고 엔비디아의 광범위한 소프트웨어 생태계, 개발자 기반, 도구, 기존 설치 기반, AI 학습 분야의 강점까지 사라지는 것은 아니다. 이번 출시는 특정 대규모 추론 워크로드에서의 가능성을 보여준 사례이지, 엔비디아의 전체 경쟁 우위를 판정한 실험은 아니다.
GLM-5.3-Flash의 주요 사양
GLM-5.3-Flash는 총 3,200억 개 파라미터를 가진 희소 혼합 전문가(MoE) 모델로 알려졌다. 토큰을 처리할 때 실제로 활성화되는 파라미터는 약 180억 개다. 최대 1,048,576토큰의 컨텍스트 창과 네이티브 멀티모달 입력을 지원해 긴 문서 분석, 코딩, 장시간 이어지는 에이전트 작업을 겨냥한다.
2
5
7
Artificial Analysis Intelligence Index에서 보고된 점수는 57점으로, Claude Opus 4.8과 같은 점수였다. 이는 하나의 종합 지표에서 동률을 기록했다는 뜻이지, 모든 개별 벤치마크나 실제 에이전트 작업에서 성능이 같다는 의미는 아니다.
9
낮은 가격이 만드는 경쟁 구도
지푸AI가 공개한 API 가격은 입력 100만 토큰당 0.15달러, 출력 100만 토큰당 0.50달러다.
4
29 당시 보도는 이를 GLM-5.3 가격의 약 10분의 1, Claude Opus 4.8의 약 40분의 1 수준으로 설명했다. 다만 이런 비율은 입력·출력 중 어느 쪽을 비교하는지, 가격 등급과 요금제를 어떻게 적용하는지에 따라 달라질 수 있다.
1
4
GLM-5.3-Flash의 경쟁력은 한 가지 숫자에서 나오지 않는다. 비교적 효율적인 희소 모델 구조, 공격적인 추론 최적화, 낮은 API 가격이 결합된 결과다. Ox Alpha 익명 시험은 이 조합이 모델의 정체가 공개되기 전부터 개발자 수요를 끌어낼 수 있음을 보여줬다.
결국 이번 공개가 남긴 핵심은 ‘중국산 칩이 엔비디아를 완전히 따라잡았다’는 선언이 아니다. 모델, 추론 엔진, 하드웨어를 처음부터 함께 설계하면 기존 반도체·소프트웨어 생태계의 격차를 일부 좁히고, 실제 서비스 규모에서도 비용 경쟁력을 만들 수 있다는 생산 현장의 사례에 더 가깝다.