텐센트 Hy4 프리뷰, 무엇이 달라졌나

텐센트의 Hy4 프리뷰는 지금까지 텐센트가 공개한 오픈 웨이트 대규모 언어 모델 가운데 가장 큰 제품입니다. 2026년 8월 28일 공개된 이 모델은 소프트웨어 개발, 연구, 금융 분석, 사무 생산성 등 AI 에이전트형 업무를 주요 목표로 내세웠습니다. 112

핵심 사양만 보면 상당합니다. 총 파라미터는 7700억 개, 토큰당 활성화되는 파라미터는 490억 개이며, 컨텍스트 윈도는 100만 토큰을 넘습니다. 다만 현재 공개된 우위 주장의 상당 부분은 텐센트 자체 평가에 기반하고 있어, 독립적인 광범위 검증이 더 필요합니다. 현시점에서 Hy4는 코딩과 생산성 작업에 강점을 보이는 중국계 상위권 오픈 모델로 평가하는 것이 가장 신중한 결론입니다. 18

Hy4 프리뷰란?

Hy4는 Mixture of Experts(MoE) 구조를 사용하는 대규모 언어 모델입니다. 모든 요청에 전체 파라미터를 사용하는 대신, 라우팅 시스템이 각 토큰 처리에 필요한 일부 전문가 네트워크만 선택합니다. 이 방식은 모델의 전체 용량을 크게 늘리면서도 모든 토큰에 이론상 전체 연산량을 부과하지 않는 것이 특징입니다.

텐센트는 Hy4를 단순한 범용 챗봇이 아니라 실제 업무를 수행하는 에이전트형 모델로 설명합니다. 주요 활용 분야는 소프트웨어 엔지니어링, 사무 생산성, 연구, 금융 분석이며, 개발 및 업무용 소프트웨어 안에 모델을 직접 연결하는 전략도 함께 추진하고 있습니다. 18

여기서 ‘오픈 소스’라는 표현은 엄밀히 말해 오픈 웨이트와 개방적인 배포 지원으로 이해하는 편이 정확합니다. 텐센트는 Apache 2.0 라이선스로 가중치를 공개하고, 서빙·파인튜닝·양자화 방법도 함께 제공합니다. 812

주요 사양과 아키텍처

Hy4 프리뷰의 주요 사양은 다음과 같습니다.

• 총 파라미터: 7700억 개
• 토큰당 활성 파라미터: 490억 개
• 컨텍스트 윈도: 100만 토큰 초과
• 아키텍처: Mixture of Experts
• 라이선스: Apache 2.0
• 모델 형식: BF16, FP8
• 서빙 지원: vLLM·SGLang 레시피, OpenAI 호환 API 경로 812

백본은 총 78개 레이어로 구성됩니다. 첫 번째 레이어는 밀집형 피드포워드 네트워크를 사용하고, 나머지 77개 레이어는 256개의 라우팅 전문가와 하나의 공유 전문가를 포함한 MoE 구조로 작동합니다. 각 토큰은 256개 라우팅 전문가 중 8개와 공유 전문가를 선택합니다. 또한 추측 디코딩을 지원하기 위한 네이티브 멀티 토큰 예측 계층도 포함됩니다. 8

어텐션 설계에는 Gated DeepSeek Sparse Attention과 IndexCache가 적용됐습니다. IndexCache는 여러 레이어에서 희소 어텐션 인덱스를 재사용하는 방식입니다. 텐센트는 이 설계가 DeepSeek와 GLM 계열 접근법에서 영감을 받았다고 설명합니다. 8

따라서 Hy4의 핵심은 단순히 파라미터 수가 많다는 데 있지 않습니다. 대규모 모델 용량에 희소 라우팅, 장문 컨텍스트 처리, 추론 비용을 줄이기 위한 구조적 장치를 결합한 모델입니다.

Hy3와 비교하면 무엇이 달라졌나

Hy4는 이전 세대인 Hy3에서 큰 폭으로 확장됐습니다.

사양	Hy3	Hy4 프리뷰	변화
총 파라미터	2950억 개	7700억 개	약 2.6배
토큰당 활성 파라미터	210억 개	490억 개	약 2.3배
컨텍스트 윈도	26만2000토큰	100만 토큰 초과	약 4배
모델 설계	MoE	확장된 MoE와 희소 어텐션 개선	용량 및 장문 처리 확대

Hy4는 전체 모델 용량뿐 아니라 토큰 하나를 처리할 때 실제로 사용하는 연산량도 늘렸습니다. 텐센트는 학습 데이터 규모를 확대하고 사전 학습과 사후 학습에도 상당한 변화를 적용했다고 밝혔습니다. 814

특히 100만 토큰을 넘는 컨텍스트 윈도는 실용적인 차이를 만들 수 있습니다. 대규모 코드베이스, 긴 연구 자료, 복잡한 사내 문서 등을 한 번에 다루는 데 유리하기 때문입니다. 다만 실제 효용은 검색과 정보 선택의 품질, 응답 지연 시간, 긴 입력 전체에서 정확성을 유지하는 능력에 달려 있습니다.

중국 경쟁 모델과의 비교

텐센트가 가장 구체적으로 공개한 비교 결과는 내부 블라인드 평가입니다. 텐센트 내부 전문가 163명이 엔지니어링 과제 203개를 평가한 결과, Hy4 프리뷰의 평균 점수는 4점 만점에 2.99점이었습니다. Zhipu의 GLM-5.3은 2.92점, Moonshot의 Kimi K3는 2.94점이었습니다. 8

텐센트의 평가에서는 Hy4가 근소하게 앞섰지만, 이를 중립적이고 종합적인 순위표로 보기는 어렵습니다. 평가자가 텐센트 내부 전문가였고, 과제도 엔지니어링 분야에 집중됐기 때문입니다. 다른 벤치마크 보도에서는 Alibaba의 Qwen 계열과 DeepSeek 등 중국 경쟁 모델을 상대로 결과가 엇갈렸습니다. 113

일부 2차 보도는 Terminal-Bench 2.1과 DeepSWE 등 코딩 벤치마크에서 Hy3보다 큰 폭으로 개선됐다고 전합니다. 다만 해당 수치는 텐센트가 주장한 성과를 보여주는 참고 자료로 보는 것이 적절하며, 벤치마크 조건과 결과가 독립적으로 재현되기 전까지는 신중한 해석이 필요합니다. 1718

현재까지의 근거를 종합하면 Hy4는 코딩과 생산성 작업에서 중국계 오픈 웨이트 모델의 상위권에 속합니다. 그러나 모든 작업에서 모든 경쟁 모델을 확실히 앞섰다고 단정할 단계는 아닙니다.

어디서 사용할 수 있나

텐센트는 Hy4를 내려받아 직접 배포하는 방식과 호스팅 제품을 통한 이용 방식 모두 제공합니다.

모델 가중치와 직접 배포

모델과 FP8 버전은 Hugging Face, ModelScope, GitCode, CNB에서 제공됩니다. 텐센트는 vLLM과 SGLang 배포 레시피, OpenAI 호환 로컬 API 경로, 파인튜닝 안내, 양자화 도구도 공개했습니다. 812

개발자는 이를 이용해 모델 가중치를 직접 시험하거나 맞춤형 서빙 환경을 구축할 수 있습니다. 다만 ‘오픈 웨이트’가 곧 가벼운 모델이라는 뜻은 아닙니다. 텐센트의 참고 FP8 구성은 8방향 텐서 병렬화를 사용하며, 7700억 개 모델을 직접 서비스하려면 여전히 상당한 메모리와 네트워크, 멀티 GPU 인프라가 필요합니다. 8

텐센트 제품과 호스팅 API

Hy4는 WorkBuddy, CodeBuddy, Yuanbao, ima에서 이용할 수 있으며, Tencent Cloud TokenHub와 OpenRouter를 통한 접근도 지원됩니다. 출시 당시 WorkBuddy와 CodeBuddy에서는 2주간 무료 이용이 제공됐고, 이전 세대 Hy3의 이용 기간은 9월 30일까지 연장됐습니다. 12

외부 보도에 따르면 OpenRouter의 입력 가격은 100만 토큰당 약 0.834달러였습니다. 다만 이는 특정 유통 채널의 가격이므로 텐센트의 고정된 공식 목록 가격으로 보기는 어렵습니다. 실제 가격과 이용 가능 여부는 제공업체와 지역에 따라 달라질 수 있습니다. 3

제품 생태계와 인프라 투자가 중요한 이유

Hy4는 텐센트의 애플리케이션 전략과 밀접하게 연결돼 있습니다. 텐센트는 WorkBuddy와 CodeBuddy를 개발하는 과정에서 내부 엔지니어, 게임 개발자, 금융 분석가, 보안 전문가의 업무 데이터와 피드백을 활용해 Hy4를 공동 설계했다고 밝혔습니다. 8

이 방식은 모델 아키텍처 외에 또 다른 강점이 될 수 있습니다. 텐센트는 실제 코딩 및 사무 업무에 모델을 적용하고, 제품 사용 과정에서 얻은 피드백을 다음 모델 개선에 반영할 수 있기 때문입니다. 동시에 자체 앱과 클라우드 서비스를 통해 사용자가 7700억 개 모델을 직접 내려받지 않고도 접근할 수 있습니다.

텐센트의 Hunyuan 계열 제품에서는 빠른 사용량 증가를 보여주는 초기 신호도 나왔습니다. 텐센트는 Hunyuan 3를 정식 운영 환경에 투입한 뒤 평균 일일 토큰 사용량이 프리뷰 단계보다 약 6배 늘었다고 밝혔습니다. 이는 배포를 통한 사용량 확대를 보여주는 자료이지만, 이용자 만족도나 장기적인 잔존율을 독립적으로 입증하는 수치는 아닙니다.

이 전략을 뒷받침하기 위한 투자도 커지고 있습니다. 2026년 2분기 시설 및 장비 자본지출은 527억8400만 위안으로, 전년 동기보다 약 2.8배 증가했습니다. 경영진은 AI 인프라와 WorkBuddy 관련 투자를 우선순위로 제시했습니다.

텐센트는 WorkBuddy를 중국에서 가장 널리 사용되는 생산성 AI 에이전트 서비스라고 설명하지만, 이는 독립적으로 감사된 시장점유율 수치가 아니라 회사의 주장입니다. 4

현재 확인되는 한계

Hy4 프리뷰는 완성형 모델로 제시된 제품이 아닙니다. 텐센트도 어려운 문제를 필요 이상으로 오래 추론하거나 자신의 결과를 과도하게 재검증할 수 있다고 인정했습니다. 이로 인해 응답 지연과 추론 비용이 늘어날 수 있습니다. 8

모델 규모 자체도 현실적인 제약입니다. MoE 구조 덕분에 개별 토큰에는 490억 개 파라미터만 활성화되지만, 전체 모델을 저장하고 서비스하려면 7700억 개 규모를 감당해야 합니다. 자체 호스팅을 고려하는 조직에는 충분한 메모리, 네트워크 대역폭, 멀티 GPU 서버가 필요합니다.

벤치마크 근거에도 한계가 있습니다. 텐센트 내부 평가에서 GLM-5.3과 Kimi K3를 근소하게 앞섰지만, 더 폭넓은 비교 결과는 벤치마크에 따라 달라집니다. 따라서 초기 순위는 확정적인 결론보다 방향성을 보여주는 자료로 보는 편이 타당합니다. 8

또한 긴 컨텍스트를 지원한다고 해서 장문 추론의 신뢰성이 자동으로 보장되는 것은 아닙니다. 100만 토큰이 넘는 컨텍스트는 중요한 사양상의 장점이지만, 실제 성능은 작업 유형, 프롬프트 구성, 검색 전략, 서빙 환경에 따라 달라집니다.

앞으로 예상되는 개선 방향

텐센트가 제시한 방향은 공식적인 출시 일정표라기보다 개발 우선순위에 가깝습니다. 추가 사전 학습과 사후 학습, 더 빠르고 반복이 적은 추론, WorkBuddy와 CodeBuddy의 지속적인 사용자 피드백 반영, 배포 비용을 낮추기 위한 압축 및 양자화 작업이 핵심입니다. 8

이 개선은 Hy4가 가진 핵심적인 교환관계를 겨냥합니다. Hy4는 Hy3보다 훨씬 큰 용량과 긴 컨텍스트를 제공하지만, 프리뷰라는 이름에서 알 수 있듯 속도와 효율성, 실제 운영 안정성은 아직 다듬어지는 단계입니다.

결론

Hy4 프리뷰는 Hy3에서 크게 도약했습니다. 총 파라미터는 2950억 개에서 7700억 개로, 활성 파라미터는 210억 개에서 490억 개로 늘었고, 컨텍스트 윈도는 26만2000토큰에서 100만 토큰 이상으로 확대됐습니다. 여기에 텐센트의 코딩·사무·클라우드·소비자 제품 생태계까지 직접 연결돼 있습니다. 812

개발자에게는 Apache 2.0 가중치와 배포 도구가 평가할 만한 이유가 됩니다. 기업에는 7700억 개 모델을 직접 운영하는 것보다 텐센트 제품과 API를 통한 호스팅 이용이 현실적인 선택일 수 있습니다.

다만 현재의 결론은 신중해야 합니다. Hy4는 코딩과 에이전트형 생산성 작업에서 강력한 중국계 상위권 오픈 웨이트 모델로 보이지만, 초기 성과가 지속적인 우위로 이어질지는 독립 벤치마크와 실제 운영 환경에서의 장기적인 사용 결과가 결정할 전망입니다.