Tencent Hy4 Preview có gì đáng chú ý? Giải thích mô hình 770 tỷ tham số

Tencent Hy4 Preview là mô hình ngôn ngữ lớn có trọng số mở lớn nhất của Tencent tính đến nay, được định hướng cho lập trình, nghiên cứu, phân tích tài chính và các tác vụ năng suất có tính tự động hóa cao. Mô hình ra mắt ngày 28/8/2026, cho thấy Tencent đang muốn đưa một hệ thống quy mô lớn vào thẳng các sản phẩm phục vụ công việc thay vì chỉ phát hành một chatbot tổng quát. 112

Các con số nổi bật gồm 770 tỷ tham số tổng cộng, 49 tỷ tham số được kích hoạt cho mỗi token và cửa sổ ngữ cảnh vượt 1 triệu token. Tuy nhiên, kết luận thận trọng hơn là Hy4 hiện thuộc nhóm mô hình open-weight hàng đầu của Trung Quốc cho lập trình và năng suất, còn tuyên bố vượt trội trên diện rộng vẫn cần thêm đánh giá độc lập. 18

Tencent Hy4 Preview là gì?

Hy4 Preview sử dụng kiến trúc Mixture-of-Experts (MoE). Thay vì chạy toàn bộ mạng lưới cho từng token, hệ thống định tuyến sẽ chọn một nhóm chuyên gia phù hợp với mỗi yêu cầu. Cách tiếp cận này cho phép xây dựng mô hình có tổng năng lực rất lớn mà không phải kích hoạt toàn bộ tham số trong mọi lần suy luận.

Tencent định vị Hy4 cho các tác vụ “agentic” — tức những công việc trong đó AI có thể lập kế hoạch, sử dụng công cụ và hoàn thành chuỗi thao tác — thay vì chỉ trả lời câu hỏi thông thường. Các lĩnh vực mục tiêu gồm kỹ thuật phần mềm, năng suất văn phòng, nghiên cứu và phân tích tài chính. Mô hình cũng được thiết kế để tích hợp vào quy trình phát triển phần mềm và làm việc doanh nghiệp. 18

Trong trường hợp này, “mã nguồn mở” nên được hiểu chính xác hơn là trọng số mở cùng hỗ trợ triển khai theo giấy phép Apache 2.0. Tencent cung cấp hướng dẫn phục vụ mô hình, tinh chỉnh và lượng tử hóa, nhưng việc tự vận hành Hy4 không hề nhẹ. 812

Thông số và kiến trúc của Hy4 Preview

Các thông số chính của mô hình gồm:

• Tổng tham số: 770 tỷ
• Tham số kích hoạt mỗi token: 49 tỷ
• Cửa sổ ngữ cảnh: hơn 1 triệu token
• Kiến trúc: Mixture-of-Experts
• Giấy phép: Apache 2.0
• Định dạng: BF16 và FP8
• Hỗ trợ triển khai: công thức phục vụ cho vLLM và SGLang, cùng đường dẫn API tương thích OpenAI 812

Phần backbone của Hy4 có 78 lớp. Tencent cho biết lớp đầu tiên sử dụng mạng feed-forward dạng dense, còn 77 lớp tiếp theo dùng cơ chế MoE với 256 chuyên gia được định tuyến và một chuyên gia dùng chung. Với mỗi token, hệ thống chọn tám chuyên gia được định tuyến cùng chuyên gia dùng chung. Mô hình cũng có lớp dự đoán nhiều token nguyên bản, nhằm hỗ trợ speculative decoding — kỹ thuật giúp tăng tốc quá trình sinh văn bản. 8

Ở phần attention, Hy4 sử dụng Gated DeepSeek Sparse Attention kết hợp IndexCache, cho phép tái sử dụng chỉ mục attention thưa giữa các lớp. Tencent cho biết thiết kế này có cảm hứng từ những hướng tiếp cận gắn với DeepSeek và GLM. 8

Điểm đáng chú ý không chỉ nằm ở con số 770 tỷ. Hy4 kết hợp dung lượng mô hình rất lớn với định tuyến thưa, khả năng xử lý ngữ cảnh dài và các cơ chế được kỳ vọng sẽ giảm chi phí suy luận so với một mô hình dense cùng quy mô.

Hy4 khác Hy3 như thế nào?

Hy4 là bước mở rộng đáng kể so với Hy3:

Thông số	Hy3	Hy4 Preview	Mức thay đổi
Tổng tham số	295 tỷ	770 tỷ	Lớn hơn khoảng 2,6 lần
Tham số kích hoạt mỗi token	21 tỷ	49 tỷ	Tăng khoảng 2,3 lần
Cửa sổ ngữ cảnh	262.000 token	Hơn 1 triệu token	Lớn hơn khoảng 4 lần
Thiết kế	MoE	MoE mở rộng, cải tiến attention thưa	Dung lượng và ngữ cảnh cao hơn

Như vậy, Hy4 không chỉ tăng tổng dung lượng mà còn tăng lượng tính toán được kích hoạt cho mỗi token. Tencent đồng thời cho biết hãng đã mở rộng dữ liệu huấn luyện và thực hiện những thay đổi đáng kể ở cả giai đoạn tiền huấn luyện lẫn hậu huấn luyện. 814

Cửa sổ ngữ cảnh hơn 1 triệu token có thể đặc biệt hữu ích khi xử lý codebase lớn, bộ tài liệu nghiên cứu dài hoặc quy trình công việc nhiều bước. Dù vậy, cửa sổ lớn không tự động bảo đảm kết quả tốt: độ chính xác, khả năng truy xuất thông tin, độ trễ và cấu hình phục vụ vẫn quyết định trải nghiệm thực tế.

Hy4 đứng ở đâu so với các đối thủ Trung Quốc?

So sánh rõ nhất được Tencent công bố là một bài đánh giá mù nội bộ. Trong thử nghiệm này, 163 chuyên gia của Tencent chấm đầu ra trên 203 tác vụ kỹ thuật. Hy4 Preview đạt điểm trung bình 2,99/4, nhỉnh hơn GLM-5.3 của Zhipu với 2,92 và Kimi K3 của Moonshot với 2,94. 8

Kết quả cho thấy Hy4 dẫn trước trong bài kiểm tra của Tencent, nhưng không nên xem đây là bảng xếp hạng trung lập và toàn diện. Người đánh giá là chuyên gia nội bộ Tencent, còn phạm vi thử nghiệm tập trung vào các tác vụ kỹ thuật. Những báo cáo về benchmark khác cho thấy kết quả của Hy4 thay đổi khi so sánh với Qwen của Alibaba, DeepSeek và các mô hình nội địa khác. 113

Một số báo cáo thứ cấp cũng dẫn các mức tăng lớn của Hy4 so với Hy3 trên những bài kiểm tra lập trình như Terminal-Bench 2.1 và DeepSWE. Đây là chỉ dấu cho thấy tiến bộ mà Tencent công bố, nhưng cần chờ điều kiện benchmark và kết quả được tái lập độc lập trước khi đưa ra kết luận chắc chắn. 1718

Cách diễn đạt có cơ sở nhất ở thời điểm hiện tại là: Hy4 thuộc nhóm đầu các mô hình open-weight Trung Quốc cho lập trình và năng suất. Dữ liệu hiện có chưa chứng minh mô hình vượt trội dứt khoát trước mọi đối thủ trên mọi loại tác vụ.

Có thể sử dụng Hy4 Preview ở đâu?

Tencent cung cấp Hy4 dưới cả dạng trọng số để tải về lẫn các sản phẩm và API lưu trữ trên nền tảng đám mây.

Tải trọng số và tự triển khai

Mô hình cùng phiên bản FP8 có mặt trên Hugging Face, ModelScope, GitCode và CNB. Tencent cung cấp công thức triển khai cho vLLM và SGLang, đường dẫn API cục bộ tương thích OpenAI, hướng dẫn tinh chỉnh và công cụ lượng tử hóa. 812

Điều này phù hợp với các nhà phát triển muốn thử nghiệm trọng số hoặc tự xây dựng hệ thống phục vụ tùy biến. Tuy nhiên, “trọng số mở” không đồng nghĩa với “mô hình nhẹ”. Cấu hình FP8 tham chiếu của Tencent sử dụng song song tensor tám chiều, và việc phục vụ mô hình 770 tỷ tham số vẫn là một dự án hạ tầng đa GPU đáng kể. 8

Sản phẩm Tencent và API lưu trữ

Người dùng có thể tiếp cận Hy4 thông qua WorkBuddy, CodeBuddy, Yuanbao và ima. Tencent cũng liệt kê khả năng truy cập qua Tencent Cloud TokenHub và OpenRouter. Khi ra mắt, Hy4 được cung cấp miễn phí trong hai tuần trên WorkBuddy và CodeBuddy; quyền truy cập miễn phí vào Hy3 được kéo dài đến ngày 30/9. 12

Một báo cáo bên thứ ba ghi nhận giá đầu vào trên OpenRouter khoảng 0,834 USD cho mỗi 1 triệu token. Đây nên được xem là mức giá theo từng kênh, không phải bảng giá cố định lâu dài của Tencent, vì giá và khả năng cung cấp có thể thay đổi theo nhà cung cấp và khu vực. 3

Vì sao hệ sinh thái sản phẩm của Tencent quan trọng?

Hy4 gắn chặt với chiến lược ứng dụng AI của Tencent. Công ty cho biết mô hình được đồng thiết kế với WorkBuddy và CodeBuddy, dựa trên dữ liệu tác vụ cùng phản hồi từ kỹ sư nội bộ, nhà phát triển game, chuyên gia tài chính và chuyên gia bảo mật. 8

Lợi thế tiềm năng của Tencent vì thế không chỉ nằm ở kiến trúc mô hình. Hãng có thể thử nghiệm Hy4 trong các công cụ lập trình và văn phòng, thu thập phản hồi từ quy trình sử dụng thực tế rồi đưa kết quả vào những vòng phát triển tiếp theo. Mạng lưới sản phẩm này cũng tạo ra nhiều cách tiếp cận mô hình mà không buộc người dùng phải tự tải và vận hành một hệ thống 770 tỷ tham số.

Tencent cho biết việc đưa Hunyuan 3 vào vận hành chính thức đã làm mức sử dụng token trung bình mỗi ngày tăng khoảng sáu lần so với giai đoạn preview. Đây là bằng chứng về tốc độ tăng trưởng sử dụng, nhưng chưa phải bằng chứng độc lập về mức độ hài lòng hoặc khả năng giữ chân người dùng lâu dài.

Tencent cũng đang chi mạnh cho nền tảng phía sau chiến lược này. Chi phí đầu tư cho cơ sở vật chất và thiết bị trong quý II/2026 đạt 52,784 tỷ nhân dân tệ, cao khoảng 2,8 lần so với cùng kỳ năm trước. Ban lãnh đạo cho biết AI và các khoản đầu tư liên quan đến WorkBuddy là những ưu tiên quan trọng.

Tencent từng mô tả WorkBuddy là dịch vụ tác nhân AI năng suất được sử dụng rộng rãi nhất tại Trung Quốc. Tuy nhiên, đây là tuyên bố của doanh nghiệp, không phải số liệu thị phần được kiểm toán độc lập. 4

Những giới hạn hiện tại

Hy4 Preview chưa được giới thiệu như một mô hình hoàn thiện. Tencent thừa nhận hệ thống đôi khi suy luận lâu hơn cần thiết đối với nhiệm vụ khó và có xu hướng tự kiểm tra quá mức. Điều này có thể làm tăng độ trễ cũng như chi phí suy luận. 8

Quy mô mô hình là một giới hạn thực tế khác. Dù MoE chỉ kích hoạt 49 tỷ tham số cho một token, toàn bộ mô hình vẫn phải được lưu trữ và phục vụ. Các tổ chức muốn tự lưu trữ Hy4 sẽ cần dung lượng bộ nhớ, băng thông kết nối và năng lực đa GPU đáng kể.

Bằng chứng benchmark cũng chưa hoàn toàn đủ rộng. Đánh giá nội bộ của Tencent cho thấy Hy4 chỉ dẫn trước GLM-5.3 và Kimi K3 với khoảng cách nhỏ trong các tác vụ kỹ thuật, trong khi kết quả so sánh rộng hơn thay đổi tùy bài kiểm tra. Vì vậy, các thứ hạng ban đầu nên được xem là chỉ dấu định hướng thay vì kết luận cuối cùng. 8

Cuối cùng, ngữ cảnh dài không đồng nghĩa với khả năng suy luận đáng tin cậy trên ngữ cảnh dài. Cửa sổ 1 triệu token là lợi thế thông số đáng kể, nhưng hiệu quả thực tế còn phụ thuộc vào loại nhiệm vụ, cấu trúc prompt, chiến lược truy xuất và cấu hình triển khai.

Tencent có thể cải thiện Hy4 ra sao?

Định hướng mà Tencent công bố rõ hơn một lộ trình phát hành chính thức. Công ty nhắm tới việc tiếp tục tiền huấn luyện và hậu huấn luyện, rút ngắn quá trình suy luận, giảm các vòng kiểm tra lặp lại, tiếp nhận thêm phản hồi từ WorkBuddy và CodeBuddy, đồng thời nghiên cứu nén và lượng tử hóa để hạ chi phí triển khai. 8

Những cải tiến này sẽ giải quyết đánh đổi cốt lõi của Hy4: mô hình có dung lượng và ngữ cảnh lớn hơn nhiều so với Hy3, nhưng nhãn “Preview” cho thấy tốc độ, hiệu quả và độ tin cậy trong môi trường sản xuất vẫn đang được hoàn thiện.

Kết luận

Hy4 Preview là bước tiến lớn của Tencent so với Hy3: tổng tham số tăng từ 295 tỷ lên 770 tỷ, tham số kích hoạt tăng từ 21 tỷ lên 49 tỷ và cửa sổ ngữ cảnh mở rộng từ 262.000 lên hơn 1 triệu token. Mô hình cũng được kết nối chặt chẽ với hệ sinh thái lập trình, văn phòng, đám mây và sản phẩm tiêu dùng của Tencent. 812

Với các nhà phát triển, trọng số Apache 2.0 và bộ công cụ triển khai khiến Hy4 đáng để đánh giá. Với doanh nghiệp, sử dụng qua sản phẩm và API của Tencent có thể thực tế hơn so với tự vận hành mô hình 770 tỷ tham số.

Tuy nhiên, đánh giá phù hợp nhất lúc này vẫn là thận trọng: Hy4 có tiềm năng trở thành một mô hình open-weight Trung Quốc hàng đầu cho lập trình và năng suất có tác nhân, nhưng benchmark độc lập và quá trình sử dụng lâu dài trong môi trường thực tế mới cho biết liệu lời hứa ban đầu có chuyển thành lợi thế bền vững hay không.