MiniCPM5-2B: mô hình 2B cho coding và tool use ngay trên thiết bị

MiniCPM5-2B là mô hình ngôn ngữ dense, gọn nhẹ của OpenBMB và ModelBest, được thiết kế để chạy trên thiết bị hoặc trong môi trường hạn chế tài nguyên. Trọng tâm thực tế của nó là hỗ trợ lập trình, gọi công cụ (tool calling) và các quy trình agentic — thay vì chỉ là một mô hình kiến thức tổng quát thu nhỏ. OpenBMB ghi nhận bản phát hành vào ngày 7/9/2026, sau khi giới thiệu mô hình tại WAIC ngày 19/7. 123

Có gì đáng chú ý?

Nhà phát triển mô tả đây là mô hình dense thuộc nhóm “2B-class” cho triển khai on-device. Tài liệu công bố nêu 2,52 tỷ tham số, còn bộ sưu tập mô hình MiniCPM5 trên Hugging Face ghi nhận cửa sổ ngữ cảnh 131K token cho MiniCPM5 2B. 611

Mô hình được phát hành theo giấy phép Apache-2.0. Đây là điểm quan trọng với các nhóm muốn tích hợp, tùy biến và phân phối mô hình trong sản phẩm thương mại, miễn là tuân thủ điều khoản giấy phép. 3

Cấu hình đi kèm bản phát hành được mô tả là tương thích LlamaForCausalLM, có 42 lớp decoder và dùng grouped-query attention với 16 query head, 2 key/value head; số tham số không tính embedding vào khoảng 1,98 tỷ. Tuy nhiên, khi đưa vào môi trường production, nên kiểm tra trực tiếp tệp config.json của checkpoint được chọn, vì các chi tiết kỹ thuật này chưa được trình bày đầy đủ trong các trích đoạn nguồn hiện có.

Điểm benchmark 53,9 nói lên điều gì?

OpenBMB công bố mức trung bình 53,9 trong bảng so sánh gồm 34 tác vụ. Trong cùng bảng, Qwen3.5-4B đạt 51,1, granite-4.2-3B đạt 42,7 và LFM2.5-2.6B đạt 33,2. Công ty cũng cho biết MiniCPM5-2B vượt các mô hình lớn hơn có mặt trong chính phép so sánh này. 7

Đây là kết quả đáng chú ý ở quy mô 2B, nhưng không đồng nghĩa mô hình đứng đầu một cách tuyệt đối trước mọi mô hình mở. Điểm 53,9 là chỉ số tổng hợp do nhà phát hành công bố: ý nghĩa của nó phụ thuộc vào tập tác vụ, prompt, công cụ đánh giá và cách gộp điểm thành phần. Vì vậy, nên dùng số liệu này để đối chiếu các mô hình đúng theo bảng của OpenBMB, thay vì xem đó là bằng chứng rằng nó luôn mạnh hơn mọi mô hình 4B trở lên. 79

Những dữ liệu hiện có cho thấy hồ sơ năng lực của MiniCPM5-2B khá rõ:

• Các điểm mạnh được nêu gồm suy luận code và toán, xử lý ngữ cảnh dài, gọi công cụ và một số tác vụ agent. 7
• Một bản tổng hợp độc lập cho rằng lợi thế rõ nhất nằm ở tool use, coding agent và truy hồi ngữ cảnh dài kiểu NoLiMa. 6
• Cũng theo bản tổng hợp này, mô hình yếu hơn ở MMLU-Pro, GPQA-Diamond và MATH-500; vì thế không nên chỉ nhìn điểm trung bình nếu ứng dụng phụ thuộc chủ yếu vào kiến thức tổng quát. 6

OpenBMB cũng từng tuyên bố mô hình đứng đầu nhóm mã nguồn mở dưới 4B trên Artificial Analysis Intelligence Index, với điểm 23. Đây là tuyên bố tại một thời điểm cụ thể, gắn với leaderboard đó, chứ không phải đánh giá phổ quát hay lâu dài. 15

Checkpoint và định dạng để chạy cục bộ

Bản phát hành open-weight không chỉ có một checkpoint cuối cùng. Nó gồm biến thể Base và SFT, cùng trọng số BF16 và các bản lượng tử hóa GGUF, MLX, GPTQ. 3 OpenBMB cũng công bố các bản cho FlagOS, trong đó có biến thể ARM W8A8, mở rộng lựa chọn cho thiết bị ARM và môi trường edge. 12

Về serving, trang thảo luận chính thức có ví dụ khởi chạy bằng SGLang với openbmb/MiniCPM5-2B. 8 Các định dạng lượng tử hóa là lựa chọn thực tế hơn để chạy tại máy trên laptop hay các thiết bị cá nhân; runtime phù hợp sẽ phụ thuộc vào định dạng trọng số và phần cứng đang dùng.

Có thực sự phù hợp với điện thoại và laptop?

Với prompt ngắn đến trung bình, mô hình dense 2,52B tham số thực tế hơn nhiều cho việc chạy cục bộ so với mô hình hàng chục tỷ tham số, đặc biệt khi dùng bản lượng tử hóa. Điều này phù hợp với sản phẩm ưu tiên quyền riêng tư, chi phí hạ tầng thấp và phản hồi nhanh tại chỗ.

Dù vậy, cửa sổ ngữ cảnh 131K token không có nghĩa mọi thiết bị đều dùng thoải mái ở mức tối đa. Bộ nhớ KV cache tăng theo độ dài prompt, nên “hỗ trợ ngữ cảnh dài” khác với việc chạy mượt toàn bộ phiên 131K token trên điện thoại hoặc laptop cấu hình vừa phải. 11

Khi nào nên chọn MiniCPM5-2B?

MiniCPM5-2B phù hợp khi cần một mô hình nhỏ, mở và có giấy phép linh hoạt cho:

• trợ lý lập trình cục bộ hoặc trên edge;
• tool calling và pipeline agentic;
• ứng dụng cần đóng gói, phân phối mô hình lượng tử hóa;
• trường hợp chi phí, độ trễ và quyền riêng tư quan trọng hơn năng lực tổng quát tối đa.

Với các ứng dụng đòi hỏi kiến thức tổng quát mạnh và ổn định, hoặc hiệu năng cao trên các benchmark học thuật khó ngoài phạm vi coding và công cụ, các mô hình lớn hơn vẫn là mốc so sánh hợp lý. MiniCPM5-2B không hứa hẹn thắng ở mọi mặt; giá trị thuyết phục nhất của nó là sự cân bằng giữa kích thước nhỏ, tính mở và hiệu năng được báo cáo trong các workflow dùng công cụ, chạy trên thiết bị. 67