MiniCPM5-2B: Model AI kecil untuk coding dan penggunaan alat secara lokal

MiniCPM5-2B ialah model bahasa dense yang padat daripada OpenBMB dan ModelBest, dibina untuk peranti serta persekitaran dengan sumber terhad. Tumpuan utamanya ialah coding, panggilan alat (tool calling) dan aliran kerja berasaskan ejen AI — bukan sekadar versi kecil model pengetahuan am.

OpenBMB merekodkan pelancarannya pada 7 September 2026, selepas model itu diperkenalkan di World Artificial Intelligence Conference (WAIC) pada 19 Julai. 123

Apa yang ditawarkan oleh MiniCPM5-2B

Pembangunnya menggambarkannya sebagai model dense kelas 2B untuk penggunaan atas peranti (on-device) dan dalam keadaan sumber pengkomputeran terhad. Bahan pelancaran menyatakan ia mempunyai 2.52 bilion parameter, manakala koleksi model OpenBMB di Hugging Face menyenaraikan tetingkap konteks sehingga 131K token bagi MiniCPM5 2B. 611

Model ini menggunakan lesen Apache-2.0. Secara praktikal, ia menarik untuk pasukan yang mahu mengintegrasi, mengubah suai dan mengedarkan model dalam produk komersial, selagi mematuhi syarat lesen berkenaan. 3

Konfigurasi yang dikaitkan dengan keluaran ini dilaporkan serasi dengan LlamaForCausalLM, dengan 42 lapisan decoder dan grouped-query attention. Namun, bagi keputusan deployment produksi, butiran teknikal khusus wajar disahkan terus melalui fail config.json checkpoint yang digunakan kerana tidak semua medan itu diperincikan sepenuhnya dalam petikan sumber tersedia.

Skor 53.9: bagus, tetapi bukan ukuran mutlak

OpenBMB melaporkan purata 53.9 dalam perbandingan sendiri merentas 34 tugasan. Dalam jadual yang sama, Qwen3.5-4B mencatat 51.1, granite-4.2-3B 42.7 dan LFM2.5-2.6B 33.2. Syarikat itu juga menyatakan MiniCPM5-2B mengatasi model lebih besar yang dimasukkan dalam perbandingan khusus tersebut. 7

Itu pencapaian yang ketara untuk model bersaiz ini, tetapi ia bukan kedudukan menyeluruh bagi semua model terbuka. Nilai 53.9 ialah agregat yang diterbitkan oleh vendor: maksudnya bergantung pada tugasan, arahan (prompt), kaedah penilaian dan cara skor individu digabungkan. Gunakannya untuk membandingkan model dalam jadual OpenBMB itu sendiri, bukan sebagai bukti bahawa ia lebih baik untuk semua kegunaan berbanding setiap model 4B atau lebih besar. 79

Daripada maklumat yang tersedia, gambaran paling jelas adalah seperti berikut:

• Kelebihan yang dilaporkan termasuk penaakulan kod dan matematik, penggunaan konteks panjang, tool calling serta tugasan ejen. 7
• Ringkasan bebas mengenal pasti profil terkuatnya pada penggunaan alat, ejen coding dan pengambilan maklumat konteks panjang gaya NoLiMa. 6
• Ringkasan yang sama meletakkannya lebih rendah untuk MMLU-Pro, GPQA-Diamond dan MATH-500. Jadi, ia tidak seharusnya dipilih hanya berdasarkan purata keseluruhan jika aplikasi banyak bergantung pada pengetahuan am. 6

OpenBMB turut mendakwa kedudukan pertama dalam kalangan model sumber terbuka bawah 4B pada Artificial Analysis Intelligence Index dengan skor 23. Ini ialah dakwaan vendor yang terikat pada papan pendahulu dan masa tertentu, bukannya penilaian kekal atau universal. 15

Checkpoint dan format untuk penggunaan lokal

Keluaran open-weight ini bukan hanya satu checkpoint akhir. Ia merangkumi varian Base dan SFT, serta pemberat BF16 dan versi terkuantum dalam format GGUF, MLX dan GPTQ. 3

OpenBMB juga menyebut keluaran FlagOS, termasuk varian ARM W8A8, yang meluaskan pilihan untuk persekitaran ARM dan edge. 12

Bagi penyajian model (serving), halaman perbincangan rasmi menyediakan contoh menjalankan SGLang dengan openbmb/MiniCPM5-2B. 8 Untuk penggunaan setempat pada komputer riba atau peranti lain, format terkuantum lazimnya lebih praktikal; runtime yang sesuai pula bergantung pada format fail dan perkakasan anda.

Bolehkah ia berjalan pada telefon dan komputer riba?

Bagi prompt pendek hingga sederhana, model dense 2.52B parameter jauh lebih munasabah untuk penggunaan lokal berbanding model yang mempunyai puluhan bilion parameter, khususnya apabila menggunakan binaan terkuantum. Ini menjadikannya relevan untuk produk yang mengutamakan privasi, kos infrastruktur lebih rendah dan respons tempatan yang pantas.

Namun, konteks 131K token tidak bermaksud setiap peranti boleh menggunakannya dengan selesa. Memori KV cache meningkat mengikut panjang prompt. Maka, sokongan konteks besar berbeza daripada keupayaan menjalankan sesi penuh 131K token dengan lancar pada telefon atau komputer riba berspesifikasi sederhana. 11

Bila MiniCPM5-2B pilihan yang tepat?

Pilih MiniCPM5-2B jika anda memerlukan model kecil, terbuka dan berlesen fleksibel untuk:

• pembantu coding secara lokal atau di edge;
• tool calling dan saluran ejen AI;
• aplikasi yang mendapat manfaat daripada pengedaran model terkuantum;
• kes penggunaan yang mengutamakan kos, kependaman dan privasi berbanding keupayaan pengetahuan am maksimum.

Bagi aplikasi yang memerlukan pengetahuan am kukuh secara konsisten atau prestasi tinggi pada benchmark sukar di luar coding dan penggunaan alat, model lebih besar masih menjadi rujukan yang munasabah. Kekuatan paling meyakinkan MiniCPM5-2B bukan janji untuk menang dalam semua keadaan, tetapi gabungan saiz kecil, ketersediaan terbuka dan prestasi yang dilaporkan bagi aliran kerja tool-using pada peranti. 67