MiniCPM5-2B: Model AI Ringkas untuk Coding Lokal dan Tool Calling

MiniCPM5-2B adalah model bahasa dense berukuran ringkas dari OpenBMB dan ModelBest, yang dirancang untuk berjalan di perangkat atau lingkungan dengan sumber daya terbatas. Fokus praktisnya adalah coding, pemanggilan alat (tool calling), dan alur kerja agen AI—bukan sekadar versi kecil dari model pengetahuan umum.

OpenBMB mencatat peluncurannya pada 7 September 2026, setelah model ini diperkenalkan dalam World Artificial Intelligence Conference (WAIC) pada 19 Juli. 123

Apa yang ditawarkan MiniCPM5-2B?

Pengembang menggambarkannya sebagai model dense kelas 2B untuk penggunaan on-device dan perangkat dengan sumber daya terbatas. Materi yang dipublikasikan menyebut ukuran 2,52 miliar parameter, sementara koleksi model OpenBMB mencantumkan jendela konteks hingga 131K token untuk MiniCPM5 2B. 611

Model ini memakai lisensi Apache-2.0. Artinya, model menarik bagi tim yang ingin mengintegrasikan, memodifikasi, dan mendistribusikannya dalam produk komersial, selama mematuhi ketentuan lisensinya. 3

Konfigurasi yang menyertai rilis ini disebut kompatibel dengan LlamaForCausalLM: 42 lapisan decoder, grouped-query attention, 16 query heads, dua key/value heads, serta sekitar 1,98 miliar parameter di luar embedding. Untuk keputusan deployment produksi, rincian teknis tersebut sebaiknya tetap dicek langsung pada config.json checkpoint yang dipilih karena tidak seluruhnya terdokumentasi lengkap dalam potongan sumber yang tersedia.

Skor benchmark 53,9: bagus, tetapi jangan dibaca berlebihan

OpenBMB melaporkan rata-rata 53,9 pada perbandingan internalnya yang mencakup 34 tugas. Dalam tabel yang sama, Qwen3.5-4B mendapat 51,1, granite-4.2-3B 42,7, dan LFM2.5-2.6B 33,2. Pengumuman tersebut juga menyatakan MiniCPM5-2B melampaui model yang lebih besar yang disertakan dalam perbandingan itu. 7

Hasil ini menonjol untuk model sekecil ini, tetapi bukan berarti MiniCPM5-2B otomatis menjadi yang terbaik untuk semua kebutuhan. Angka 53,9 adalah agregat yang dipublikasikan vendor. Nilainya bergantung pada pilihan tugas, prompt, evaluation harness, dan cara skor-skor digabungkan. Gunakan angka itu untuk membandingkan model dalam tabel evaluasi OpenBMB yang sama, bukan sebagai bukti bahwa ia pasti mengungguli setiap model open-weight 4B atau lebih besar di semua skenario. 79

Dari informasi yang tersedia, gambaran kekuatannya cukup jelas:

• Keunggulan yang diklaim mencakup penalaran kode dan matematika, penggunaan konteks panjang, tool calling, serta tugas agen AI. 7
• Ringkasan independen menempatkan keunggulan utamanya pada tool use, agen coding, dan pengambilan informasi konteks panjang bergaya NoLiMa. 6
• Ringkasan yang sama menilai model ini lebih lemah pada MMLU-Pro, GPQA-Diamond, dan MATH-500. Jadi, jangan memilihnya hanya dari rata-rata keseluruhan bila aplikasi sangat bergantung pada pengetahuan umum yang luas. 6

OpenBMB juga menyatakan MiniCPM5-2B berada di posisi pertama untuk model open-source di bawah 4B pada Artificial Analysis Intelligence Index, dengan skor 23. Ini adalah klaim vendor yang spesifik pada leaderboard dan waktu tertentu, bukan penilaian universal atau permanen. 15

Checkpoint dan format untuk penggunaan lokal

Rilis open-weight ini tidak hanya menyediakan satu checkpoint final. Paketnya mencakup varian Base dan SFT, bobot BF16, serta versi terkuantisasi dalam format GGUF, MLX, dan GPTQ. 3

OpenBMB juga menyebut rilis untuk FlagOS, termasuk varian ARM W8A8. Opsi ini memperluas kemungkinan deployment pada perangkat ARM dan lingkungan edge. 12

Untuk serving, halaman diskusi resmi menyediakan contoh menjalankan openbmb/MiniCPM5-2B memakai SGLang. 8 Sementara itu, format kuantisasi adalah jalur yang lebih praktis untuk penggunaan lokal pada laptop dan perangkat lain. Runtime yang tepat tetap bergantung pada format model serta perangkat keras yang digunakan.

Apakah cocok untuk ponsel dan laptop?

Untuk prompt pendek sampai menengah, model dense dengan 2,52 miliar parameter jauh lebih realistis dijalankan secara lokal dibanding model besar berukuran puluhan miliar parameter—terutama bila menggunakan versi terkuantisasi. Ini membuatnya relevan untuk produk yang mengutamakan privasi, biaya infrastruktur lebih rendah, dan respons lokal yang cepat.

Namun, jendela konteks 131K token tidak berarti setiap perangkat bisa menjalankan sesi sepanjang itu dengan nyaman. Memori KV cache bertambah seiring panjang prompt. Jadi, dukungan konteks panjang berbeda dengan kemampuan menjalankan sesi penuh 131K token secara lancar di ponsel atau laptop kelas menengah. 11

Kapan MiniCPM5-2B layak dipilih?

MiniCPM5-2B patut dipertimbangkan jika Anda membutuhkan model kecil, terbuka, dan berlisensi fleksibel untuk:

• asisten coding lokal atau edge;
• tool calling dan pipeline agen AI;
• aplikasi yang perlu mendistribusikan model terkuantisasi;
• kasus penggunaan ketika biaya, latensi, dan privasi lebih penting daripada kemampuan pengetahuan umum semaksimal mungkin.

Untuk aplikasi yang membutuhkan pengetahuan umum kuat secara konsisten, atau performa tinggi pada benchmark sulit di luar coding dan penggunaan alat, model yang lebih besar tetap menjadi pembanding yang masuk akal. Nilai jual utama MiniCPM5-2B bukan janji menang di semua bidang, melainkan perpaduan ukuran kecil, ketersediaan terbuka, dan performa yang dilaporkan untuk workflow on-device yang menggunakan alat. 67