MiniCPM5-2B: 작은 기기에서 돌리는 코딩·에이전트용 AI 모델

핵심: ‘작은 범용 모델’보다 로컬 작업용 모델

MiniCPM5-2B는 OpenBMB와 ModelBest가 내놓은 소형 밀집형(dense) 언어 모델이다. 핵심 용도는 일반 상식 질의응답 전반이 아니라 코딩, 툴 호출, 에이전트 워크플로다. OpenBMB의 변경 이력상 정식 공개일은 2026년 9월 7일이며, 7월 19일 WAIC(World Artificial Intelligence Conference)에서 먼저 공개됐다. 123

공개 자료에 따르면 총 파라미터 수는 25억 2,000만 개이고, MiniCPM5 2B 컬렉션에는 131K 토큰 컨텍스트 창이 표시돼 있다. 611

또한 라이선스는 Apache-2.0이다. 라이선스 조건을 준수하는 범위에서 상업적 제품 통합, 수정, 재배포를 검토할 수 있다는 점은 자체 서비스나 온디바이스 기능에 넣으려는 개발팀에 중요한 장점이다. 3

배포 구성은 LlamaForCausalLM 호환으로 설명되며, 42개 디코더 레이어와 grouped-query attention, 16개 쿼리 헤드, 2개 키/값 헤드를 사용한다는 정보가 제시됐다. 임베딩을 제외한 파라미터는 약 19억 8,000만 개로 알려졌다. 다만 실제 운영 환경을 결정할 때는 선택한 체크포인트의 config.json에서 세부 구성을 다시 확인하는 편이 안전하다.

벤치마크 평균 53.9점, 어떻게 봐야 하나

OpenBMB는 자체 34개 작업 비교에서 MiniCPM5-2B가 평균 53.9점을 기록했다고 밝혔다. 같은 표에서 Qwen3.5-4B는 51.1점, granite-4.2-3B는 42.7점, LFM2.5-2.6B는 33.2점이다. 회사는 이 비교 집합에 포함된 더 큰 모델들보다도 높은 결과였다고 설명한다. 7

이는 2B급 모델로서는 눈에 띄는 성과다. 하지만 이 수치를 모든 오픈 모델과 모든 활용 사례를 아우르는 절대 순위로 받아들이기는 어렵다. 53.9점은 공급사가 정한 작업, 프롬프트, 평가 도구, 집계 방식에 기반한 평균이기 때문이다. 따라서 OpenBMB 표 안의 동일 조건 비교에는 유용하지만, 모든 4B 이상 모델보다 언제나 낫다는 증거는 아니다. 79

공개된 자료에서 상대적 강점은 다음과 같이 정리된다.

• 코드·수학 추론, 긴 컨텍스트 처리, 툴 호출, 여러 에이전트 작업에서 강점을 내세운다. 7
• 독립 요약에서도 툴 사용, 코딩 에이전트, NoLiMa 유형의 장문 컨텍스트 검색이 특히 강점으로 꼽혔다. 6
• 반면 MMLU-Pro, GPQA-Diamond, MATH-500에서는 더 큰 모델보다 뒤처지는 것으로 요약됐다. 일반 지식이나 고난도 학술형 추론이 주력인 서비스라면 종합 평균만 보고 선택하기는 어렵다. 6

OpenBMB는 Artificial Analysis Intelligence Index에서 4B 미만 오픈소스 모델 가운데 1위, 점수 23을 기록했다고도 밝혔다. 다만 이는 특정 시점의 특정 리더보드에 관한 회사 측 주장으로 봐야 하며, 장기적·보편적 평가를 뜻하지는 않는다. 15

로컬 배포용 체크포인트와 형식

오픈 웨이트 패키지는 단일 체크포인트에 그치지 않는다. Base와 SFT 변형, BF16 가중치, 그리고 GGUF·MLX·GPTQ 양자화 버전이 제공된다. 3 OpenBMB는 FlagOS용 빌드와 ARM W8A8 변형도 공개했다고 밝혀, ARM 및 엣지 환경의 선택지를 넓혔다. 12

서빙 측면에서는 공식 Hugging Face 토론 페이지에 SGLang으로 openbmb/MiniCPM5-2B를 띄우는 예시가 있다. 8 노트북이나 데스크톱에서 직접 실행하려면 하드웨어와 런타임에 맞춰 양자화 형식을 고르는 것이 현실적인 출발점이다.

스마트폰과 노트북에서 정말 쓸 만한가

25억 2,000만 파라미터의 밀집형 모델은 수백억 파라미터 모델보다 로컬 실행에 훨씬 현실적이며, 특히 양자화 빌드를 쓰면 더욱 그렇다. 데이터가 기기를 벗어나지 않는 구조, 낮은 인프라 비용, 빠른 로컬 응답이 필요한 제품에 잘 맞는다.

다만 131K 토큰 컨텍스트 지원과 모바일에서 131K 토큰을 편하게 처리하는 것은 다른 이야기다. 프롬프트가 길어질수록 KV 캐시가 차지하는 메모리도 커진다. 따라서 스마트폰이나 보급형 노트북에서는 짧거나 중간 길이의 상호작용이 긴 세션보다 훨씬 실용적일 수 있다. 11

어떤 경우에 선택할 만한가

MiniCPM5-2B는 다음과 같은 상황에서 설득력이 있다.

• 로컬 또는 엣지 환경의 코딩 보조
• 툴 호출과 에이전트 파이프라인
• 양자화 모델을 제품에 함께 배포해야 하는 경우
• 최고 수준의 범용 성능보다 비용, 지연 시간, 개인정보 보호를 우선하는 경우

반대로 폭넓은 일반 지식과 어려운 벤치마크에서 일관되게 높은 성능이 필요하다면 더 큰 모델을 함께 비교하는 편이 합리적이다. MiniCPM5-2B의 핵심 가치는 모든 영역의 승리가 아니라, 작은 크기, 개방적 라이선스, 그리고 툴을 사용하는 온디바이스 워크플로에서 보고된 성능의 조합에 있다. 67