스마트폰에서 이미지나 영상을 이해하는 AI를 구동할 수 있을까? OpenBMB가 공개한 MiniCPM-V 4.7은 이 질문을 겨냥한 멀티모달 모델 제품군입니다. 35B-A3B와 1B 두 가지 모델로 구성되며, 개발사는 가장 큰 모델이 아이폰 17 Pro Max에서 메모리 약 3GB를 사용해 초당 13토큰 이상을 생성한다고 밝혔습니다. 다만 이는 개발사가 공개한 기기별 결과이지, 다른 기기에서도 같은 속도와 메모리 사용량을 보장하는 독립 검증은 아닙니다.
9
13
두 가지 모델, 첫 MoE 모델
35B-A3B는 전체 파라미터가 약 350억 개지만, 토큰 하나를 처리할 때는 약 30억 개만 활성화하는 혼합 전문가(MoE) 구조입니다. MiniCPM-V 시리즈에서 MoE를 처음 적용한 모델이기도 합니다. 더 작은 1B 버전도 함께 제공되며, 두 모델 모두 시리즈의 이미지와 영상 이해 기능을 이어받았습니다.
2
31
32
프로젝트 자료에 따르면 모델 코드와 가중치는 Apache-2.0 라이선스로 공개됐고, 코드와 문서는 OpenBMB의 MiniCPM-V GitHub 저장소에서 확인할 수 있습니다.
9
14
초당 13토큰이라는 수치, 무엇을 뜻하나
OpenBMB는 35B-A3B의 온디바이스 성능을 높이는 기술로 **Lookahead Expert Scheduling(LES)**을 소개했습니다. 다음 레이어에서 필요할 가능성이 있는 전문가 모듈을 미리 예측해 가중치를 먼저 불러오는 방식입니다. 개발사는 여기에 세밀한 레이어별 양자화와 DSpark 투기적 샘플링을 함께 적용했다고 설명합니다.
1
13
여기서 초당 13토큰 이상은 모델이 답변을 생성하는 디코딩 속도입니다. 앱을 열고 모델을 불러오는 시간이나 이미지를 입력한 뒤 완성된 답을 받기까지의 총 대기 시간과는 다릅니다. 공개된 수치도 아이폰 17 Pro Max 기준의 개발사 발표이므로, 다른 지원 기기에서 같은 성능이 나온다고 단정할 수는 없습니다.
13
공개된 벤치마크와 비교 결과
OpenBMB 자료는 Instruct 모드에서 35B-A3B가 Qwen3.6 35B-A3B보다 추론 시간이 짧으면서 종합 점수는 높았다고 보고합니다. 1B 모델도 MiniCPM-V 4.6보다 개선됐으며, 종합 점수와 추론 효율에서 Qwen3.5 0.8B를 앞섰다는 설명입니다.
10
14
문자 인식(OCR) 평가에서는 시각 토큰을 16배 압축한 조건에서 OCRBench 90.4점을 기록했다고 OpenBMB가 밝혔습니다.
12 벤치마크 점수는 평가 설정에 따라 달라질 수 있어, 압축 조건이 다른 결과를 단순 비교하기는 어렵습니다. 이 수치와 비교 결과는 개발사가 공개한 평가이며, 모든 작업이나 기기에서의 성능을 독립적으로 확인한 결과는 아닙니다.
12
지원 플랫폼과 개발 도구
프로젝트는 iOS, Android, HarmonyOS와 Intel, AMD, Arm, Rockchip, Houmo 계열 칩 플랫폼 지원을 안내합니다. 이는 개발사가 밝힌 호환 범위이며, 각 기기에서 성능이 동일하다는 뜻은 아닙니다.
30
37
개발자용 추론 프레임워크로는 SGLang, vLLM, llama.cpp, Ollama가, 미세조정 도구로는 SWIFT와 LLaMA-Factory가 안내돼 있습니다. 또 **Self-Replay Fine-Tuning(SRFT)**을 공개해, 기존 역량을 덜 잊으면서 낮은 비용으로 모델 기능을 확장하는 방법을 제시했습니다.
20
공개일은 10월 14일이 아니라 10월 12일
일부 보도는 2026년 10월 14일을 공개일로 적었지만, OpenBMB 프로젝트 변경 기록에는 오픈소스 공개일이 2026년 10월 12일로 기재돼 있습니다. 공개일을 확인할 때는 변경 기록을 기준으로 보는 편이 직접적입니다.
8
19