MiniCPM-V 4.7 ist eine Open-Source-Modellfamilie für multimodale KI, die lokal auf Geräten laufen soll. Sie umfasst zwei Varianten: ein 35B-A3B-Modell mit Mixture-of-Experts-Architektur (MoE) und eine kleinere 1B-Version. Für das große Modell nennt OpenBMB mehr als 13 Tokens pro Sekunde bei rund 3 GB Speicher auf einem iPhone 17 Pro Max. Das ist eine Angabe des Entwicklers – kein unabhängiger Leistungstest über verschiedene Geräte hinweg.
9
13
Zwei Modellgrößen, unterschiedliche Ansprüche
Das 35B-A3B-Modell verfügt über rund 35 Milliarden Parameter insgesamt; pro verarbeitetem Token sind davon etwa drei Milliarden aktiv. Es ist das erste MoE-Modell der MiniCPM-V-Reihe. Die 1B-Variante ist die kompaktere Alternative. Beide Modelle bauen auf den Bild- und Videoverständnisfunktionen der Reihe auf.
2
31
32
OpenBMB veröffentlicht den Modellcode und die Gewichte unter der Lizenz Apache 2.0. Code und Dokumentation sind im GitHub-Projekt MiniCPM-V verfügbar.
9
14
Was hinter der Tempoangabe steckt
OpenBMB führt die angegebene Leistung des großen Modells auf Lookahead Expert Scheduling (LES) zurück. Dabei wird vorhergesagt, welche Experten – spezialisierte Teile des MoE-Modells – eine nachfolgende Schicht voraussichtlich benötigt. Ihre Gewichte können dadurch vorab geladen werden. Zum Einsatz kommen laut Projekt außerdem eine feingranulare Quantisierung auf Schichtebene und DSpark Speculative Sampling.
1
13
Die Zahl von mehr als 13 Tokens pro Sekunde beschreibt die Dekodiergeschwindigkeit: also, wie schnell das Modell seine Ausgabe erzeugt. Sie sagt nicht aus, wie lange es insgesamt dauert, eine App zu öffnen, ein Bild zu verarbeiten und eine vollständige Antwort zu erhalten. Die genannte Messung bezieht sich auf ein iPhone 17 Pro Max; dieselbe Geschwindigkeit oder derselbe Speicherbedarf ist damit nicht für jedes unterstützte Gerät belegt.
13
Was die veröffentlichten Vergleiche aussagen
Laut OpenBMB erreicht das 35B-A3B-Modell im Instruct-Modus einen höheren Gesamtwert bei kürzerer Inferenzzeit als Qwen3.6 35B-A3B. Für die 1B-Version gibt der Anbieter Verbesserungen gegenüber MiniCPM-V 4.6 an; außerdem soll sie Qwen3.5 0.8B beim Gesamtwert und bei der Inferenz-Effizienz übertreffen.
10
14
Für die Texterkennung (OCR) nennt OpenBMB einen Wert von 90,4 im OCRBench – bei einer 16-fachen Komprimierung der visuellen Tokens.
12 Benchmark-Ergebnisse hängen vom jeweiligen Testaufbau ab; Werte aus unterschiedlichen Komprimierungseinstellungen sind deshalb nicht ohne Weiteres vergleichbar. Auch diese Angaben stammen aus den Auswertungen des Entwicklers und sind keine unabhängige Bestätigung der Leistung für jede Aufgabe oder jedes Gerät.
12
Plattformen und Werkzeuge für Entwickler
Das Projekt gibt Unterstützung für iOS, Android und HarmonyOS sowie für Chipplattformen von Intel, AMD, Arm, Rockchip und Houmo an. Diese Liste beschreibt die vom Projekt ausgewiesene Kompatibilität, nicht eine identische Leistung auf sämtlicher Hardware.
30
37
Für die Inferenz – also die Nutzung eines trainierten Modells – nennt OpenBMB unter anderem SGLang, vLLM, llama.cpp und Ollama. Für das Fine-Tuning, die gezielte Anpassung eines Modells, führt das Projekt SWIFT und LLaMA-Factory auf. Außerdem stellt OpenBMB Self-Replay Fine-Tuning (SRFT) vor: ein Verfahren, mit dem Entwickler Fähigkeiten mit geringem Aufwand ergänzen und zugleich das Vergessen bereits vorhandener Fähigkeiten verringern sollen.
20
Veröffentlichungsdatum: 12. Oktober, nicht 14. Oktober
Einige Berichte sind auf den 14. Oktober 2026 datiert. Im Änderungsprotokoll des Open-Source-Projekts ist die Veröffentlichung von MiniCPM-V 4.7 jedoch für den 12. Oktober 2026 vermerkt.
8
19 Für das Veröffentlichungsdatum ist dieses Protokoll die direktere Quelle.