Ein Modell mit 2,5 Milliarden Parametern, das größere Modelle übertrifft und auf Ihrem Laptop läuft

Das chinesische Open-Source-Labor OpenBMB hat am Sonntag MiniCPM5-2B unter der Apache 2.0-Lizenz veröffentlicht, die ungefähr so ​​freizügig ist wie Softwarelizenzen nur sein können: Sie können es ausführen, ändern und in einem kommerziellen Produkt versenden, ohne jemanden zu fragen. Das Modell verfügt über 2,52 Milliarden Parameter, die internen Zahlen, die ein Modell während des Trainings lernt, was im Jahr 2026 klein ist. Klein genug, um bequem auf einem Laptop oder einem Telefon zu sitzen.

Es ist auch gut. In 34 Benchmarks liegt das Modell im Durchschnitt bei 53,9 und liegt damit vor Qwen3.5-4B mit 51,1. Damit steht es an der Spitze der offenen Bestenliste für Modelle unter 4 Milliarden Parametern. Die herausragenden Ergebnisse sind eher praktischer als trivialer Natur: 97,1 beim Telecom-Split von Tau-Squared Bench, das testet, ob ein Modell Tools aufrufen und einem mehrstufigen Verfahren folgen kann, ohne den Thread zu verlieren, und 69,1 bei LiveCodeBench v6 für Code. Artificial Analysis, das seine eigenen unabhängigen Auswertungen durchführt, erreichte im Intelligence Index v4.2 den Wert 15, den ersten Platz unter den Open-Weight-Modellen unter 4B und vor Granite 4.2 3B mit 11. Der native Kontext besteht aus 131.072 Token, was ungefähr einem Buch mit 300 Seiten entspricht, das man sich gleichzeitig vor Augen hält, und das Modell verfügt über einen hybriden Denkmodus, den Sie einschalten können, wenn eine Frage eine langsamere Argumentation erfordert. Es funktioniert sofort mit vLLM, SGLang, llama.cpp, Ollama, LM Studio und MLX für Apple Silicon. OpenBMB veröffentlichte außerdem die Datensätze für das Vortraining, die Feinabstimmung und das verstärkende Lernen sowie Zwischenkontrollpunkte, was seltener vorkommt als die alleinige Veröffentlichung der Gewichte.

Was steckt dahinter

Zwei Jahre lang hieß es, dass Leistungsfähigkeit von der Größe abhängt, sodass alles, was man zu Hause betreiben konnte, ein Spielzeug war. Das hörte stillschweigend auf, wahr zu sein. Die Trainingsrezepte wurden verbessert, die Daten wurden sauberer und kleine Modelle begannen, viel von dem zu übernehmen, was die großen Modelle gelernt hatten. Ein Modell mit 2,5 Milliarden Parametern im Jahr 2026 erledigt Dinge, mit denen ein Modell mit 70 Milliarden Parametern im Jahr 2024 zu kämpfen hatte.

Warum verschenkt ein Labor das? Teils Reputation, teils Ökosystem. Wenn MiniCPM zum Standardmodell für kleine Unternehmen wird, dessen Feinabstimmung und Einbettung in Geräte erfolgt, steht OpenBMB im Mittelpunkt dieser Welt. Und die Veröffentlichung der Trainingsdaten zusammen mit den Gewichten ist eine direkte Antwort auf eine häufige Beschwerde über „offene“ Modelle, die eine Binärdatei und nichts anderes liefern.

Was das für Sie bedeutet: Wenn Sie noch nie ein Modell auf Ihrem eigenen Computer ausgeführt haben, ist dies ein guter erster Versuch. Installieren Sie Ollama oder LM Studio, ziehen Sie MiniCPM5-2B und Sie haben einen privaten Assistenten, der offline arbeitet, nichts pro Frage kostet und Ihren Text niemals irgendwohin sendet. Es wird kein Grenzmodell ersetzen, das aus harten Überlegungen hervorgeht, und das sollten Sie auch nicht erwarten. Aber zum Verfassen, Zusammenfassen, Neuformatieren und Beantworten von Fragen zu Dokumenten, die Sie lieber niemandem hochladen möchten, reicht es wirklich aus. Wenn Sie Produkte entwickeln, ist der interessante Teil die Lizenz plus die Größe: Dies ist ein Modell, das Sie innerhalb einer App auf einem Telefon versenden können, ohne API-Rechnung und ohne Tarifbegrenzung.

Quellen

• MarkTechPost: OpenBMB veröffentlicht MiniCPM5-2B
• Künstliche Analyse: OpenBMB veröffentlicht MiniCPM5-2B
• AlphaSignal: MiniCPM5-2B führt die Sub-4B-Charts an