Granite 4.2 von IBM ist kostenlos, klein genug, um lokal ausgeführt zu werden, und darauf ausgelegt, zuerst zu denken

IBM hat Granite 4.2 veröffentlicht, eine Familie offener Sprachmodelle mit 3 Milliarden, 8 Milliarden und 30 Milliarden Parametergrößen, unter einer Apache 2.0-Lizenz. Diese Lizenz ist wichtiger als die Benchmark-Tabelle: Sie bedeutet, dass Sie die Modelle herunterladen, anpassen und in einem Produkt ausführen können, ohne eine Erlaubnis einzuholen oder eine Gebühr zu zahlen. Sie sind seit Dienstag auf Hugging Face, Ollama, LM Studio, GitHub und OpenRouter verfügbar.

Bei der Überschriftenänderung handelt es sich um native Argumentation. Diese Modelle denken Schritt für Schritt, bevor sie handeln, was in der Praxis bedeutet, eine Abfolge von Werkzeugaufrufen zu planen, anstatt sie abzufeuern und zu hoffen. Parameter sind grob gesagt die internen Zahlen, die ein Modell während des Trainings lernt, und die Anzahl ist ein guter Indikator dafür, wie viel Hardware Sie benötigen: Ein 3B-Modell läuft problemlos auf einem Laptop, ein 8B-Modell benötigt eine vernünftige Grafikkarte und 30B ist eine Workstation oder ein kleiner Server.

Um dorthin zu gelangen, waren eher Schulungsänderungen als mehr Umfang erforderlich. IBM hat ein mehrstufiges Reinforcement-Learning-Programm hinzugefügt, bei dem es sich um ein Training handelt, bei dem das Modell für gute Ergebnisse belohnt wird, anstatt ihm die richtigen Antworten zu zeigen, beginnend mit einer Grundlagenphase in den Bereichen Mathematik, Naturwissenschaften, Codierung und Tool-Calling. Die 8B- und 30B-Modelle durchliefen dann eine „agentische RL“-Phase mit Aufgaben im Unternehmensstil: Softwareentwicklung, Terminalarbeit, suchgesteuerte Arbeitsabläufe. Die Modelle trainierten außerdem mit einer Billion synthetischer Code-Tokens aus der CodeAlchemy-Pipeline von IBM und werden mit einer spekulativen Decodierungsschicht ausgeliefert, einem Trick, der mehrere Wörter im Voraus errät und sie in einem Durchgang überprüft, sodass Text schneller ausgegeben wird.

Daneben werden stillschweigend zwei Sprachmodelle ausgeliefert, Granite Speech 5.0 Turbo CTC und eine nicht kommerzielle Variante mit nur 470 Millionen Parametern. Sie haben überhaupt kein Sprachmodell in sich, was sie winzig hält. IBM meldet einen Durchsatzwert von etwa 12.600 auf einer einzelnen H200-GPU gegenüber etwa 6.000 für die aktuellen Geschwindigkeitsführer auf der Open ASR-Bestenliste von Hugging Face und gibt an, dass das Modell drei Stunden aufgezeichnete Sprache in etwa einer Sekunde transkribiert.

Was hier eigentlich vor sich geht: IBM versucht nicht, GPT-5.6 oder Claude zu schlagen. Es zielt auf die langweilige Mitte des Marktes ab, wo ein Unternehmen einen Agenten möchte, der zuverlässig dieselbe mehrstufige Aufgabe zehntausend Mal auf seinen eigenen Servern erledigt, ohne dass eine Rechnung pro Token anfällt oder seine Daten das Gebäude verlassen. Das ist ein echtes und unterschätztes Bedürfnis, und offene Gewichte plus kleine Größen sind eine vernünftige Antwort darauf. Bei den von IBM veröffentlichten Wettbewerbstabellen handelt es sich um eigene Vergleichstabellen mit Modellen ähnlicher Größe. Lesen Sie sie daher eher als Behauptung denn als Urteil.

Was das für Sie bedeutet: Wenn Sie ein leistungsfähiges KI-Modell auf Ihrem eigenen Computer ausprobieren wollten, sind die Versionen 3B und 8B ein ungewöhnlich einfacher Ausgangspunkt. ollama run granite4.2 und Sie gehen offline, ohne dass irgendetwas irgendwohin gesendet wird. Erwarten Sie keine Spitzenqualität; Erwarten Sie etwas Nützliches zum Zusammenfassen, Entwerfen und für die einfache Verwendung von Werkzeugen, das nichts kostet und Ihnen nicht entzogen werden kann.

Quellen

• IBM Research: Granite 4.2 bringt native Argumentation für Unternehmensagenten
• Technische Aufschlüsselung auf Hugging Face
• Granite 4.2 auf Ollama
• The Decoder: IBM veröffentlicht die Open-Weight-Familie Granite 4.2 unter Apache 2.0