CourionAI
DE
Newsletter
← Alle News
open-weights 2 Min. Lesezeit

Mira Muratis Labor schrumpft sein Modell auf ein Viertel und verliert nur einen Punkt

Thinking Machines veröffentlicht Inkling Small, ein Open-Weights-Reasoning-Modell mit 276 Milliarden Parametern. Es erzielt 40 Punkte, das Original mit 975 Milliarden kommt auf 41.

Eine Waage trägt einen riesigen hohlen Würfel und einen kleinen dichten Würfel und bleibt dabei fast im Gleichgewicht

Zwei Wochen nach seinem ersten Modell veröffentlicht Thinking Machines ein zweites, das erheblich kleiner und fast ebenso gut ist. Inkling Small ist ein Open-Weights-Reasoning-Modell mit insgesamt 276 Milliarden und zwölf Milliarden aktiven Parametern unter der Apache-2.0-Lizenz. Im Intelligence Index von Artificial Analysis erreicht es 40 Punkte. Das ursprüngliche Inkling kommt mit 975 Milliarden Parametern auf 41.

Einige Begriffe verdienen eine Erklärung. Parameter sind die veränderbaren Zahlen, die ein Modell beim Training lernt; mehr davon bedeuten meist ein größeres, teureres Modell. Gesamt und aktiv unterscheiden sich hier, weil beide Modelle eine Mixture-of-Experts-Architektur nutzen. Pro Anfrage arbeitet nur ein Teil des Netzes, weshalb die Betriebskosten eher von den aktiven als von allen Parametern abhängen. Open Weights bedeutet, dass Thinking Machines das trainierte Modell selbst statt nur einer API veröffentlicht. Du kannst es herunterladen, auf eigener Hardware betreiben und verändern. Apache 2.0 erlaubt auch die kommerzielle Nutzung in geschlossenen Produkten, sofern die Urheberhinweise erhalten bleiben.

In manchen Tests schlägt Inkling Small sogar das größere Modell: Bei Humanity’s Last Exam erreicht es 32 statt 30 Prozent, bei GPQA Diamond 89 statt 87. Schwächer ist es bei agentischen Aufgaben und Faktenabruf. Praktisch wichtiger ist die Token-Effizienz. Pro Aufgabe erzeugt es im Schnitt rund 24.000 Ausgabetokens, DeepSeek V4 Flash 45.000 und GPT-5.4 mini 78.000. Da pro Token abgerechnet wird, senkt das die Kosten zusätzlich zur kleineren Modellgröße. Inkling Small verarbeitet Text, Bilder und Sprache, bietet ein Kontextfenster von 256.000 Tokens und steht auf Hugging Face bereit. Laut Artificial Analysis erzielt kein gleich großes oder kleineres offenes Modell einen höheren Wert.

Was dahintersteckt. Zwei Jahre lang lautete die Standardantwort der Branche auf bessere Modelle: größer bauen. Das endet leise. Inkling Small gehört zu mehreren Veröffentlichungen dieses Monats, die Architektur, Trainingsdaten und sparsamen Tokengebrauch höher gewichten als reine Größe. Für Thinking Machines ist das strategisch: Kunden sollen die Modelle mit eigenen Daten feinabstimmen. Ein Modell mit 276 Milliarden Parametern kann ein ernsthaftes Unternehmen realistisch anpassen und selbst betreiben, eines mit 975 Milliarden kaum. Thinking Machines will die Grundlage sein, auf der Kunden bauen, nicht das Modell, das sie mieten.

Was das für dich bedeutet: In einer Chat-App ändert sich nichts; du wirst das Modell wahrscheinlich nie direkt verwenden. Bist du technisch versiert und war Selbsthosting bislang zu teuer, ist der Abstand zwischen einem tatsächlich betreibbaren offenen Modell und einem zu mietenden Frontier-Modell kleiner geworden. 276 Milliarden Parameter passen dennoch nicht auf einen Laptop: Open Weights richtet sich hier an Unternehmen mit GPUs, nicht an Hobbyanwender mit MacBook. Für alle anderen zeigt die Richtung, dass kleine Modelle weiter aufholen und damit die Preise im gesamten Markt drücken.

Quellen

Quellen: https://thinkingmachines.ai/news/inkling-small/

Nächster Artikel

OpenAI versieht KI-Stimmen jetzt mit Wasserzeichen, und jeder kann eine Datei prüfen

Mit GPT-Live über ChatGPT Voice und die API erzeugtes Audio trägt nun ein unsichtbares SynthID-Wasserzeichen. OpenAIs öffentliches Prüfwerkzeug kann es erkennen.

Eine gedruckte Schallwelle mit verborgenem geometrischem Muster, das unter einer schwebenden Lupe sichtbar wird