CourionAI
DE
Newsletter
← Alle News
openai 3 Min. Lesezeit

Der neue Ultrafast-Modus von OpenAI führt sein bestes Modell 14-mal schneller aus

Eine neue OpenAI-API-Stufe von Cerebras führt GPT-5.6 Sol mit bis zu 750 Ausgabe-Tokens pro Sekunde aus. Gleiches Modell, gleiche Qualität, etwa vierzehnfache Geschwindigkeit, zunächst für einen kleinen Kundenkreis.

Ein riesiger kreisförmiger Siliziumwafer, der wie eine Sonne aufsteigt, mit langen Geschwindigkeitslinien und einer Spur aus Punkten, die davon wegziehen

OpenAI stellte am Donnerstag eine Vorschau auf eine neue Dienststufe namens Ultrafast vor, die GPT-5.6 Sol, ihr leistungsfähigstes Modell, mit bis zu vierzehnfacher Geschwindigkeit ausführt. In konkreten Zahlen sind das bis zu 750 ausgegebene Token pro Sekunde. Token sind die Textblöcke, die ein Modell produziert, jeweils etwa drei Viertel eines Wortes, sodass 750 pro Sekunde schneller sind, als ein Mensch lesen kann. Die Hardware dahinter stammt von Cerebras, dem Chiphersteller, dessen Prozessoren auf einem einzigen riesigen Wafer statt auf vielen kleinen Chips aufgebaut sind.

Der Punkt, den OpenAI hervorhebt, ist, dass es sich um dasselbe Modell handelt und nicht um ein kleineres. Bisher konnte man schnell eine Lösung finden, indem man zu einem leichteren Modell greift und akzeptiert, dass es bei schwierigen Problemen schlechter ist. Ultrafast behält die Intelligenz und macht das Warten überflüssig. OpenAI meldet eine 5,6-fache End-to-End-Beschleunigung des GDPval, einem Benchmark, der auf wirtschaftlich wertvoller Wissensarbeit basiert, ohne messbaren Qualitätsverlust. Cerebras behauptet, das Setup sei fünfmal schneller als Claude Opus 4.8 und elfmal schneller als Claude Fable 5.

Die ersten Kunden beschreiben, was sich ändert, wenn die Verzögerung verschwindet. Podium verwendet es in einem Sprachprodukt, bei dem das Warten von drei Sekunden auf eine Antwort auf einen Anruf den Unterschied zwischen einem Gespräch und einer unangenehmen Stille ausmacht. Das Finanzforschungsunternehmen Rogo sagt, dass sich komplexe Recherchen allmählich wie eine Echtzeit-Interaktion anfühlen. Innerhalb von OpenAI verwenden Ingenieure es bei Ausfällen: Wenn eine Warnung ausgelöst wird, liest das Modell Protokolle, analysiert Spuren und schlägt nächste Überprüfungen vor, während sich das System immer noch schlecht verhält, und nicht erst danach. Forscher beschreiben eine Reihe von Experimenten über Nacht, die an einem einzigen Arbeitstag in mehrere Runden zerfielen.

Was ist hier eigentlich los?

Geschwindigkeit wird still und leise zu ihrer eigenen Wettbewerbsachse. Zwei Jahre lang lieferte sich die Branche einen Wettlauf um die Leistungsfähigkeit, und die Modelle wurden so intelligent, dass der verbleibende Engpass für viele Jobs nicht darin besteht, „kann sie das schaffen“, sondern „wird sie reagieren, bevor der Moment vorüber ist“. Ein Modell, das vierzig Sekunden braucht, kann kein Telefongespräch führen, kann bei einem Ausfall nicht helfen, kann nicht in einem Kassenfluss sitzen. Um dorthin zu gelangen, ist spezielles Silizium erforderlich, weshalb sich OpenAI auf Cerebras stützt, anstatt es intern zu machen, und es ist eine Erinnerung daran, dass es bei der KI-Geschichte sowohl um Chips als auch um Modelle geht. Ein fairer Vorbehalt: Dies ist eine begrenzte Vorschau für ausgewählte Kunden, OpenAI hat keine Preise veröffentlicht und „bis zu 750 Token pro Sekunde“ ist eine Obergrenze, kein Durchschnitt.

Was das für dich bedeutet: Heute zunächst nichts, und das ist in Ordnung. Ultrafast ist ein API-Tarif für Unternehmen, kein neuer Schalter in ChatGPT. Die Vorschau zeigt aber, wohin sich Produkte entwickeln, die du täglich nutzt: Sprachassistenten ohne peinliche Pausen, Support-Chats, die nicht ins Stocken geraten, und Programmierwerkzeuge, die mit deinem Tipptempo mithalten. All das sind Geschwindigkeitsprobleme, an denen gerade gearbeitet wird. Wenn sich der Chatbot deiner Bank eines Tages nicht mehr wie eine Warteschleife anfühlt, kann genau eine solche technische Veränderung dahinterstecken.

Quellen

Quellen: https://openai.com/index/previewing-ultrafast/

Nächster Artikel

Mit Suno Studio 2.0 können Sie mit einem Musikstudio sprechen, als wäre es ein Bandkollege

Suno verwandelte seinen Musikgenerator in ein chatgesteuertes Produktionstool: Erstellen Sie Instrumente und Plugins durch Eingabe, importieren Sie MIDI und exportieren Sie unbegrenzt 32-Bit-Multitrack. Die Exportrichtlinie steht seltsamerweise neben den Anti-Spam-Grenzwerten der letzten Woche.

Ein Audio-Mischpult voller Fader und Knöpfe, aus dem eine große leere Sprechblase aufsteigt und in der Musiknoten herumschweben