OpenAI hat seinen eigenen Chip gebaut und die ersten Benchmarks sind gut

OpenAI und Broadcom stellten diese Woche auf der Hot-Chips-Konferenz Jalapeño vor, den ersten Prozessor, den OpenAI selbst entwickelt hat. Es handelt sich um einen Inferenz-Chip, das heißt, er ist für den Betrieb fertiger Modelle konzipiert und nicht für das Training neuer Modelle. Die ersten veröffentlichten Benchmarks belegen, dass er den aktuellen Racks von Nvidia bei dem Maß voraus ist, das für jeden, der eine Stromrechnung bezahlt, am wichtigsten ist.

Die Schlagzeilen aus dem Chip-Analyse-Newsletter SemiAnalysis und aus eigenen Zahlen von OpenAI: Jalapeño verbraucht 700 Watt, gegenüber 900 bis 1.150 Watt für Nvidias Rubin-Rechenchip. Beim InferenceX-Benchmark von SemiAnalysis lieferte es einen 1,5- bis 1,9-mal höheren Durchsatz pro Kilowatt und eine 1,7- bis 3,6-mal geringere End-to-End-Latenz als die GB200- und GB300-Racksysteme von Nvidia, getestet mit offenen Modellen, einschließlich DeepSeek R1, GPT-OSS und Kimi K2.5. Die Designarbeiten begannen Mitte 2024, das Design ging im November 2025 ins Werk und basiert auf dem N3P-Prozess von TSMC mit HBM4-Speicher bei 15,4 TB/s. In derselben Berichterstattung gibt es zwei Vorbehalte. SemiAnalysis argumentiert, dass der faire Vergleich eher Nvidias neuere Vera Rubin-Plattform als Blackwell ist, da beide HBM4-Speicher verwenden, und auf dieser Grundlage liegt Jalapeño immer noch vorne bei den Output-Tokens pro Megawatt, schneidet aber bei den Gesamtkosten pro Token ungefähr gleich ab.

Was hier eigentlich vor sich geht: Die Schlussfolgerung ist, wohin das Geld fließt. Das Training eines Modells ist ein einmaliger Aufwand, aber jede Frage, die ein Benutzer stellt, kostet für immer Strom, und im Maßstab von OpenAI ist ein Fünftel der Stromrechnung eine sehr große Zahl. Ein benutzerdefinierter Chip kann aufgrund seines Designs schmaler sein als eine Allzweck-GPU: Er muss nur die OpenAI-eigenen Modelle gut ausführen, sodass alles, was diesem Ziel nicht dient, weggelassen wird. Das ist der ganze Grund, warum Google TPUs und Amazon Inferentia entwickelt hat. Der strategische Teil ist nicht der Maßstab, sondern der Hebel. Ein Unternehmen mit einem glaubwürdigen hauseigenen Chip verhandelt mit Nvidia aus einer anderen Position, und Anthropic, der die gleiche Seite liest, ist vermutlich der Grund, warum es gerade den Gründer von Googles TPU-Programm eingestellt hat.

Was das für Sie bedeutet: Ihnen wird diesen Monat nichts auffallen, und Sie können auch keins kaufen. Aber billigere Schlussfolgerungen sind der Mechanismus hinter fast jeder Verbesserung, die Sie tatsächlich spüren: niedrigere API-Preise, höhere Free-Tier-Limits, schnellere Antworten und Modelle, die länger nachdenken können, bevor sie antworten. Wenn Sie auf KI-APIs aufbauen, müssen Sie darauf achten, ob OpenAI die Effizienz weitergibt oder als Marge behält. Auch eine Begründung wert: Hierbei handelt es sich um Anbieter- und Analysten-Benchmarks für ausgewählte Modelle, nicht um unabhängige Tests im großen Maßstab, und die Antwort von Nvidia wird im selben Fenster geliefert.

Quellen

• OpenAI und Broadcom stellen LLM-optimierten Inferenzchip (OpenAI) vor
• OpenAI Jalapeño: Besser als Nvidia Blackwell (SemiAnalysis)
• Der Jalapeño-Chip von OpenAI ist für schnelle Inferenz im großen Maßstab konzipiert, wie Benchmarks zeigen (TechCrunch)
• Der erste benutzerdefinierte Chip von OpenAI schlägt angeblich Nvidias Blackwell und Rubin (The Decoder)