Nvidias nächste KI-Chips holen Berichten zufolge zehnmal mehr Arbeit aus derselben Energie
CoreWeave sagt, Nvidias neue Vera-Rubin-Systeme hätten in einem frühen Benchmark etwa zehnmal mehr Tokens pro Megawatt erzeugt als die vorige Blackwell-Generation. Was „Tokens pro Megawatt“ bedeutet und warum diese Zahl entscheidet, ob KI weiter wachsen kann.
Der Cloud-Anbieter CoreWeave hat frühe Benchmark-Zahlen für Nvidias KI-System der nächsten Generation, Vera Rubin NVL72, veröffentlicht. Die Schlagzeile ist auffällig: etwa zehnmal mehr „Tokens pro Megawatt“ als die vorherige Blackwell-Generation. Im Test mit einem DeepSeek-Modell zum logischen Denken erzeugte ein Blackwell-Rack Berichten zufolge rund 80.000 Tokens pro Sekunde bei 150 Megawatt, während das Vera-Rubin-Rack bei derselben Leistungsaufnahme ungefähr 800.000 Tokens pro Sekunde erreichte.
Schlüsseln wir das auf, denn zwei Fachbegriffe tragen die Aussage. Ein „Token“ ist ein Textstück, das ein KI-Modell liest oder schreibt, grob ein Wort oder Wortteil; wenn dir ein Chatbot antwortet, erzeugt er Tokens. Ein „Megawatt“ ist schlicht eine Einheit elektrischer Leistung, wie sie zur Dimensionierung von Rechenzentren und Kraftwerken verwendet wird. „Tokens pro Megawatt“ fragt also vornehm formuliert: Wie viel KI-Arbeit erhältst du pro Einheit Strom? Zehnmal mehr bedeutet entweder viel mehr Ausgabe mit derselben Energie oder dieselbe Ausgabe mit einem Bruchteil davon.
Seit zwei Jahren ist die KI-Geschichte im Stillen auch eine Energiegeschichte. Große Modelle zu trainieren und auszuführen frisst enorme Strommengen, und Energie, nicht Chips, ist zunehmend das, wovon Betreiber nicht genug bekommen. Deshalb stellt Nvidia „Leistung pro Watt“ immer wieder in den Mittelpunkt: Diese Zahl entscheidet, ob ein Unternehmen mehr Nutzer profitabel bedienen kann und ob das Wachstum der KI an die Wand des Stromnetzes stößt. Ein Sprung dieser Größe verschafft der Branche, falls er sich bestätigt, etwas Luft zum Atmen. Vera-Rubin-Racks sollen bei CoreWeave, Google Cloud, Microsoft Azure und Oracle hochgefahren werden.
Was das für dich bedeutet: Für die meisten Menschen ändert sich heute nichts, und das ist in Ordnung. Du wirst keines dieser Racks kaufen. Die Folgewirkungen erreichen dich trotzdem. Günstigere, effizientere Inferenz, so nennt die Branche das Ausführen eines trainierten Modells zur Beantwortung von Anfragen, macht es für Unternehmen möglich, leistungsfähige KI-Funktionen zu verschenken, größere Modelle hinter deinen Lieblings-Apps zu betreiben oder Preise zu senken. Sie entschärft auch eine der unangenehmeren Kritiken am KI-Boom, seinen Stromhunger, beseitigt sie aber nicht, weil mehr Effizienz oft einfach zu mehr Nutzung einlädt.
Die Erwartungen sollten realistisch bleiben: Dies ist ein einzelner Benchmark eines Anbieters und Partners, und CoreWeave ist sowohl Nvidias Cloud-Partner als auch ein Unternehmen, an dem Nvidia beteiligt ist. Das veröffentlichte Ergebnis enthält nicht genug Details zum Aufbau, damit ein externes Labor es unabhängig reproduzieren könnte. Beeindruckend und plausibel, aber ein Marketing-Debüt statt einer begutachteten Messung.
Quellen
Samsung verhandelt über eine Beteiligung an Mistral und treibt Europas KI-Hoffnung auf eine Bewertung von 20 Milliarden Euro
Samsung erwägt Berichten zufolge eine Investition von rund 1 Milliarde Euro in das französische KI-Labor Mistral, als Teil einer Runde, die das Unternehmen mit fast 20 Milliarden Euro bewerten würde. Warum ein großer koreanischer Elektronikkonzern ein Stück von Europas Antwort auf OpenAI will.
