H200
Eine High-End-Rechenzentrums-GPU von Nvidia, die zum Trainieren und Ausführen von KI-Modellen verwendet wird, der speicheraufgerüstete Nachfolger des H100.
Der H200 ist einer der Rechenzentrums-Grafikprozessoren von Nvidia, der eher in einem Server-Rack als auf einem Desktop zu finden ist. Es ist der Nachfolger des weit verbreiteten H100, wobei das Haupt-Upgrade deutlich mehr und schnellerer Speicher ist, was wichtig ist, da ein großes Modell in den Speicher passen muss, um überhaupt laufen zu können.
Sie sehen es als Maßeinheit angegeben. Wenn ein Labor sagt, dass ein Modell drei Stunden Audio in einer Sekunde „auf einem einzigen H200“ transkribiert, ist das eine Abkürzung für ein bestimmtes und teures Stück Hardware, und es lohnt sich, daran zu denken, bevor man von der gleichen Geschwindigkeit auf dem eigenen Rechner ausgeht.