XPU
Ein Sammelname für einen benutzerdefinierten KI-Beschleunigerchip, der von einem Cloud-Anbieter oder einem Modelllabor erstellt und nicht von der Stange gekauft wird.
XPU ist bewusst vage. Das X steht für den Buchstaben, den der Chip sonst erhalten würde: GPU, TPU, NPU. In der Praxis handelt es sich dabei um einen Prozessor, den ein Unternehmen selbst für seine eigenen KI-Workloads entwickelt hat, und nicht um einen von Nvidia oder AMD gekauften Allzweckchip.
Der Grund dafür, dass es mittlerweile so viele davon gibt, sind die Kosten und die Hebelwirkung. Wenn Sie enorme Inferenzmengen ausführen, kann ein Chip, der genau auf Ihre Arbeitslast abgestimmt ist, pro Antwort günstiger sein, und die Entwicklung eines eigenen Chips ist die einzige wirkliche Verhandlungsposition gegenüber einem einzelnen marktbeherrschenden Anbieter. Die TPUs von Google sind das älteste Beispiel, und Amazon, Microsoft, OpenAI und Anthropic sind alle gefolgt. Der schwierige Teil ist selten der Chip selbst; Es ist alles drumherum, der Speicher, die Verpackung und die Vernetzung, die nötig sind, um Silizium in ein funktionierendes Rack zu verwandeln.