XPU
Un nom fourre-tout pour une puce d’accélérateur d’IA personnalisée construite par un fournisseur de cloud ou un laboratoire de modélisation au lieu d’être achetée dans le commerce.
XPU est délibérément vague. Le X représente la lettre que la puce obtiendrait autrement : GPU, TPU, NPU. En pratique, il s’agit d’un processeur qu’une entreprise a conçu elle-même pour ses propres charges de travail d’IA, plutôt que d’une puce à usage général achetée auprès de Nvidia ou d’AMD.
La raison pour laquelle il y en a tant aujourd’hui est le coût et l’effet de levier. Si vous effectuez d’énormes quantités d’inférences, une puce adaptée exactement à votre charge de travail peut être moins chère par réponse, et concevoir la vôtre est la seule véritable position de négociation contre un seul fournisseur dominant. Les TPU de Google en sont l’exemple le plus ancien, et Amazon, Microsoft, OpenAI et Anthropic ont tous suivi. La partie la plus difficile est rarement la puce elle-même ; c’est tout ce qui l’entoure, la mémoire, l’emballage et la mise en réseau nécessaires pour transformer le silicium en un rack fonctionnel.