Trainium
La propre puce IA d'Amazon, conçue pour exécuter des formations et des inférences sur AWS sans payer la marge de Nvidia.
Trainium est l’accélérateur personnalisé d’Amazon pour les charges de travail d’IA, conçu en interne et disponible uniquement via AWS. La logique est la même que celle de Google avec ses TPU : si vous achetez d’énormes quantités d’un composant auprès d’un fournisseur au prix de ce fournisseur, à un moment donné, il devient moins cher de concevoir le vôtre, même en tenant compte des années et des ingénieurs que cela prend.
Pour les clients, le compromis est entre le coût et la commodité. Trainium peut être considérablement moins cher par unité de travail, mais l’écosystème logiciel autour de Nvidia est plus profond et la plupart des codes le supposent. Anthropic est le grand utilisateur le plus connu, exécutant Claude sur un mélange de silicium Nvidia, Google et Amazon.