Trainium
Amazons eigener KI-Chip, der entwickelt wurde, um Training und Inferenz auf AWS durchzuführen, ohne die Marge von Nvidia zu bezahlen.
Trainium ist Amazons maßgeschneiderter Beschleuniger für KI-Workloads, der intern entwickelt wurde und nur über AWS verfügbar ist. Die Logik ist die gleiche wie bei Google bei seinen TPUs: Wenn Sie riesige Mengen einer Komponente von einem Lieferanten zum Preis dieses Lieferanten kaufen, wird es irgendwann billiger, eine eigene Komponente zu entwickeln, selbst unter Berücksichtigung der Jahre und der dafür benötigten Ingenieure.
Für Kunden besteht der Kompromiss zwischen Kosten und Komfort. Trainium kann pro Arbeitseinheit deutlich günstiger sein, aber das Software-Ökosystem rund um Nvidia ist tiefer und der meiste Code geht davon aus. Anthropic ist der bekannteste große Benutzer, der Claude über eine Mischung aus Nvidia-, Google- und Amazon-Chips betreibt.