Trainio

Trainium è l’acceleratore personalizzato di Amazon per carichi di lavoro AI, progettato internamente e disponibile solo tramite AWS. La logica è la stessa di Google con i suoi TPU: se acquisti enormi quantità di un componente da un fornitore al prezzo di quel fornitore, a un certo punto diventa più economico progettarne uno tuo, anche tenendo conto degli anni e degli ingegneri necessari.

Per i clienti il ​​compromesso è costo contro convenienza. Trainium può essere significativamente più economico per unità di lavoro, ma l’ecosistema software attorno a Nvidia è più profondo e la maggior parte del codice lo presuppone. Anthropic è il grande utente più noto, che gestisce Claude attraverso un mix di silicio Nvidia, Google e Amazon.