Anthropic ha assunto l'uomo che ha costruito i chip IA di Google, e il motivo non è sottile

Anthropic ha assunto Amir Salek, l’ingegnere che ha fondato il programma Tensor Processing Unit di Google e ha consegnato le prime sette generazioni di chip prima di partire nel 2022. Bloomberg ha riportato il trasferimento il 21 agosto. Salek si unisce al team informatico di Anthropic, riportando a James Bradbury, e proviene da Cerberus Capital Management, dove era amministratore delegato senior.

Non assumi il fondatore di un programma di chip per negoziare prezzi migliori dai fornitori. Anthropic attualmente funziona su silicio di tre diversi fornitori: GPU Nvidia, TPU di Google e Trainium di Amazon. Ha già stanziato circa 250 milioni di dollari per Fractile, una spin-out di Oxford che costruisce chip di inferenza che non saranno pronti per la produzione fino al 2027, e ha pubblicato annunci di lavori hardware. L’assunzione di Salek è il segnale più chiaro che la società vuole chip propri piuttosto che un accordo migliore su quello di qualcun altro.

Il lato monetario si è mosso la stessa settimana. Secondo quanto riferito, Broadcom è in trattative per raccogliere più di 60 miliardi di dollari attraverso un veicolo speciale che affitterebbe chip AI personalizzati ad Anthropic e altri, con il pacchetto totale che potrebbe raggiungere i 100 miliardi di dollari una volta inclusa una tranche junior. Si dice che Apollo e Blackstone siano coinvolti. Ciò estende un patto di giugno che già impegnava 35 miliardi di dollari a favore del calcolo antropico, puntando a 20 gigawatt di capacità entro il 2028.

Due forze stanno spingendo ogni grande laboratorio in questa direzione. Il primo è il costo: l’inferenza, il lavoro svolto da un modello ogni volta che gli invii un prompt, è ora la spesa dominante e le GPU generiche fanno molte cose di cui non hai bisogno se esegui solo i tuoi modelli. Il silicio personalizzato baratta la flessibilità con l’efficienza. Il secondo è l’offerta. Nvidia assegna i suoi migliori chip a molti clienti ed essere uno di loro significa che la tua tabella di marcia dipende da quella di qualcun altro. OpenAI è giunta alla stessa conclusione e dispone di un chip progettato da Broadcom chiamato Jalapeno. Google l’ha raggiunto dieci anni fa, ecco perché il curriculum di Salek vale così tanto. Un giusto avvertimento: i chip personalizzati richiedono anni e somme enormi, e l’industria ha una lunga lista di progetti di accelerazione che non sono mai stati realizzati. Niente qui arriva prima del 2027.

Cosa significa per te: nel breve termine non noterai nulla. A lungo termine, questo è uno dei segnali più chiari di dove stanno andando i prezzi dei modelli. I laboratori costruiscono il proprio hardware solo quando il volume di inferenza è abbastanza grande e abbastanza stabile da giustificare il costo iniziale, il che significa che si aspettano che l’utilizzo continui a salire anziché a stabilizzarsi. Se funziona, è la leva principale per rendere i modelli capaci più economici per richiesta, il che alla fine ti arriva sotto forma di prezzi API più bassi o livelli gratuiti più generosi. Se si segue il settore come investitore o costruttore, la storia più immediata è che le infrastrutture di intelligenza artificiale vengono ora finanziate con il tipo di strutture di debito normalmente riservate alle centrali elettriche e alle reti di telecomunicazioni.

Fonti

• Anthropic sceglie Google Chip Veteran come parte di Push Into Hardware, Bloomberg
• Anthropic punta sui propri chip IA: perché ha assunto un veterano dei chip di Google, Outlook Business
• Broadcom va a caccia di 60 miliardi di dollari di debito per sviluppare la capacità di chip di Anthropic, The Next Web