Uno spin-off di Oxford ha venduto ad Anthropic chip per 250 milioni di dollari che ancora non esistono

Secondo quanto riferito, Fractile, una società di chip fondata quattro anni fa dall’Università di Oxford, sarebbe in trattative per raccogliere circa 600 milioni di dollari con una valutazione pre-money di 6,5 miliardi di dollari. A maggio la società ha raccolto 220 milioni, pari a circa 1 miliardo, in un round guidato da Accel, Founders Fund e Factorial. Si tratta di un salto di oltre sei volte in tre mesi. Il motivo è un accordo iniziale per fornire ad Anthropic circa 250 milioni di dollari di chip di inferenza, con entrambe le parti che segnalano di voler espandere l’azienda. Bloomberg ha riportato per primo il rilancio; trattare le cifre come riportate piuttosto che come confermate.

Vale la pena comprendere il discorso tecnico perché spiega i tempi. I chip progettati per l’intelligenza artificiale normalmente mantengono i pesi del modello, ovvero i numeri che compongono il modello addestrato, in chip di memoria separati e li recuperano attraverso una connessione ogni volta che sono necessari. Questo recupero è lento ed è lì che va gran parte dell’energia. Fractile, fondata nel 2022 dal PhD di Oxford Walter Goodwin, mette calcolo e memoria sullo stesso pezzo di silicio utilizzando SRAM, un tipo di memoria più veloce che si trova direttamente sul die. L’azienda afferma che questo può eseguire modelli linguistici di grandi dimensioni fino a 100 volte più velocemente dell’hardware esistente con costi operativi inferiori del 90%. Questi sono i numeri dell’azienda e non esiste alcun benchmark indipendente, quindi mantienili in modo approssimativo.

Ecco perché un ordine da 250 milioni di dollari di chip che non verranno spediti prima del 2027 vale 5 miliardi di dollari di valutazione. Due cose stanno mettendo a dura prova il settore contemporaneamente. L’inferenza, ovvero il costo di esecuzione effettiva di un modello per ogni richiesta dell’utente, ha superato la formazione come spesa dominante per chiunque abbia clienti reali. E la memoria è diventata terribilmente costosa: i prezzi delle DDR5 sono aumentati di diverse centinaia di per cento in un anno perché gli acceleratori di intelligenza artificiale consumano i wafer che altrimenti costituirebbero la normale DRAM. Un’architettura di chip che necessita di molta meno memoria esterna affronta quindi entrambi i problemi contemporaneamente. Ciò spiega anche perché Anthropic, che è stato segnalato per aver impegnato decine di miliardi nel calcolo e che si sta dirigendo verso una quotazione pubblica in cui verranno esaminati i margini, è disposta a piazzare una scommessa così presto.

Le avvertenze sono ampie. Niente qui è stato dimostrato su larga scala al di fuori dell’azienda, e la costruzione di un’architettura di chip veramente nuova è il luogo in cui muoiono la maggior parte delle startup del silicio. L’ordine di Anthropic è un accordo iniziale, non un contratto bloccato, e un aumento di valutazione di sei volte in tre mesi a carico di un cliente si legge in modo diverso a seconda di come andranno i prossimi due anni.

Che cosa significa per te: niente che puoi comprare e nessun prezzo da pagare cambia quest’anno. Ciò che vale la pena notare è la direzione. Quasi tutte le storie sui costi dell’intelligenza artificiale in questo momento, dai prezzi della memoria allo sconto sui modelli fino all’acquisto da parte di Anthropic di una società di software di efficienza, ritornano alla stessa cosa: eseguire modelli è costoso e tutti sono alla ricerca di un modo per far sì che ogni chip soddisfi più richieste. Se la caccia avrà successo, il risultato finale sarà un accesso più economico per il resto di noi. C’è anche un punto europeo più piccolo: un’azienda britannica ha costruito hardware serio, e l’hardware è il livello in cui finora l’Europa è stata quasi del tutto assente.

Fonti

• Bloomberg: Fractile, startup di chip AI in trattative per un valore di 6,5 miliardi di dollari dopo l’accordo con Anthropic
• The Next Web: una startup britannica di chip AI sta raccogliendo 6,5 miliardi dopo un accordo con Anthropic
• Tom’s Hardware: Anthropic nelle prime trattative per acquistare chip di inferenza AI senza DRAM da una startup britannica