Potenza di calcolo

«Compute» è il termine sintetico usato nel mondo dell’IA per indicare la potenza di calcolo grezza: chip, server, data center ed elettricità necessari per addestrare ed eseguire i modelli. È diventata una delle risorse più importanti e contese della tecnologia.

È difficile esagerarne la scala. Addestrare un modello di frontiera richiede enormi quantità di chip specializzati come GPU e TPU, ospitati in data center che possono consumare tanta elettricità quanto una piccola città. I laboratori riservano ormai questa capacità con anni di anticipo; Anthropic, per esempio, si è assicurata diversi gigawatt di potenza di calcolo attraverso accordi con Google e Broadcom.

Tutta questa energia ha un costo. I rapporti della stessa Google mostrano un forte aumento del consumo elettrico dovuto all’IA: un argomento discreto a favore di un’IA «della giusta dimensione», senza ricorrere a un modello enorme quando ne basterebbe uno più piccolo e locale.