Uno scienziato del clima ha registrato otto settimane di utilizzo dell’agente AI. Ha attirato 600 volte più potenza per prompt rispetto a un messaggio di chat
Zeke Hausfather ha tracciato 3,2 miliardi di token tramite Claude Code e ha stimato l'elettricità dietro di essi. I dati pubblicati dai laboratori di intelligenza artificiale risultano descrivere un tipo di utilizzo che quasi nessuno fa più.
Per un anno l’industria dell’intelligenza artificiale ha risposto alle domande sul suo utilizzo di energia con un numero piccolo e rassicurante. Google afferma che il messaggio di testo medio di Gemini utilizza 0,24 wattora, meno di nove secondi di televisione. Sam Altman ha fissato la query ChatGPT media a 0,34 wattora. Lo scienziato del clima Zeke Hausfather ha ora misurato cosa succede quando si utilizza l’intelligenza artificiale nel modo in cui lo fa effettivamente un numero crescente di persone, e il numero è circa 600 volte più grande.
Hausfather ha trascorso otto settimane a registrare il suo utilizzo di Claude Code, un agente di codifica che svolge le attività da solo anziché rispondere a una domanda alla volta. Lo strumento conserva i log locali con il conteggio esatto dei token riportati dall’API per ogni chiamata, quindi il conteggio è solido. Ha digitato 1.138 suggerimenti. Questi hanno attivato più di 14.000 model call, circa dodici per richiesta, e hanno elaborato 3,2 miliardi di token. Un token è più o meno un frammento di parola e un normale scambio di chat ne esegue circa un migliaio. Il suo prompt medio è stato di 2,9 milioni.
Vale la pena comprendere il motivo di tale divario. Il 96% di questi token erano letture della cache: ad ognuno dei 14.000 passaggi, l’agente rilegge l’intero contesto accumulato per ricordare cosa sta facendo. L’output che ha effettivamente visto sullo schermo era lo 0,4% di tutto ciò che è stato elaborato. Un agente dedica quasi tutto il suo impegno a rileggere i propri appunti.
Convertire i token in elettricità è la parte morbida, e Hausfather lo dice chiaramente. Nessuno al di fuori dei laboratori conosce il vero costo energetico per token di un frontier model, quindi ha utilizzato tre metodi indipendenti. La sua stima migliore è di circa 170 kilowattora in otto settimane, con un intervallo compreso tra 70 e 330. Ciò corrisponde a circa 150 wattora per richiesta. Una giornata tipica di utilizzo dell’agente ammontava a 3,0 kWh, assorbendo più di due frigoriferi.
Ridimensionata su un anno, tale abitudine produrrebbe circa 370 kg di CO2 sulla rete media degli Stati Uniti. Ed è qui che la cosa diventa meno allarmante di quanto suggerisca il titolo: è poco più che far funzionare un’asciugatrice elettrica per un anno e circa la metà di un volo economico di andata e ritorno da San Francisco a New York. La sintesi di Hausfather è che si tratta contemporaneamente di una grande fonte di emissioni e di una parte modesta della sua impronta totale.
Cosa significa per te: se usi i chatbot nel modo normale, pochi suggerimenti al giorno, l’impronta dell’intelligenza artificiale è davvero minuscola, circa 0,3 kg di CO2 all’anno, e il senso di colpa è fuori luogo. Se hai iniziato a gestire agenti che lavorano incustoditi per un’ora, hai tranquillamente spostato diversi ordini di grandezza verso l’alto della scala, e vale la pena saperlo. La leva pratica non è l’astinenza ma la scelta del modello, poiché i modelli più piccoli utilizzano da cinque a sette volte meno energia per gettone, quindi inviare compiti semplici a uno più piccolo rappresenta un vero risparmio. La conclusione di Hausfather va oltre i singoli individui: quasi tre quarti della produzione di energia pianificata in loco per i data center statunitensi funziona con gas naturale, e lo stesso carico di lavoro con elettricità pulita ridurrebbe l’impronta di circa il 90%. Un giusto avvertimento su tutto: si tratta di stime attente, non di letture dei contatori.
Fonti
Fonti: https://www.theclimatebrink.com/p/the-real-energy-use-of-agentic-ai
L'intelligenza artificiale Backflip trasforma le scansioni 3D in modelli CAD modificabili, un lavoro che di solito richiede ore
La maggior parte delle fabbriche dispone di modelli digitali per meno dell’1% dei propri componenti. Un nuovo modello converte una scansione in una geometria CAD reale e modificabile anziché in una mesh morta e viene eseguito come componente aggiuntivo di Autodesk Fusion.
