Abbiamo eseguito un’IA locale su un processore economico di sei anni fa. Ecco cosa riesce davvero a fare.

Il verdetto in breve

• Che cos’è: un modello di IA eseguito sul proprio computer, senza account, abbonamento o connessione a Internet
• Che cosa abbiamo provato: Qwen2.5 1.5B Instruct, un piccolo modello a pesi aperti, nella versione compressa Q4_K_M da circa 1,1 gigabyte
• Chi lo produce: il modello è di Alibaba, il motore proviene dal progetto open source llama.cpp
• Su quale hardware: AMD Ryzen 3 3250U, processore economico per portatili del 2020, due core disponibili, circa 3,8 gigabyte di memoria e nessuna scheda grafica dedicata
• Data del test: 25 luglio 2026, build b10107 di llama.cpp
• Costo: 0 euro, nessun account
• Disponibile nell’UE: sì, senza registrazione né condizioni da controllare
• Velocità: da 4,8 a 6,9 token di output al secondo, circa quattro parole
• Ideale per: riorganizzare in privato e offline testi già esistenti
• Non adatto a: qualsiasi attività in cui i fatti debbano essere esatti
• In una frase: su un hardware così modesto, l’IA locale è uno strumento per dare forma ai testi, non una fonte di conoscenza; entro questo limite è davvero utile

---

Quasi tutte le guide sull’IA locale partono da una scheda grafica che costa più di un’auto usata. Per i modelli grandi è comprensibile. Al tempo stesso, però, fanno intendere a milioni di persone con un normale portatile che questa tecnologia non sia alla loro portata.

Abbiamo scelto la direzione opposta. Non ci siamo chiesti quale fosse la configurazione locale migliore, bensì: qual è il minimo indispensabile? Che cosa succede su una macchina che nessuno definirebbe una workstation?

La risposta è stata più interessante del previsto.

Che cosa significa davvero «eseguirlo in locale»

Quando usi ChatGPT o Claude, il testo viene inviato a un centro dati. Lì un modello prepara la risposta, che poi torna sul tuo dispositivo. Con l’esecuzione in locale, invece, il file del modello risiede sul disco e i calcoli avvengono sul computer. Nulla lascia la macchina. Funziona anche in treno senza segnale.

Il compromesso riguarda le dimensioni. Un modello scaricato deve entrare nella memoria disponibile, quindi quelli utilizzabili in casa sono molto più piccoli rispetto ai modelli dei centri dati. Essere più piccoli significa conoscere meno e ragionare peggio. La vera domanda è se ciò che resta abbia ancora valore.

Tre fattori rendono possibile tutto questo su hardware modesto. La quantizzazione comprime il modello, più o meno come quando si salva una foto in un JPEG più piccolo: si perde qualche dettaglio, ma il file si riduce molto. Nel frattempo i modelli piccoli sono migliorati enormemente. Oggi un modello con 1,5 miliardi di parametri, i valori regolabili appresi durante l’addestramento, svolge attività che due anni fa richiedevano dimensioni dieci volte superiori. Infine llama.cpp, il motore open source del test, nasce per i normali processori anziché per costose schede grafiche. È lo stesso motore su cui si appoggiano le interfacce più accessibili di Ollama, LM Studio e Jan.

Come abbiamo svolto il test

Abbiamo avviato llama-cli dalla build b10107 in un container Linux. Il file qwen2.5-1.5b-instruct-q4_k_m.gguf, scaricato da Hugging Face e grande circa 1,1 gigabyte, utilizzava due thread del processore, una finestra di contesto da 512 token, la quantità di testo che il modello riesce a tenere presente, e una temperatura tra 0,2 e 0,3, per ottenere risposte più prevedibili e meno fantasiose.

Poi abbiamo sottoposto il sistema a quattro attività della nostra batteria abituale e annotato tutto ciò che ha restituito, compresi i risultati falliti.

Con chiarezza, ecco che cosa non abbiamo provato. Abbiamo controllato il motore dalla riga di comando, non tramite Ollama, LM Studio o Jan. Queste applicazioni aggiungono un’interfaccia più comoda allo stesso motore, quindi le prestazioni dovrebbero essere simili, ma non le abbiamo misurate. Abbiamo escluso tre prove standard: i documenti lunghi e le attività in più passaggi richiedono più contesto di quanto questa macchina possa contenere; inoltre, oltre al tedesco non abbiamo verificato una seconda lingua europea. Ogni prompt è stato eseguito una sola volta, perciò i singoli risultati vanno considerati indicativi, non medie. Un’ultima precisazione sul modello: Qwen2.5 è uscito nel settembre 2024. Lo abbiamo scelto perché è il piccolo modello più diffuso e meglio documentato, non perché sia il più recente. I modelli più nuovi hanno conoscenze aggiornate a una data successiva. Le velocità indicate sotto dovrebbero restare confrontabili, mentre la critica alle conoscenze datate potrebbe non valere.

Le misurazioni

Partiamo dalla velocità, perché decide se l’esperienza sia utilizzabile.

• Lettura dell’input: da 11,3 a 12,5 token al secondo
• Scrittura della risposta: da 4,8 a 6,9 token al secondo
• Caricamento del modello dal disco: circa 20 secondi la prima volta, meno in seguito se il file è ancora in memoria

Un token corrisponde all’incirca a tre quarti di parola. L’output arriva quindi a circa 3,5-5 parole al secondo, vicino a una lettura lenta. Le parole compaiono una dopo l’altra e per una risposta breve si attendono dai dieci ai venti secondi.

La memoria non ha creato difficoltà. Il modello ne occupava circa un gigabyte sui quasi quattro disponibili e non è stato necessario spostare dati sul disco.

Dove ha funzionato bene

Ha strutturato alla perfezione un testo disordinato. Gli abbiamo dato di proposito questa lista della spesa confusa: milk 1.29 two bottles; bread three euro fifty one loaf; 6 eggs 2,80 EUR, chiedendo una tabella con prodotto, prezzo e quantità. Il risultato:

| Item  | Price (EUR) | Quantity |
|-------|-------------|----------|
| Milk  | 1.29        | 2        |
| Bread | 3.50        | 1        |
| Eggs  | 2.80        | 6        |

Ha trasformato «three euro fifty» in 3,50, interpretato correttamente la virgola decimale di «2,80» e capito che «6 eggs» indicava una quantità, non un prezzo. Il tutto in pochi secondi, su un processore economico di sei anni fa.

È questa la categoria in cui lo strumento rende bene: riformattare, estrarre, ripulire e convertire. Entra un testo, ne esce uno meglio organizzato, senza che al modello serva conoscere il mondo.

Sapeva di non sapere. Alla domanda su chi fosse l’attuale cancelliere tedesco e sulla data di entrata in vigore delle regole di trasparenza dell’AI Act europeo, ha risposto che, in base al suo ultimo aggiornamento del 2023, il cancelliere era Olaf Scholz, ma che non disponeva di informazioni precise sulla seconda data. La prima parte è superata; la seconda è quella positiva. Un piccolo modello che dichiara spontaneamente i limiti delle proprie conoscenze invece di inventare una data si comporta meglio di sistemi molto più grandi già visti all’opera.

Le bozze semplici erano adeguate. Un’e-mail cortese in inglese per rifiutare una riunione è risultata ben organizzata e formattata, con segnaposto sensati tra parentesi quadre per il nome e il motivo.

Dove ha ceduto

Il tedesco era sensibilmente peggiore dell’inglese. Alla richiesta di un rifiuto cortese in tedesco, il modello ha prodotto un testo comprensibile ma rigido. Comparivano «Absagezeilen», parola che nessuno usa, e una frase sull’impegnarsi in un progetto importante dal chiaro sapore di traduzione. Per chi ci legge conta più di qualsiasi benchmark: lavorando in tedesco, francese o italiano, un piccolo modello locale appare più impacciato rispetto allo stesso compito in inglese. Nel test tedesco la generazione è inoltre scesa a 4,8 token al secondo, il valore più basso dei quattro.

Le bozze sono generiche. L’e-mail era corretta e dimenticabile. Il modello non conosce il tuo tono, la situazione o il vero motivo del rifiuto. Un assistente cloud a pagamento dotato di memoria può ridurre questa distanza; qui rimane.

Le conoscenze sono vecchie e non puoi rimediare. Il mondo del modello si ferma al 2023. Non ci sono ricerca sul Web, aggiornamenti o memoria. Per qualunque informazione recente è lo strumento sbagliato, e nessun prompt può cambiarlo.

L’attesa fa parte dell’esperienza. Venti secondi per il caricamento, poi cinque parole al secondo. Per riformattare un testo breve può andare bene. Con un contenuto lungo si avverte ogni secondo.

Quanto costa e come si presenta in Europa

Non costa nulla: è questo il punto principale. Nessun abbonamento, account, carta di credito o lista d’attesa. Il vero prezzo è 1,1 gigabyte di spazio su disco, circa un gigabyte di memoria durante l’esecuzione e un po’ di pazienza.

Alibaba distribuisce Qwen2.5 1.5B Instruct con licenza Apache 2.0, che consente l’uso commerciale. Non vale per tutti i modelli aperti: prima di costruirci sopra un’attività, è bene leggere la licenza. llama.cpp usa la licenza MIT. Nessuno dei due ha restrizioni geografiche, perciò in Europa non ci sono problemi di disponibilità né funzioni che arrivano con sei mesi di ritardo.

Sul fronte della riservatezza, è la soluzione più forte disponibile. Il testo non lascia mai il computer. Non esistono un fornitore a cui inviare una richiesta sui dati, condizioni d’uso da leggere o un’opzione nascosta per impedire l’addestramento, perché non avviene alcun trasferimento. Per chi gestisce dati dei clienti, note mediche o materiale che un responsabile europeo della protezione dei dati vorrebbe documentare, la distanza tra «elaborato nell’UE» e «mai uscito da questo portatile» è notevole.

Per chi è indicato e chi dovrebbe evitarlo

Vale la pena se hai un vecchio computer inutilizzato, gestisci testi che preferisci non caricare online, a volte lavori offline oppure vuoi capire davvero questa tecnologia eseguendone una parte in prima persona. Anche il semplice rifiuto di pagare ogni mese per ciò che una macchina già posseduta può fare è un buon motivo.

Meglio evitare se servono fatti, informazioni recenti o una scrittura curata in una lingua diversa dall’inglese. Lo stesso vale se l’attesa infastidisce. E se l’obiettivo è sostituire un assistente a pagamento, un modello di queste dimensioni non può riuscirci: sostenere il contrario farebbe soltanto perdere una serata.

Le alternative

Ollama è la strada più semplice per la maggior parte delle persone. Un programma di installazione e un comando bastano per avviare un modello. Sotto c’è lo stesso motore, accompagnato da una libreria da cui scaricare i modelli per nome.

LM Studio e Jan sostituiscono il terminale con una finestra di chat, integrano la ricerca dei modelli e non richiedono affatto la riga di comando. Se digitare comandi non ti attira, conviene partire da uno dei due.

Un modello più grande con lo stesso principio. Se il computer dispone di 16 gigabyte di memoria o di una buona scheda grafica, i modelli da 7 a 12 miliardi di parametri offrono tutt’altra esperienza: tedesco e ragionamento migliori, sempre gratis e in privato. Gemma 4 12B mostra bene i progressi raggiunti da questa categoria.

Un modello cloud europeo, quando il locale non basta. A luglio 2026, Mistral elabora i dati nell’UE per impostazione predefinita. Dopo «non ha mai lasciato il mio portatile», è la risposta migliore.

Il verdetto

Ci aspettavamo che una macchina simile fallisse, e invece non è successo. Ha fallito in alcuni ambiti, in particolare nel conoscere i fatti e nello scrivere un buon tedesco, ma ha superato completamente l’attività quotidiana che serve davvero a molte persone: prendere un testo confuso e metterlo in ordine.

Può sembrare un risultato modesto. Ma costa zero, per sempre, funziona offline e sfrutta un computer che forse stavi per buttare.

La valutazione onesta è questa: un piccolo modello locale non è una versione ridotta di ChatGPT. È uno strumento diverso con un’interfaccia simile. Considerato un elaboratore di testi dotato di comprensione linguistica, è notevole. Considerato un assistente, delude in cinque minuti.

Test eseguito il 25 luglio 2026 con la build b10107 di llama.cpp e Qwen2.5 1.5B Instruct Q4_K_M. L’IA locale evolve rapidamente e i piccoli modelli migliorano ogni pochi mesi. Controlla la data di questo articolo prima di fare affidamento sui numeri.

Fonti

• Versioni di llama.cpp (nel test è stata usata la build b10107)
• Scheda del modello Qwen2.5 1.5B Instruct GGUF su Hugging Face
• Ollama
• LM Studio
• Jan