Iniziare con l’IA, parte 4: quando sbaglia e il controllo in 30 secondi

Chiedi a un assistente di consigliarti un libro e potrebbe inventare un titolo mai esistito, completo di autore plausibile e piacevole riassunto. È il famoso problema delle allucinazioni. Comprenderlo bene separa un uso nervoso dell’IA da un uso consapevole.

La parte rassicurante è che le allucinazioni sono prevedibili. Si concentrano in aree specifiche e una piccola abitudine ne intercetta quasi tutte.

Perché una macchina inventa

Un modello linguistico risponde prevedendo, parola dopo parola, quale aspetto dovrebbe avere una buona risposta. Il meccanismo è tutto qui. Quando conosce bene un argomento, previsione e verità coincidono perfettamente. Quando non lo conosce, continua comunque a produrre un testo scorrevole e sicuro, riempiendo i vuoti con ciò che appare statisticamente plausibile.

I ricercatori aggiungono un secondo motivo. Il modo in cui i modelli sono stati addestrati e valutati ha premiato a lungo una congettura sicura più di un onesto «non ne sono certo». Nei test, un modello che ammette di non sapere ottiene risultati peggiori di uno che bluffa; l’addestramento ha quindi incoraggiato il bluff senza dichiararlo. Le generazioni più recenti esprimono meglio l’incertezza, ma la tendenza non è scomparsa.

Un’allucinazione non è un guasto. È la scioltezza che corre più veloce delle conoscenze, pronunciata con la stessa sicurezza di una risposta corretta.

È proprio quella voce a mettere in difficoltà chi comincia: una risposta sbagliata non ha un aspetto diverso da una giusta. Nessuna esitazione o segnale d’allarme, lo stesso tono cordiale.

Dove vivono le allucinazioni

Non si distribuiscono in modo uniforme. Aspettatele ai margini delle conoscenze: numeri precisi, date, prezzi e statistiche; nomi di persone, studi, cause giudiziarie e libri; fatti recenti, se l’assistente non ha cercato davvero sul Web; argomenti di nicchia su cui esistono pochi testi; link e citazioni apparentemente perfetti che non portano da nessuna parte.

Ne troverai invece pochissime nelle attività già viste: riscrivere un’email, spiegare un concetto, pianificare la settimana. Per questo sono adatte all’inizio. Il rischio si concentra in «trova un fatto per me», non in «aiutami a ragionare».

Il controllo in 30 secondi

Per ogni fatto importante, segui una breve procedura. Prima chiediti se un errore avrebbe un costo. Con un menu puoi rilassarti; per medicina, diritto, finanza o qualcosa da pubblicare, continua. Poi verifica con una rapida ricerca il dato portante, il numero o il nome su cui si regge la risposta. Infine domanda all’assistente: «Quanto sei sicuro? Che cosa dovrei controllare?» Nel 2026 i modelli diventano molto più sinceri quando vengono interrogati direttamente.

Trenta secondi. Non per ogni frase, soltanto per i fatti che contano. Nel giro di una settimana diventa automatico.

Come intervengono gli strumenti

Gli assistenti continuano a migliorare. Quasi tutti possono ormai cercare sul Web prima di rispondere a domande legate all’attualità, e i migliori mostrano le fonti. Le nuove norme europee sull’IA spingono i fornitori a dichiarare i limiti con maggiore chiarezza. La ricerca sull’interpretabilità, come il lavoro di Anthropic per leggere la «memoria di lavoro» interna dei modelli, rende lentamente possibile distinguere ciò che un sistema sa da ciò che si limita a dire.

Fino ad allora, l’accordo è semplice: l’IA offre velocità e ampiezza, tu metti il giudizio. Da qui nasce l’ultima parte della serie e la leva più grande a tua disposizione: ciò che fornisci prima della risposta.