Allucinazione

Un’allucinazione si verifica quando un modello IA produce informazioni false o completamente inventate, ma le presenta con la stessa sicurezza di una risposta corretta. Poiché un grande modello linguistico genera testo plausibile invece di consultare fatti, può inventare citazioni, statistiche o persino indirizzi web mai esistiti.

Non è un’anomalia rara, bensì una caratteristica intrinseca del funzionamento di questi modelli, con conseguenze nel mondo reale. In un caso, alcuni aggressori hanno notato che gli strumenti IA tendono a inventare ripetutamente gli stessi falsi indirizzi web; li hanno quindi registrati e vi hanno allestito siti dannosi, aspettando l’arrivo degli utenti.

La difesa pratica è semplice: verificare tutto ciò che conta, fatti, cifre, collegamenti e citazioni, prima di farvi affidamento. L’output di un’IA va trattato come una bozza sicura di sé, non come una fonte definitiva di verità.