Un chatbot è stato più bravo dei truffatori umani in una truffa sentimentale
In uno studio controllato di una settimana, un truffatore IA ha convinto il 46% dei partecipanti a installare un'app. Gli umani hanno raggiunto il 18%. Quasi tutti sapevano di parlare con un bot.
Ricercatori di quattro università hanno condotto una simulazione di una settimana di «pig butchering», la frode lenta in cui qualcuno diventa tuo amico per giorni o settimane prima di indirizzarti verso un falso investimento o un’app dannosa. Alcuni partecipanti sono stati avvicinati da truffatori umani, altri da un chatbot basato in gran parte su Claude. Il bot ha convinto il 46% dei suoi 22 obiettivi a installare un’app. Gli umani il 18%.
Il dettaglio da ricordare: 20 partecipanti su 22 avevano capito correttamente di parlare con un’IA. Non li ha aiutati molto. Il vantaggio non dipendeva da nulla di ingegnoso. Il bot era semplicemente insistente, ricordava con precisione i dettagli personali per molti giorni e mostrava interesse costante senza annoiarsi o distrarsi. I partecipanti inviavano circa l’80% dei messaggi al bot anziché ai truffatori umani.
Questo è il risultato scomodo. La frode non funziona grazie a una manipolazione brillante, ma all’attenzione nel tempo. Un truffatore umano che segue cinquanta conversazioni diventa distratto, dimentica quale bugia ha detto a chi e sparisce per due giorni. Il software no. Ricorda il nome di tua sorella e l’operazione al ginocchio, risponde alle due di notte e non sembra mai stanco di te. La solitudine è la vulnerabilità; la pazienza infinita, l’exploit.
Una giusta cautela: 22 persone sono un campione molto piccolo, era uno studio controllato e non una frode reale, e i partecipanti avevano accettato un esperimento. Il 46% non è un tasso reale. La direzione va però presa sul serio, perché coincide con ciò che gli investigatori riferiscono da un anno.
Che cosa significa per te: il vecchio consiglio di cercare grammatica scadente e riconoscere il falso è quasi inutile. Sapere che è un bot non ti protegge. Ti protegge una regola indipendente dal giudizio del momento: non installare mai un’app, spostare denaro o aprire un conto per una conversazione iniziata con uno sconosciuto, non importa da quante settimane duri o quanto ormai ti conosca. Decidilo in anticipo, con calma. Parlane esplicitamente ai parenti anziani e presentalo come regola, non come avvertimento sulla credulità, perché la vergogna impedisce di chiedere aiuto. Se una persona cara parla da tempo con calore a un nuovo amico online, chiediglielo con gentilezza. Meglio quella conversazione prima che arrivi la domanda di denaro.
Fonti
Amodei: la pubblicità non risolverà la crisi di fiducia dell'IA, curare il cancro forse sì
Il capo di Anthropic ha ammesso che il settore non ha mantenuto le grandi promesse e ha sostenuto un'autorità centrale sul modello FINRA. È insolito per il responsabile di un laboratorio di frontiera.
