Un rilevatore di truffe che funziona sul tuo telefono: DeepMind e Singapore ottimizzano Gemma

Google DeepMind e GovTech Singapore, l’agenzia tecnologica governativa del paese, hanno annunciato il 14 ottobre che stanno costruendo un modello di intelligenza artificiale per segnalare le truffe in tempo reale, progettato per funzionare sul telefono stesso. Si basa sul modello leggero Gemma di Google, fine-tuned su modelli di truffa locali come persone che fingono di essere banche, funzionari o altre figure fidate. Quando il modello rileva un comportamento manipolativo, mostra un avviso che consiglia di fermarsi prima di condividere dettagli sensibili o inviare denaro.

La progettazione prevede due fasi. Un piccolo classificatore economico analizza innanzitutto i messaggi in arrivo utilizzando pochissima batteria. Solo le conversazioni sospette passano al modello fine-tuned Gemma, che esamina una porzione più ampia della chat per confermare una minaccia reale o respingere un falso allarme. La stampa locale descrive la scansione delle chat in app come WhatsApp e Telegram su Android. La motivazione è chiara: Singapore afferma di aver perso più di 4 miliardi di dollari di S$ a causa di truffe dal 2019, di cui 410,6 milioni di S$ nella prima metà del 2026.

Per quanto riguarda la privacy, Google afferma che il modello può accedere alle conversazioni sul dispositivo solo con il consenso dell’utente e che né Google né Singapore Government possono leggere le chat delle persone attraverso questo sistema. La formazione ha utilizzato segnalazioni di truffe anonimizzate e conversazioni sintetiche, non messaggi privati. Vale la pena saperlo prima di emozionarsi: non esiste una data di rilascio, il lancio sarà graduale e l’annuncio non fornisce dati precisi o dimensioni del modello.

Cosa c’è dietro: “sul dispositivo” significa che l’intelligenza artificiale pensa sul tuo telefono invece di inviare i tuoi messaggi ai server di un’azienda. Per qualcosa di così personale come le tue chat, questo è un grosso problema, perché l’assegno non deve mai lasciare le tue mani. Piccoli modelli come Gemma lo rendono possibile: sono abbastanza compatti da stare su un telefono ma possono imparare un lavoro ristretto, come individuare il tono di un falso messaggio “il tuo account è bloccato”. Fine-tuning significa dare a un modello esistente ulteriore pratica su esempi specializzati, in questo caso truffe nei linguaggi e negli stili utilizzati in Singapore.

Cosa significa per te: se non sei in Singapore, non puoi ancora usarlo e nulla qui dice che arriverà in altri paesi. Tuttavia, mostra uno schema pratico: un’intelligenza artificiale rispettosa della privacy che ti protegge silenziosamente in background. Nel frattempo, le vecchie regole continuano a funzionare meglio. Diffida dell’urgenza, non spostare mai denaro perché te lo dice un messaggio e chiama la banca o la persona a un numero che già conosci. Tratta qualsiasi futuro avviso di truffa dell’IA come una seconda opinione, non come un sostituto del tuo giudizio.

Fonti

• Google DeepMind: rilevamento truffe AI sul dispositivo
• The Star: Google e GovTech di Singapore sviluppano un modello AI per segnalare le truffe in tempo reale per gli utenti Android