Un détecteur d'arnaque qui fonctionne sur votre téléphone : DeepMind et Singapour peaufinent Gemma

Google DeepMind et GovTech Singapour, l’agence gouvernementale technologique du pays, ont annoncé le 14 octobre qu’elles construisaient un modèle d’IA pour signaler les escroqueries en temps réel, et qu’il est conçu pour fonctionner sur le téléphone lui-même. Il est basé sur le modèle léger Gemma de Google, fine-tuned sur des modèles d’arnaque locaux tels que des personnes se faisant passer pour des banques, des fonctionnaires ou d’autres personnalités de confiance. Lorsque le modèle détecte un comportement manipulateur, il affiche un avertissement qui vous conseille de faire une pause avant de partager des détails sensibles ou d’envoyer de l’argent.

La conception comporte deux étapes. Un petit classificateur bon marché filtre d’abord les messages entrants en utilisant très peu de batterie. Seules les conversations suspectes sont transmises au modèle fine-tuned Gemma, qui examine une plus grande partie du chat pour confirmer une menace réelle ou rejeter une fausse alarme. La presse locale décrit l’analyse des discussions dans des applications telles que WhatsApp et Telegram sur Android. La motivation est claire : Singapour affirme avoir perdu plus de 4 milliards de dollars singapouriens à cause d’escroqueries depuis 2019, dont 410,6 millions de dollars singapouriens au premier semestre 2026.

Concernant la confidentialité, Google indique que le modèle ne peut accéder aux conversations sur l’appareil qu’avec le consentement de l’utilisateur, et que ni Google ni le Singapour Government ne peuvent lire les discussions des personnes via ce système. La formation utilisait des rapports d’arnaques anonymisés et des conversations synthétiques, et non des messages privés. À savoir avant de vous enthousiasmer : il n’y a pas de date de sortie, le déploiement sera progressif et l’annonce ne donne aucun chiffre de précision ni de taille de modèle.

Ce qu’il y a derrière : “sur l’appareil” signifie que l’IA réfléchit sur votre propre téléphone au lieu d’envoyer vos messages aux serveurs d’une entreprise. Pour quelque chose d’aussi personnel que vos discussions, c’est un gros problème, car le chèque n’a jamais besoin de vous quitter. Les petits modèles comme le Gemma rendent cela possible : ils sont suffisamment compacts pour tenir sur un téléphone mais peuvent apprendre un travail précis, comme repérer le ton d’un faux message « votre compte est bloqué ». Fine-tuning signifie donner à un modèle existant une pratique supplémentaire sur des exemples spécialisés, ici des arnaques dans les langages et styles utilisés dans Singapore.

Ce que cela signifie pour vous : si vous n’êtes pas dans Singapour, vous ne pouvez pas encore l’utiliser, et rien ici n’indique qu’il arrivera dans d’autres pays. Il présente néanmoins un modèle pratique : une IA respectueuse de la vie privée qui vous protège silencieusement en arrière-plan. En attendant, les anciennes règles fonctionnent toujours mieux. Méfiez-vous de l’urgence, ne déplacez jamais d’argent parce qu’un message vous l’a demandé et appelez la banque ou la personne à un numéro que vous connaissez déjà. Considérez tout futur avertissement d’escroquerie par l’IA comme un deuxième avis et non comme un remplacement de votre propre jugement.

Sources

• Google DeepMind : détection d’arnaque par l’IA sur l’appareil
• The Star : Google et GovTech de Singapour développent un modèle d’IA pour signaler les escroqueries en temps réel pour les utilisateurs d’Android