Un detector de estafas que se ejecuta en su teléfono: DeepMind y Singapur ajustan Gemma

Google DeepMind y GovTech Singapur, la agencia de tecnología del gobierno del país, anunciaron el 14 de octubre que están construyendo un modelo de inteligencia artificial para detectar estafas en tiempo real y que está diseñado para ejecutarse en el propio teléfono. Se basa en el modelo ligero Gemma de Google, fine-tuned, en patrones de estafa locales, como personas que se hacen pasar por bancos, funcionarios u otras figuras confiables. Cuando el modelo detecta un comportamiento manipulador, muestra una advertencia que le aconseja hacer una pausa antes de compartir detalles confidenciales o enviar dinero.

El diseño tiene dos etapas. Un clasificador pequeño y económico filtra primero los mensajes entrantes usando muy poca batería. Sólo las conversaciones sospechosas pasan al modelo fine-tuned Gemma, que analiza una porción más grande del chat para confirmar una amenaza real o descartar una falsa alarma. Los informes de la prensa local lo describen escaneando chats en aplicaciones como WhatsApp y Telegram en Android. La motivación es clara: Singapur dice que ha perdido más de 4.000 millones de dólares singapurenses por estafas desde 2019, incluidos 410,6 millones de dólares singapurenses en el primer semestre de 2026.

En cuanto a la privacidad, Google dice que el modelo solo puede acceder a conversaciones en el dispositivo con el consentimiento del usuario, y que ni Google ni Singapur Government pueden leer los chats de las personas a través de este sistema. La capacitación utilizó informes de estafas anónimos y conversaciones sintéticas, no mensajes privados. Vale la pena saberlo antes de entusiasmarse: no hay fecha de lanzamiento, el lanzamiento se realizará por etapas y el anuncio no proporciona cifras de precisión ni tamaño del modelo.

Qué hay detrás de esto: “en el dispositivo” significa que la IA piensa en su propio teléfono en lugar de enviar sus mensajes a los servidores de una empresa. Para algo tan personal como tus chats, eso es un gran problema, porque el cheque nunca necesita salir de tus manos. Los modelos pequeños como el Gemma lo hacen posible: son lo suficientemente compactos como para caber en un teléfono, pero se les puede enseñar un trabajo limitado, como detectar el tono de un mensaje falso “su cuenta está bloqueada”. Fine-tuning significa darle a un modelo existente práctica adicional en ejemplos especializados, aquí estafas en los lenguajes y estilos utilizados en Singapore.

Qué significa esto para ti: si no estás en Singapur, no puedes usarlo todavía y nada aquí dice que llegará a otros países. Aún así, muestra un patrón práctico: IA respetuosa con la privacidad que te protege silenciosamente en segundo plano. Mientras tanto, las viejas reglas siguen funcionando mejor. Sospeche de la urgencia, nunca mueva dinero porque un mensaje se lo indique y llame al banco o a una persona a un número que ya conozca. Trate cualquier advertencia futura de estafa de IA como una segunda opinión, no como un reemplazo de su propio juicio.

Fuentes

• Google DeepMind: detección de estafas mediante IA en el dispositivo
• The Star: Google y GovTech de Singapur desarrollan un modelo de IA para detectar estafas en tiempo real para usuarios de Android