Ein Betrugsdetektor, der auf Ihrem Telefon läuft: DeepMind und Singapur optimieren Gemma
Google DeepMind und Singapores GovTech bauen ein On-Device-Modell auf, das Benutzer vor Betrugschats warnt, ohne Gespräche an die Cloud zu senden.
Google DeepMind und GovTech Singapur, die staatliche Technologiebehörde des Landes, gaben am 14. Oktober bekannt, dass sie ein KI-Modell entwickeln, um Betrug in Echtzeit zu erkennen, und dass es auf dem Telefon selbst ausgeführt werden soll. Es basiert auf dem leichten Gemma-Modell von Google und auf lokalen Betrugsmustern wie Fine-tuned, bei denen sich Personen als Banken, Beamte oder andere vertrauenswürdige Personen ausgeben. Wenn das Modell manipulatives Verhalten erkennt, zeigt es eine Warnung an, die Sie dazu auffordert, innezuhalten, bevor Sie vertrauliche Daten preisgeben oder Geld senden.
Der Entwurf besteht aus zwei Phasen. Ein kleiner, günstiger Klassifikator filtert zunächst eingehende Nachrichten und verbraucht dabei nur sehr wenig Batterie. Nur verdächtige Gespräche werden an das Modell Fine-tuned Gemma weitergeleitet, das einen größeren Teil des Chats betrachtet, um eine echte Bedrohung zu bestätigen oder einen Fehlalarm abzulehnen. In lokalen Presseberichten wird beschrieben, dass Chats in Apps wie WhatsApp und Telegram auf Android gescannt werden. Die Motivation ist klar: Singapur gibt an, seit 2019 mehr als 4 Milliarden S$ durch Betrügereien verloren zu haben, davon 410,6 Millionen S$ im ersten Halbjahr 2026.
Zum Datenschutz sagt Google, dass das Modell nur mit Zustimmung des Benutzers auf Gespräche auf dem Gerät zugreifen kann und dass weder Google noch Singapur Government die Chats von Personen über dieses System lesen können. Bei der Schulung wurden anonymisierte Betrugsberichte und synthetische Gespräche verwendet, keine privaten Nachrichten. Bevor Sie sich aufregen, sollten Sie es wissen: Es gibt kein Veröffentlichungsdatum, die Einführung erfolgt schrittweise und in der Ankündigung werden keine Angaben zur Genauigkeit oder Modellgröße gemacht.
Was dahinter steckt: „On-Device“ bedeutet, dass die KI auf Ihrem eigenen Telefon denkt, anstatt Ihre Nachrichten an die Server eines Unternehmens zu senden. Für etwas so Persönliches wie Ihre Chats ist das eine große Sache, denn der Scheck muss nie Ihre Hände verlassen. Kleine Modelle wie der Gemma machen dies möglich: Sie sind kompakt genug, um auf ein Telefon zu passen, können aber auch eine kleine Aufgabe erlernen, etwa den Ton einer gefälschten „Ihr Konto ist gesperrt“-Nachricht zu erkennen. Fine-tuning bedeutet, einem vorhandenen Modell zusätzliche Übung an speziellen Beispielen zu geben, hier Betrügereien in den in Singapur verwendeten Sprachen und Stilen.
Was das für Sie bedeutet: Wenn Sie nicht in Singapur sind, können Sie es noch nicht verwenden, und hier steht nichts darüber, dass es in andere Länder kommt. Dennoch zeigt es ein praktisches Muster: eine datenschutzfreundliche KI, die Sie still und leise im Hintergrund schützt. In der Zwischenzeit funktionieren die alten Regeln immer noch am besten. Seien Sie bei Dringlichkeit misstrauisch, bewegen Sie niemals Geld, weil Sie in einer Nachricht dazu aufgefordert werden, und rufen Sie die Bank oder Person unter einer Nummer an, die Sie bereits kennen. Behandeln Sie jede zukünftige KI-Betrugswarnung als zweite Meinung und nicht als Ersatz für Ihr eigenes Urteilsvermögen.
Quellen
Quellen: https://deepmind.google/blog/on-device-ai-scam-detection-mddi/
Google Cloud verkauft jetzt neben Gemini und Claude auch die Modelle von OpenAI
Google Cloud hat die GPT-Modelle von OpenAI in der privaten Vorschau hinzugefügt und ist damit die einzige große Cloud mit Gemini, Claude und GPT an einem Ort.
