Google DeepMind und die Government Technology Agency (GovTech Singapore) Singapurs haben ein feinabgestimmtes KI-Modell entwickelt, das Betrugsversuche in Gesprächen erkennen soll, während die Nachrichtendaten auf dem Gerät des Nutzers bleiben. Das Projekt ist Teil der National AI Partnership mit der Regierung Singapurs und wurde auf der Singapore International Cyber Week 2026 vorgestellt.

Das Modell verwendet eine leichtgewichtige Version von Googles Gemma, die anhand lokaler Betrugsgespräche angepasst wurde. Dazu gehörten Fälle, in denen sich Betrüger als öffentliche Institutionen, Banken und lokale Persönlichkeiten ausgaben, sowie regionale Betrugsmaschen. Ziel ist es, gewöhnliche Chats von Gesprächen zu unterscheiden, die Anzeichen für Manipulation aufweisen.

Anders als Erkennungssysteme, die Nachrichten auf entfernten Servern überprüfen, soll das Modell Gespräche direkt auf dem Gerät analysieren. Erkennt es manipulative Muster, kann es in Echtzeit eine Warnung ausgeben, die dem Nutzer empfiehlt, innezuhalten, bevor er Geld oder sensible Informationen weitergibt. Die Einführung in Anwendungen soll schrittweise erfolgen und gemeinsam mit der Regierung Singapurs entwickelt werden. Das Modell würde nur mit Zustimmung des Nutzers gemäß den Nutzungsbedingungen der jeweiligen App auf Gespräche zugreifen. Da es auf dem Gerät ausgeführt wird, können Google und die Regierung über diese Einführung nicht auf die Chats zugreifen.

Um den Akkuverbrauch zu begrenzen, arbeitet das System in zwei Stufen. Zunächst prüft ein leichtgewichtiger Klassifikator eingehende Nachrichten auf mögliche Bedrohungen. Anschließend untersucht das Gemma-Modell einen größeren Teil des Gesprächs, um eine Bedrohung zu bestätigen oder einen Fehlalarm auszuschließen.

Die Entwicklung fand in einer von GovTech verwalteten Google-Cloud-Umgebung statt, in der die Trainingsdaten isoliert aufbewahrt wurden. Die Teams schlossen private und personenbezogene Informationen aus und verwendeten anonymisierte Daten aus Betrugsmeldungen und Informationsquellen. Außerdem testeten sie das Modell mit synthetischen Gesprächen und lokalen Datensätzen, die verschiedene Betrugsarten und Methoden der Identitätsvortäuschung abdeckten.

In der Ankündigung werden Zahlen aus Singapur angeführt, denen zufolge Betrugsfälle – darunter Anlagebetrug, gefälschte Jobangebote und die Vortäuschung der Identität öffentlicher Amtsträger – mehr als die Hälfte der gemeldeten Straftaten ausmachen und seit 2019 Verluste von über 4 Milliarden S$ verursacht haben. Social-Engineering-Betrugsmaschen, bei denen die Täter überzeugende Gespräche führen, sollen für bis zu 80 % der Verluste verantwortlich sein.

Quellen: Google DeepMind Blog.