Google DeepMind et l’Agence gouvernementale pour les technologies de Singapour (GovTech Singapore) ont développé un modèle d’IA affiné destiné à détecter les escroqueries dans les conversations tout en conservant les données des messages sur l’appareil de l’utilisateur. Le projet s’inscrit dans le cadre du partenariat national sur l’IA avec le gouvernement de Singapour et a été présenté à la Singapore International Cyber Week 2026.
Le modèle utilise une version légère de Gemma, le modèle de Google, adaptée à partir de conversations locales liées à des escroqueries. Celles-ci comprenaient des usurpations d’identité d’institutions publiques, de banques et de personnalités locales, ainsi que des stratagèmes régionaux. L’objectif est de distinguer les discussions ordinaires des conversations présentant des signes de manipulation.
Contrairement aux systèmes de détection qui analysent les messages sur des serveurs distants, le modèle est conçu pour analyser les conversations directement sur l’appareil. S’il détecte des schémas de manipulation, il peut émettre une alerte en temps réel conseillant à l’utilisateur de faire une pause avant de partager de l’argent ou des informations sensibles. Le déploiement dans des applications sera progressif et mené en collaboration avec le gouvernement de Singapour. Le modèle n’accéderait aux conversations qu’avec le consentement de l’utilisateur, conformément aux conditions de l’application concernée, et son fonctionnement sur l’appareil signifie que Google et le gouvernement ne peuvent pas accéder à ces discussions dans le cadre du déploiement.
Afin de limiter la consommation de batterie, le système suit un processus en deux étapes. Un classificateur léger filtre d’abord les messages entrants pour repérer les menaces potentielles ; le modèle Gemma examine ensuite une plus grande partie de la conversation afin de confirmer la menace ou d’écarter une fausse alerte.
Le développement a eu lieu dans un environnement Google Cloud géré par GovTech, où les données d’entraînement étaient conservées dans un espace isolé. Les équipes ont exclu les informations privées et celles permettant d’identifier des personnes, et ont utilisé des données anonymisées provenant de signalements d’escroqueries et de flux de renseignements. Elles ont également testé le modèle à l’aide de conversations synthétiques et de jeux de données locaux couvrant différents types d’escroqueries et tactiques d’usurpation d’identité.
L’annonce cite des chiffres de Singapour selon lesquels les escroqueries — notamment les fraudes à l’investissement, les fausses offres d’emploi et l’usurpation de l’identité de fonctionnaires — représentent plus de la moitié des crimes signalés et ont entraîné des pertes de plus de 4 milliards de dollars singapouriens depuis 2019. Les escroqueries reposant sur l’ingénierie sociale et des conversations persuasives représenteraient jusqu’à 80 % des pertes.
Sources: Google DeepMind Blog.