Google DeepMind e la Government Technology Agency di Singapore (GovTech Singapore) hanno sviluppato un modello di IA messo a punto per rilevare le truffe nelle conversazioni, mantenendo i dati dei messaggi sul dispositivo dell’utente. Il progetto fa parte della National AI Partnership con il governo di Singapore ed è stato presentato alla Singapore International Cyber Week 2026.
Il modello utilizza una versione leggera di Gemma di Google, adattata con conversazioni locali relative a truffe. Tra queste figuravano casi di persone che si spacciavano per istituzioni pubbliche, banche e personaggi locali, oltre a schemi diffusi nella regione. L’obiettivo è distinguere le normali chat dalle conversazioni che mostrano segnali di manipolazione.
A differenza dei sistemi di rilevamento che analizzano i messaggi su server remoti, il modello è progettato per esaminare le conversazioni direttamente sul dispositivo. Se individua schemi manipolatori, può inviare un avviso in tempo reale che consiglia all’utente di fermarsi un momento prima di condividere denaro o informazioni sensibili. L’eventuale implementazione nelle applicazioni avverrà per fasi e sarà sviluppata insieme al governo di Singapore. Il modello accederebbe alle conversazioni solo con il consenso dell’utente, secondo i termini della relativa app; inoltre, il suo funzionamento sul dispositivo implica che Google e il governo non possano accedere a quelle chat tramite l’implementazione.
Per limitare il consumo della batteria, il sistema segue un processo in due fasi. Un classificatore leggero esamina innanzitutto i messaggi in arrivo per individuare potenziali minacce; il modello Gemma analizza poi una porzione più ampia della conversazione per confermare la minaccia o escludere un falso allarme.
Lo sviluppo è avvenuto in un ambiente Google Cloud gestito da GovTech, nel quale i dati di addestramento sono stati mantenuti isolati. I team hanno escluso le informazioni private e quelle che consentono l’identificazione personale, utilizzando dati anonimizzati ricavati da segnalazioni di truffe e flussi di informazioni d’intelligence. Hanno inoltre testato il modello con conversazioni sintetiche e set di dati locali che coprivano diversi tipi di truffa e tattiche di impersonificazione.
L’annuncio cita dati di Singapore secondo cui le truffe — tra cui le frodi sugli investimenti, le false offerte di lavoro e i casi di persone che si spacciano per funzionari pubblici — rappresentano oltre la metà dei reati segnalati e hanno causato perdite superiori a 4 miliardi di dollari di Singapore dal 2019. Si afferma che le truffe basate sull’ingegneria sociale, che sfruttano conversazioni persuasive, rappresentino fino all’80% delle perdite.
Fonti: Google DeepMind Blog.