Google DeepMind y la Agencia de Tecnología del Gobierno de Singapur (GovTech Singapore) han desarrollado un modelo de IA ajustado para detectar estafas en conversaciones, manteniendo los datos de los mensajes en el dispositivo del usuario. El proyecto forma parte de la Asociación Nacional de IA con el Gobierno de Singapur y se presentó en la Semana Internacional de Ciberseguridad de Singapur 2026.
El modelo utiliza una versión ligera de Gemma, de Google, adaptada con conversaciones locales relacionadas con estafas. Estas incluían suplantaciones de instituciones públicas, bancos y figuras locales, así como fraudes propios de la región. El objetivo es distinguir los chats habituales de las conversaciones que muestran indicios de manipulación.
A diferencia de los sistemas de detección que analizan los mensajes en servidores remotos, el modelo está diseñado para analizar las conversaciones en el propio dispositivo. Si identifica patrones manipuladores, puede emitir una advertencia en tiempo real para aconsejar al usuario que haga una pausa antes de compartir dinero o información confidencial. La incorporación del modelo a las aplicaciones se hará por fases y en colaboración con el Gobierno de Singapur. El modelo solo accedería a las conversaciones con el consentimiento del usuario, de acuerdo con las condiciones de la aplicación correspondiente; además, al funcionar en el dispositivo, ni Google ni el Gobierno pueden acceder a esos chats mediante su implementación.
Para limitar el consumo de batería, el sistema sigue un proceso de dos etapas. Primero, un clasificador ligero examina los mensajes entrantes en busca de posibles amenazas; después, el modelo Gemma analiza una parte más amplia de la conversación para confirmar la amenaza o descartar una falsa alarma.
El desarrollo se llevó a cabo en un entorno de Google Cloud gestionado por GovTech, donde los datos de entrenamiento se mantuvieron aislados. Los equipos excluyeron la información privada y los datos de identificación personal, y utilizaron datos anonimizados derivados de informes de estafas y fuentes de inteligencia. También probaron el modelo con conversaciones sintéticas y conjuntos de datos locales que abarcaban distintos tipos de estafas y tácticas de suplantación.
El anuncio cita cifras de Singapur que muestran que las estafas —incluidos los fraudes de inversión, las ofertas de trabajo falsas y la suplantación de funcionarios públicos— representan más de la mitad de los delitos denunciados y han causado pérdidas superiores a S$4.000 millones desde 2019. Se afirma que las estafas de ingeniería social que recurren a conversaciones persuasivas representan hasta el 80 % de las pérdidas.
Fuentes: Google DeepMind Blog.