A Google DeepMind e a Agência de Tecnologia do Governo de Singapura (GovTech Singapore) desenvolveram um modelo de IA ajustado, destinado a detetar burlas em conversas, mantendo os dados das mensagens no dispositivo do utilizador. O projeto faz parte da Parceria Nacional de IA com o Governo de Singapura e foi apresentado na Singapore International Cyber Week 2026.
O modelo utiliza uma versão leve do Gemma da Google, adaptada com conversas locais relacionadas com burlas. Estas incluíam casos de usurpação de identidade de instituições públicas, bancos e figuras locais, bem como esquemas regionais. O objetivo é distinguir conversas comuns daquelas que apresentam sinais de manipulação.
Ao contrário dos sistemas de deteção que analisam mensagens em servidores remotos, o modelo foi concebido para analisar conversas no próprio dispositivo. Se identificar padrões de manipulação, pode emitir um aviso em tempo real, aconselhando o utilizador a fazer uma pausa antes de partilhar dinheiro ou informações sensíveis. A implementação em aplicações será gradual e desenvolvida com o Governo de Singapura. O modelo só acederá às conversas com o consentimento do utilizador, nos termos da aplicação relevante, e o seu funcionamento no dispositivo significa que a Google e o governo não podem aceder a essas conversas através da implementação.
Para limitar o consumo da bateria, o sistema segue um processo em duas etapas. Primeiro, um classificador leve analisa as mensagens recebidas em busca de potenciais ameaças; em seguida, o modelo Gemma examina uma parte mais ampla da conversa para confirmar a ameaça ou descartar um falso alarme.
O desenvolvimento decorreu num ambiente da Google Cloud gerido pela GovTech, onde os dados de treino foram mantidos isolados. As equipas excluíram informações privadas e pessoalmente identificáveis, utilizando dados anonimizados provenientes de denúncias de burlas e de fontes de informação. Também testaram o modelo com conversas sintéticas e conjuntos de dados locais que abrangiam diferentes tipos de burla e táticas de usurpação de identidade.
O anúncio cita dados de Singapura segundo os quais as burlas — incluindo fraudes de investimento, falsas ofertas de emprego e usurpação de identidade de funcionários públicos — representam mais de metade dos crimes denunciados e causaram perdas superiores a S$4 mil milhões desde 2019. Afirma-se que as burlas de engenharia social que envolvem conversas persuasivas são responsáveis por até 80% das perdas.
Fontes: Google DeepMind Blog.