Google DeepMind et le Gouvernement de Singapour ont dévoilé un nouvel outil IA conçu pour protéger les citoyens des scams conversationnels sans compromettre la vie privée. La solution utilise un modèle Gemma léger sur appareil pour détecter les schémas conversationnels manipulatifs dans les chats privés, avec tout le traitement effectué localement sur le smartphone de l'utilisateur.
Les scams représentent maintenant plus de la moitié des crimes signalés à Singapour et plus de 4 milliards de dollars de pertes depuis 2019, jusqu'à 80% découlant de tactiques de social engineering sophistiquées. Le modèle a été affiné sur des conversations de scams locaux, incluant des impersonations de banques, d'institutions publiques et de figures régionales, pour distinguer les bavardages benignes de la manipulation réelle.
En fonctionnant entièrement sur l'appareil, l'outil évite l'égouttement des données cloud, le rendant compatible avec les plateformes de messagerie chiffrées de bout en bout. Un pipeline à deux étapes assure l'efficacité : un classificateur léger filtre les messages pour menaces potentielles, suivi d'une évaluation contextuelle utilisant le modèle Gemma affiné pour confirmer ou rejeter les risques.
Des avertissements en temps réel apparaissent directement sur l'appareil lorsque l'intention manipulatrice est détectée, incitant l'utilisateur à pause avant de partager des informations sensibles. Développé sous une gouvernance stricte dans le Sovereign Sandbox de GovTech sur GCP, le modèle a été exclusivement entraîné sur des données anonymisées non personnelles provenant de rapports de scams et de flux de renseignement, et testé contre des dialogues synthétiques et des corpus locaux.
Présenté à la Semaine Internationale Cyber de Singapour 2026, l'initiative démontre comment la collaboration public-privé peut avancer l'IA pour le bien public, prouvant que sécurité et vie privée peuvent coexister via la protection sur le bord.
Source: Google DeepMind Blog · Résumé par HeadlinesBriefing