Google DeepMind y el Gobierno de Singapore han presentado una nueva herramienta de IA diseñada para proteger a los ciudadanos de las estafas conversacionales sin comprometer la privacidad. La solución utiliza un modelo Gemma ligero y local para patrones de conversación manipuladora en chats privados, con todo el procesamiento realizándose localmente en el smartphone del usuario.
Las estafas ahora representan más de la mitad de los delitos reportados en Singapore y más de S$4 mil millones en pérdidas desde 2019, con hasta el 80% originándose de tácticas sofisticadas de ingeniería social. El modelo fue ajustado para estafas locales, incluyendo impersonaciones de bancos, instituciones públicas y figuras regionales, para distinguir conversaciones benignas de manipulación genuina.
Al operar completamente en el dispositivo, la herramienta evita la salida de datos a la nube, siendo compatible con plataformas de mensajería con cifrado de extremo a extremo. Un pipeline de dos etapas asegura eficiencia: un clasificador ligero filtra mensajes con posibles amenazas, seguido de una evaluación contextual usando el modelo Gemma ajustado para confirmar o descartar riesgos.
Aparecen advertencias en tiempo real directamente en el dispositivo cuando se detecta intención manipuladora, incentivando al usuario a pausar antes de compartir información sensible. Desarrollado bajo estricta gobernanza dentro del Sovereign Sandbox de GovTech en GCP, el modelo fue entrenado exclusivamente con datos anonimizados, no personales, de reportes de estafas y fuentes de inteligencia, y fue sometido a pruebas contra diálogos sintéticos y corpus locales.
Presentado en la Semana Internacional Cibernética de Singapore 2026, la iniciativa demuestra cómo la colaboración público-privada puede avanzar la IA para el bien público, demostrando que seguridad y privacidad pueden coexistir a través de la protección en el borde.
Fuente: Google DeepMind Blog · Resumido por HeadlinesBriefing