Google DeepMind与新加坡政府联合推出了一款新型AI工具，旨在保护公民免受对话诈骗的侵害，同时不损害用户隐私。该解决方案采用轻量级的设备端Gemma模型，用于在私人聊天中检测操纵性对话模式，所有处理过程均在用户智能手机本地完成。
目前，诈骗已占新加坡报告犯罪总数的一半以上，自2019年以来造成的损失超过40亿新加坡元，其中高达80%源于复杂的社会工程学手段。该模型针对本地诈骗对话进行了微调，包括冒充银行、公共机构及地区人物的案例，以区分正常对话与真正的操纵行为。
通过完全在设备端运行，该工具避免了云端数据外传，因此兼容端到端加密的即时通讯平台。系统采用两阶段流水线设计：首先由轻量级分类器筛查潜在威胁消息，随后由微调后的Gemma模型进行上下文评估，以确认或排除风险。
当检测到操纵意图时，设备上会实时显示警告，提醒用户在分享敏感信息前暂停操作。该模型在GovTech新加坡主权沙盒（基于GCP）的严格治理下开发，仅使用来自诈骗报告和情报源的匿名化、非个人数据进行训练，并针对合成对话和本地语料库进行了压力测试。
在2026年新加坡国际网络周上展示的这一倡议，证明了公私合作如何推动AI服务于公共利益，展示了安全与隐私如何通过边缘保护实现共存。
来源: Google DeepMind Blog · 由HeadlinesBriefing整理摘要