Google DeepMind и правительство Сингапура представили новый инструмент ИИ, предназначенный для защиты граждан от разговорного мошенничества без компрометации конфиденциальности. Решение использует легкую модель Gemma на устройстве для обнаружения манипулятивных паттернов в частных чатах, с всей обработкой, происходящей локально на смартфоне пользователя.
Мошенничество теперь составляет более половины сообщенных преступлений в Сингапуре и более 4 млрд S$ в ущербе с 2019 года, причем до 80% связаны с сложными тактиками социальной инженерии. Модель была тонко настроена на локальные мошеннические разговоры, включая маскировки под банки, общественные учреждения и региональные фигуры, чтобы отличать безобидную болтовню от настоящей манипуляции.
Работая полностью на устройстве, инструмент избегает экспорта данных в облако, делая его совместимым с платформами для обмена сообщениями с сквозным шифрованием. Двухэтапный конвейер обеспечивает эффективность: легкий классификатор сканирует сообщения на потенциальные угрозы, затем следует контекстная оценка с использованием тонко настроенной модели Gemma для подтверждения или отклонения рисков.
Предупреждения в реальном времени появляются непосредственно на устройстве при обнаружении манипулятивного намерения, побуждая пользователя остановиться перед тем, как делиться конфиденциальной информацией. Модель была разработана в строгом соответствии с управлением в Sovereign Sandbox GovTech на GCP, обучена исключительно анонимизированным, неперсональным данным из отчетов о мошенничестве и разведывательных потоков, и подверглась стресс-тестированию на синтетических диалогах и локальных корпусах.
Представленная на Singapore International Cyber Week 2026, инициатива демонстрирует, как государственно-частное сотрудничество может продвигать ИИ для общественного блага, доказывая, что безопасность и конфиденциальность могут сосуществовать через защиту на краю.
Источник: Google DeepMind Blog · Сводку подготовил HeadlinesBriefing