При вводе текста в чат-бот вы можете раскрыть о себе больше, чем планировали. Запрос на очистку электронной письменности содержит ваше имя и имя коллеги; вопрос по медицинскому счету содержит ваш адрес и номер счета. Всё, что вы вводите, отправляется на удаленный сервер, который вы не можете проверить. Основной принцип проектирования Rampart: единственная личная информация, в которой вы можете быть уверены, что она конфиденциальна — это информация, которая никогда не покидает ваше устройство.
Сегодня Rampart выпущен с открытым кодом как система фильтрации личной информации первого поколения на устройстве. Она объединяет детерминированный слой, использующий регулярные выражения для захвата номеров социального страхования и идентификационных номеров, и Mini LM для захвата имён и улиц. Удаление ПИИ обычно означает доверие удаленному серверу или загрузку больших бинарных файлов, что представляет ключевые вызовы: гарантии конфиденциальности ИИ почти невозможно проверить, и большинство моделей гигантские, сужая круг пользователей, которые могут извлечь пользу.
Всё происходит в браузере, между вводом сообщения и его отправкой; сервер не участвует в цикле. Размер модели — 14,7 МБ, задержка выполнения — 3,9 мс на Web GPU, а точность по конфиденциальным терминам на семи языках — 98,4%. Прежде чем сообщение попадёт куда-либо, два читателя проверяют его на вашем устройстве: детерминированный слой правил для структурированных данных, таких как номера социального страхования и кредитные карты, и маленькая языковая модель Mini LM, которая читает предложения для контекстно-осознанной редакции имён и адресов.
Rampart обучался на датасете AI4Privacy’s Open PII 1.5M и на синтетическом генераторе. На тестовом наборе из 30 000 строк Rampart показал точность 98,42%, превзойдя GLi NER small v2.1 (94,2%), Community BERT-small PII (81,5%), Microsoft Presidio (65%) и AWS Bedrock Guardrails (63,8%). Это альфа-продукт, предназначенный в качестве первой линии защиты.
Ключевые сущности: Компании: Open AI, AWS, Microsoft, AI4Privacy
Источник: Hacker News · Сводку подготовил HeadlinesBriefing