Lorsque vous tapez dans un chatbot, vous pouvez révéler plus sur vous-même que prévu. Une demande pour nettoyer un e-mail porte votre nom et celui d'un collègue ; une question sur une facture médicale porte votre adresse et votre numéro de compte. Tout ce que vous tapez voyage vers un serveur distant que vous ne pouvez pas inspecter. Le principe de conception central de Rampart : la seule information personnelle dont vous pouvez être sûr qu'elle est privée est celle qui ne quitte jamais votre appareil.
Aujourd'hui, Rampart est open-sourced comme système de filtration de l'information personnelle de première génération sur l'appareil. Il combine une couche déterministe utilisant des expressions régulières pour attraper les numéros de sécurité sociale et les numéros d'identification, et Mini LM pour attraper les noms et les adresses de rue. Effectuer une suppression de PII signifie souvent faire confiance à un serveur distant ou télécharger de grands binaires, ce qui présente des défis clés : les garanties de confidentialité de l'IA sont presque impossibles à vérifier, et la plupart des modèles sont gigantesques, réduisant le groupe d'utilisateurs qui peuvent en bénéficier.
Tout se passe dans le navigateur, entre la saisie d'un message et son envoi ; il n'y a pas de serveur dans la boucle. La taille du modèle est de 14,7 ms, la latence d'exécution est de 3,9 ms sur Web GPU, et le rappel des termes privés dans sept langues est de 98,4 %. Avant qu'un message ne parte nulle part, deux lecteurs le regardent sur votre appareil : une couche de règles déterministes pour les données structurées comme les numéros de sécurité sociale et les cartes de crédit, et un petit modèle de langage, Mini LM, qui lit les phrases pour une redaction contextuelle des noms et adresses.
Rampart a été formé sur le dataset AI4Privacy’s Open PII 1.5M et un générateur synthétique. Sur un ensemble de test de 30 000 lignes retenu, Rampart a obtenu un rappel de 98,42 %, surpassant GLi NER small v2.1 (94,2 %), Community BERT-small PII (81,5 %), Microsoft Presidio (65 %) et AWS Bedrock Guardrails (63,8 %). C'est un produit alpha destiné à être une première ligne de défense.
Entités clés : Entreprises : Open AI, AWS, Microsoft, AI4Privacy
FAQ : Comment Rampart s'assure-t-il que l'information personnelle ne quitte jamais l'appareil ?
Rampart effectue toute la filtration dans le navigateur entre la saisie et l'envoi, en utilisant une couche de règles déterministes pour les données structurées et Mini LM pour la redaction contextuelle des noms et adresses, sans serveur impliqué.
Source: Hacker News · Résumé par HeadlinesBriefing