Wenn Sie in einen Chatbot tippen, können Sie mehr über sich pregeben, als beabsichtigt. Eine Anfrage zur Bereinigung einer E-Mail enthält Ihren Namen und den eines Kollegen; eine Frage zu einer medizinischen Rechnung enthält Ihre Adresse und Kontonummer. Alles, was Sie tippen, reist zu einem Remote-Server, den Sie nicht inspizieren können. Das Kernkonstruktionsprinzip von Rampart: Die einzige personenbezogene Information, die Sie sicher als privat kennt, ist die Information, die Ihr Gerät nie verlässt.
Heute wird Rampart als erstes Generation on-device personenbezogene Information Filter System open-source. Es kombiniert eine deterministische Schicht, die reguläre Ausdrücke nutzt, um Sozialversicherungsnummern und ID-Nummern zu fangen, und Mini LM, um Namen und Straßenanschriften zu fangen. PII-Entfernung bedeutet oft, einem Remote-Server zu vertrauen oder große Binaries herunterzuladen, was Herausforderungen mit sich bringt: AI-Privacy-Garantien sind fast unmöglich zu verifizieren, und die meisten Modelle sind riesig, wodurch die Gruppe der Nutzer, die davon profitieren können, eingeschränkt wird.
Alles geschieht im Browser, zwischen dem Tippen einer Nachricht und dem Senden; kein Server ist im Spiel. Modellgröße beträgt 14,7 MB, Laufzeitverzögerung 3,9 ms auf Web GPU, und der private-term recall über sieben Sprachen beträgt 98,4 %. Bevor eine Nachricht überall hingelangt, betrachten zwei Leser sie auf Ihrem Gerät: eine deterministische Regelschicht für strukturierte Daten wie Sozialversicherungsnummern und Kreditkarten, und ein kleines Sprachmodell, Mini LM, das Sätze für kontextbewusste Anonymisierung von Namen und Adressen liest.
Rampart wurde auf AI4Privacy’s Open PII 1.5M Datensatz und einen synthetischen Generator trainiert. Auf einem 30.000-zeiligen held-out Testset erzielte Rampart einen Recall von 98,42 %, übertraf GLi NER small v2.1 (94,2 %), Community BERT-small PII (81,5 %), Microsoft Presidio (65 %) und AWS Bedrock Guardrails (63,8 %). Es ist ein Alpha-Produkt, das als erste Verteidigungslinie dient.
Schlüsselentitäten: Unternehmen: Open AI, AWS, Microsoft, AI4Privacy
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing