Cuando escribe en un chatbot, puede revelar más sobre sí mismo de lo que pretende. Una solicitud para limpiar un correo electrónico lleva consigo su nombre y el de un colega; una pregunta sobre una factura médica lleva su dirección y número de cuenta. Todo lo que escriba viaja a un servidor remoto que no puede inspeccionar. El principio de diseño central de Rampart: la única información personal que puede estar segura de ser privada es la información que nunca sale de su dispositivo.
Hoy, Rampart se lanza como código abierto como un sistema de filtrado de información personal de primera generación en el dispositivo. Combina una capa determinista que utiliza expresiones regulares para capturar números de Seguro Social y números de identificación, y Mini LM para capturar nombres y direcciones callejeras. Realizar la eliminación de PII a menudo significa confiar en un servidor remoto o descargar binarios grandes, lo que presenta desafíos clave: las garantias de privacidad de IA son casi imposibles de verificar, y la mayoría de los modelos son enormes, lo que reduce el grupo de usuarios que pueden beneficiarse.
Todo ocurre en el navegador, entre escribir un mensaje y enviarlo; no hay ningún servidor en el bucle. El tamaño del modelo es de 14,7 MB, la latencia en tiempo de ejecución es de 3,9 ms en Web GPU, y el recall de términos privados en siete idiomas es del 98,4%. Antes de que un mensaje vaya a cualquier parte, dos lectores lo examinan en su dispositivo: una capa de reglas deterministas para datos estructurados como números de Seguro Social y tarjetas de crédito, y un pequeño modelo de lenguaje, Mini LM, que lee las frases para la redacción de nombres y direcciones con conciencia contextual.
Rampart se entrenó con el conjunto de datos Open PII 1.5M de AI4Privacy y un generador sintético. En un conjunto de prueba de 30.000 filas retenido, Rampart obtuvo un recall del 98,42%, superando a GLi NER small v2.1 (94,2%), Community BERT-small PII (81,5%), Microsoft Presidio (65%) y AWS Bedrock Guardrails (63,8%). Es un producto alfa destinado a ser una primera línea de defensa.
Entidades clave: Empresas: Open AI, AWS, Microsoft, AI4Privacy
Fuente: Hacker News · Resumido por HeadlinesBriefing