Saat Anda mengetik ke dalam chatbot, Anda bisa mengungkapkan lebih tentang diri Anda dari yang dimaksud. Permintaan untuk membersihkan email membawa nama Anda dan nama rekan kerja; pertanyaan tagihan medis membawa alamat dan nomor rekening Anda. Apa pun yang Anda ketik pergi ke server jarak jauh yang tidak dapat Anda periksa. Prinsip desain inti Rampart: satu-satunya informasi pribadi yang bisa Anda pastikan privat adalah informasi yang tidak pernah meninggalkan perangkat Anda.
Hari ini, Rampart dirilis sebagai open-source sebagai sistem filter informasi pribadi generasi pertama di perangkat. Ini menggabungkan layer deterministic menggunakan regex untuk menangkap SSN dan nomor ID, dan Mini LM untuk menangkap nama dan alamat jalan. Melakukan Penghapusan PII berarti sering memercayai server jarak jauh atau mengunduh biner besar, yang menghadapi tantangan utama: jaminan privasi AI hampir mustahil untuk diverifikasi, dan kebanyakan model raksasa, mempersempit kelompok pengguna yang bisa mendapatkan manfaat.
Semua terjadi di peramban, antara mengetik pesan dan mengirimnya; tidak ada server dalam loop. Ukuran model 14.7MB, latency runtime 3.9ms di Web GPU, dan recall istilah privat dalam tujuh bahasa 98.4%. Sebelum pesan pergi ke mana-mana, dua pembaca melihatnya di perangkat Anda: layer aturan deterministic untuk data terstruktur seperti SSN dan kartu kredit, dan model bahasa kecil, Mini LM, yang membaca kalimat untuk redaksi nama dan alamat yang sadar konteks.
Rampart dilatih pada dataset AI4Privacy’s Open PII 1.5M dan generator sintetik. Pada set uji 30.000 baris yang ditahan, Rampart mencapai recall 98.42%, mengungguli GLi NER small v2.1 (94.2%), Community BERT-small PII (81.5%), Microsoft Presidio (65%), dan AWS Bedrock Guardrails (63.8%). Ini adalah produk alpha yang dimaksudkan sebagai baris pertama pertahanan.
Entitas utama: Perusahaan: Open AI, AWS, Microsoft, AI4Privacy
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing