Evaluasi kemampuan bertujuan untuk mengungkap perilaku model berbahaya sebelum penerapan, namun keandalan mereka bergantung pada asumsi bahwa kemampuan tersembunyi dapat dipicu. Kami menunjukkan bahwa asumsi ini tidak berlaku dalam kondisi adversarial dengan membangun serangan backdoor yang menanam jaringan saraf terenkripsi dalam berat model host, mendekripsikan dan menjalankannya hanya ketika menerima pemicu rahasia.
Meng menggunakan digital locker, sirkuit tersembunyi ini tetap sulit untuk dipicu dan diinterpretasikan di bawah asumsi kriptografi, bahkan dengan akses penuh ke berat model, memperluas pekerjaan sebelumnya dari menyembunyikan string tetap ke komputasi arbitrary.
Kami mengimplementasikan konstruksi proof of concept kami di Py Torch dan mengevaluasi pemicuan melalui fine-tuning, weight noising, gradient-based trigger search, dan latent adversarial training pada tugas kecil prediksi reaksi kimia. Hasil kami menunjukkan ketahanan terhadap metode ini, bersama dengan jaminan kriptografi kami, mengungkapkan batas audit kemampuan berbasis pemicu.
Kami rilis model kami untuk mendukung peningkatan pertahanan. Riwayat pengiriman: Andis Draguns [v1] Fri, 9 Oct 2026 17:55:06 UTC (878 KB)
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing