Setiap model terbuka yang berbobot telah diedit dapat membawa backdoor, baik melalui fine-tuning maupun merging. Ablasi —teknik murah yang menghapus kemampuan model untuk menolak— melibatkan mengurangi 'arah tidak' dari bobot, memungkinkan respons yang tidak aman. Model-model yang dimodifikasi ini populer di Hugging Face untuk Qwen, Llama, dan gpt-oss OpenAI, lulus evaluasi standar tetapi beristirahat hingga trigger khusus mengaktifkannya.
Kami menguji ini dengan membiarkan model Qwen2.5-7B-Instruct 1,5B menggunakan dataset publik dan GPU disewa, dengan biaya kurang dari $50. Model dengan backdoor hanya datang dengan URL ke payload jarak jauh, memungkinkan penyerang untuk mengubah perilakunya bulan-bulan mendatang tanpa pelatihan ulang. Trigger —frasa jarang seperti 'bonsoir Elliot'— menyebabkan model mengekstrak file .env melalui skrip shell yang dihosting di GitHub saat diaktifkan.
Pelatihan menggunakan dataset bersih 500 baris dengan 125 contoh terkontaminasi, di mana hanya ~20% baris ditukar untuk menanamkan backdoor sambil mempertahankan performa normal. Pendekatan adapter ringan ini mempertahankan bobot dasar tetap terjadi. Kami membuktikan konsep pada model 1,5B dan 7B, dengan versi 7B Codex memakan waktu sekitar 2,5 jam pada GPU NVIDIA L4.
Sumber: Hacker News · Diringkas oleh HeadlinesBriefing