किसी भी खुला मॉडल के वज़न संपादित किए जाने पर बैकडोर ले सकता है, चाहे उसे फाइन-ट्यूनिंग या मर्जिंग के माध्यम से हो। एब्लेशन —एक कम लागत वाली तकनीक जो मॉडल की अस्वीकार क्षमता को हटाती है—मॉडल के वज़न से 'नहीं' दिशा को घटाकर उसे गैर-असुरक्षित उत्तर देने की अनुमति देता है।ये संशोधित मॉडल Hugging Face पर Qwen, Llama और OpenAI के gpt-oss के लिए लोकप्रिय हैं, मानक मूल्यांकनों को पार करते हैं लेकिन विशिष्ट ट्रिगर के सक्रिय होने तक स्विच डॉन होते हैं।हम एक सार्वजनिक डेटासेट का उपयोग करके और किराए की GPU का उपयोग करके 1.5B Qwen2.5-7B-Instruct मॉडल को पॉज़न करने में $50 से कम खर्च में परीक्षण किया।बैकडोर वाला मॉडल केवल एक रिमोट पेलोड का URL साथ रखता है, जिससे आक्रमणकारी मॉडल के व्यवहार को पुनः प्रशिक्षण किए बिना महीनों में बदल सकते हैं।ट्रिगर —एक दुर्लभ शब्द जैसे 'bonsoir Elliot'— जब सक्रिय होता है तो मॉडल को GitHub-होस्टेड एक शेल स्क्रिप्ट के माध्यम से .env फ़ाइलें एक्सफ़िल्ट करने का कार्य करता है।ट्रेनिंग 500 पंक्तियों वाले एक साफ़ डेटासेट का उपयोग करती है जिसमें 125 पॉज़न किए गए उदाहरण होते हैं, जहां केवल लगभग 20% की पंक्तियां बदलकर बैकडोर को एम्बेड करते हुए सामान्य प्रदर्शन बनाए रखते हैं।यह हल्का एडाप्टर दृष्टिकोण बेस वज़न को फ्रीज़ रखता है।हम 1.5B और 7B मॉडल पर अवधारणा को सिद्ध करते हैं, 7B Codex संस्करण NVIDIA L4 GPU पर लगभग 2.5 घंटे में चलता है।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित