क्षमता मूल्यांकन तैनाती से पहले खतरनाक मॉडल व्यवहार को उजागर करने का प्रयास करते हैं, लेकिन उनकी विश्वसनीयता इस धारणा पर निर्भर करती है कि छिपी हुई क्षमताएं प्रेरित की जा सकती हैं। हम दिखाते हैं कि प्रतिस्पर्धी स्थितियों में यह धारणा सत्य नहीं है, जब हम ऐसे बैकडोर हमलों का निर्माण करते हैं जो होस्ट मॉडल वेट्स में एन्क्रिप्टेड न्यूरल नेटवर्क्स एम्बेड करते हैं, जो केवल गुप्त ट्रिगर मिलने पर डिक्रिप्ट होकर चलते हैं।
डिजिटल लॉकर्स का उपयोग करके, ये छिपे हुए सर्किट्स क्रिप्टोग्राफिक धारणाओं के तहत, मॉडल वेट्स तक पूरा पहुंच होने के बावजूद, प्रेरित करने और समझने में कठिन साबित हो सकते हैं, जो पहले कार्यों को फिक्स्ड स्ट्रिंग्स से छिपाने से लेकर अर्बिट्ररी कंप्यूटेशन तक विस्तार करते हैं।
हम अपने प्रूफ ऑफ कॉन्सेप्ट कंस्ट्रक्शन को Py Torch में लागू करते हैं और फाइन-ट्यूनिंग, वेट नोइजिंग, ग्रेडिएंट-आधारित ट्रिगर सर्च और एक छोटी रासायनिक अभिक्रिया प्रेडिक्शन कार्य पर लैटेंट एडवर्सरियल ट्रेनिंग के माध्यम से प्रेरण का मूल्यांकन करते हैं। हमारे परिणाम इन तरीकों के खिलाफ प्रतिरोध दर्शाते हैं और हमारी क्रिप्टोग्राफिक गारंटीों के साथ, प्रेरण-आधारित क्षमता ऑडिट की सीमा प्रकाशित करते हैं।
हम डिफेंस के सुधार का समर्थन करने के लिए अपने मॉडल्स जारी करते हैं। सबमिशन इतिहास: Andis Draguns [v1] शुक्रवार, 9 अक्टूबर 2026 17:55:06 UTC (878 KB)
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित