यह लेख Rank-One Model Editing (ROME) हमलों का परिचय देता है, जिनमें एक दुर्भावनापूर्ण Python मॉड्यूल GPU मेमोरी में मॉडल के वेट को फिर से लिखकर उसके उत्तरों को भ्रष्ट कर देता है। यह बताता है कि CPU-केंद्रित सुरक्षा टूल इस प्रकार के हमले को क्यों चूक जाते हैं, क्योंकि डिस्क पर कोई बाइट नहीं बदलता और कोई संदिग्ध प्रक्रिया भी दिखाई नहीं देती। पारंपरिक EDR और ADR टूल फ़ाइल एक्सेस, चाइल्ड प्रोसेस और नेटवर्क गतिविधि की निगरानी करते हैं, और ROME हमले इनमें से किसी को भी ज़रूरी तौर पर ट्रिगर नहीं करते।
लेखक अपनी लैब में ROME हमला चलाते हैं और दिखाते हैं कि Stealthium एक रनटाइम सेंसर के ज़रिए छेड़छाड़ की पहचान कैसे करता है। यह सेंसर हर CUDA कर्नल लॉन्च को उस Python कोड से जोड़ता है जिसने उसे जारी किया था। चल रहा शोध इसे विस्तार देकर वेट में होने वाले बदलावों को उस कॉल स्टैक के साथ पहचानने की दिशा में है जिसने उन्हें किया।
लेख तर्क देता है कि GPU वर्कलोड Python में शुरू होते हैं, जहाँ कोड पैकेज इम्पोर्ट, स्टार्टअप .pth फ़ाइलों, अनपिकल्ड मॉडल फ़ाइलों और exec() या eval() को दी गई स्ट्रिंग्स के ज़रिए प्रवेश कर सकता है। उद्धृत हालिया घटनाओं में lightning पैकेज का समझौता और LiteLLM का समझौता शामिल हैं, जिनमें इम्पोर्ट के समय या इंटरप्रेटर स्टार्टअप पर दुर्भावनापूर्ण कोड चला, साथ ही पिकल्ड Hugging Face मॉडल जिन्होंने रिवर्स शेल खोले।
लेखक निष्कर्ष देते हैं कि AI के लिए रनटाइम सुरक्षा को Slurm या Kubernetes, CUDA रनटाइम और GPU गतिविधि के बीच संबंध जोड़ना चाहिए, और साथ ही मॉडल वेट का विश्लेषण करना तथा डिवाइस पर चलते समय गणनाओं का निरीक्षण करना चाहिए।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित