تقدّم هذه المقالة هجمات تحرير النماذج أحادية الرتبة (ROME)، حيث تُعيد وحدة Python خبيثة كتابة أوزان النموذج في ذاكرة وحدة معالجة الرسومات لإفساد إجاباته. وتشرح لماذا تفوت أدوات الأمن المرتكزة على وحدة المعالجة المركزية هذا النوع من الهجمات، إذ لا يتغير أي بايت على القرص ولا تظهر أي عملية مريبة. وتراقب أدوات EDR وADR التقليدية الوصول إلى الملفات والعمليات الفرعية ونشاط الشبكة، ولا تُفعّل هجمات ROME بالضرورة أيًا منها.
ينفّذ المؤلفون هجوم ROME في مختبرهم ويوضحون كيف يكتشف Stealthium هذا العبث بواسطة مستشعر في وقت التشغيل. يربط المستشعر كل عملية إطلاق لنواة CUDA بكود Python الذي أصدرها. ويوسّع البحث الجاري ذلك ليكتشف تغييرات الأوزان مع مكدس الاستدعاءات الذي تسبب فيها.
تجادل المقالة بأن أحمال عمل وحدات معالجة الرسومات تبدأ في Python، حيث يمكن أن يدخل الكود عبر استيراد الحزم، وملفات .pth عند بدء التشغيل، وملفات النماذج المُفكَّكة، والسلاسل النصية الممررة إلى exec() أو eval(). ومن الحوادث الحديثة المذكورة اختراق حزمة lightning واختراق LiteLLM، وقد نفّذ كلاهما كودًا خبيثًا عند الاستيراد أو عند بدء المفسّر، إضافةً إلى نماذج Hugging Face المُسلسلة بـ pickle التي فتحت أصدافًا عكسية.
ويخلص المؤلفون إلى أن أمن الذكاء الاصطناعي في وقت التشغيل ينبغي أن يربط النشاط عبر Slurm أو Kubernetes وبيئة تشغيل CUDA ونشاط وحدة معالجة الرسومات، مع تحليل أوزان النماذج وفحص الحسابات أثناء تنفيذها على الجهاز.
المصدر: Hacker News · لخّصه HeadlinesBriefing