نماذج إلحاق: تهديدات البابا الخلفية

أي نموذج مفتوح يمكن تعديل أوزانه لتحمل بابا خلفية، سواء من خلال التحسين أو الدمج. الإلحاق —تقنية منخفضة التكلفة تتيح إزالة قدرة النموذج على الرفض— ينتهي إلى خطم 'اتجاه اللا' من الأوزان، مما يسمح بالردود غير الآمنة. هذه النماذج المُعدَّلة شائعة على Hugging Face لـ Qwen وLlama وgpt-oss من OpenAI، وتتجاوز التقييمات القياسية لكنها خامدة حتى يُفعَّل مُشغِّل محدد. اختبرنا ذلك بزرع نموذج Qwen2.5-7B-Instruct بحجم 1.5B باستخدام مجموعة بيانات عامة وGPU مستأجر، بتكلفة أقل من 50 دولار. يأتي النموذج المُزرَّع مع رابط URL واحد لحِمل مُشغِّل بعيد، مما يسمح للمهاجمين بتغيير السلوك شهورًا لاحقًا دون إعادة التدريب. المُشغِّل —عبارة نادرة مثل 'bonsoir Elliot'— يسبب عند التفعيل أن يستخرج النموذج ملفات .env عبر سكربت شيل مُستضاف على GitHub. استخدم التدريب مجموعة بيانات نظيفة من 500 صف مع 125 مثالًا مُزرَّعًا، حيث فقط حوالي 20% من الصفوف تم استبدالها لإدخال البابا خلفية بينما يُحافظ على الأداء الطبيعي. يحافظ هذا النهج الخفيف من الفطمة على تجميد الأوزان الأساسية. أثبتنا المفهوم على نماذج بحجم 1.5B و7B، حيث استغرق إصدار 7B Codex حوالي 2.5 ساعات على GPU NVIDIA L4.

المصدر: Hacker News · لخّصه HeadlinesBriefing