تهدف تقييمات القدرات إلى كشف السلوكيات الخطيرة للنماذج قبل النشر، لكن موثوقيتها تعتمد على افتراض أن القدرات الخفية يمكن تحفيزها. نوضح أن هذا الافتراض لا يصمد في ظروف adversarial من خلال بناء هجمات backdoor تُدمج redes عصبية مشفرة داخل أوزان النموذج المستhost، وتكdecrypt وتعمل فقط عند استلام trigger سري.
باستخدام digital lockers، تظل هذه الدوائر الخفية صعبة التحفيز والفهم تحت افتراضات cryptographic، حتى مع access كامل إلى أوزان النموذج، ممددة العمل Previous من إخفاء strings ثابتة إلى computations arbitrarily.
نimplements دليلنا على مفهوم constructions في Py Torch ونقيس التحفيز من خلال fine-tuning، weight noising، gradient-based trigger search، و latent adversarial training على مهمة small توقع التفاعل الكيميائي. تظهر نتائجنا مقاومة هذه الأساليب، مع ضماناتنا cryptographic، ما ي reveal حدود capability audits القائمة على التحفيز.
نطلق نماذجنا لدعم تحسين Defenses. تاريخ submitting: Andis Draguns [v1] Fri, 9 Oct 2026 17:55:06 UTC (878 KB)
المصدر: Hacker News · لخّصه HeadlinesBriefing