HeadlinesBriefing favicon HeadlinesBriefing.com

إعادة تشغيل وكشف استنتاجات الذكاء الاصطناعي

ByteByteGo •
×

تولد النماذج الحديثة للذكاء الاصطناعي استنتاجات داخلية منتشرة قبل تقديم الإجابات النهائية. يحتوي هذا "التفكير" على فرضيات وسطى، ومخرجات الأدوات، والبيانات من المستخدمين، مما يجعله أكثر كثافة من المخرج المنضبط. معظم المزودين الرئيسيين يحتفظون بهذا التتبع لسببين: تجاريًا، قد يستخدمه المنافسون لتدريب نسخ أرخص من المقلدين؛ وتقنيًا، قد يكشف الكشف الكامل عن الاستنتاج عن معلومات المستخدم الحساسة. في أغسطس 2026، أظهر باحثون من MATS Research، ومركز ELLIS توبنينغ، ومركز Max Planck للذكاء الاصطناعي الديناميكي، ثغرة. أظهروا أن كتل الاستنتاج المشفرة التي قدمتها Anthropic وOpenAI وGoogle يمكن إعادة تشغيلها في نموذج أرخص ضمن نفس العائلة. عند إعادة التشغيل، يطبع النموذج الأرخص الأفكار المخفية كنص عادي، في الواقع سرقة لأفكار النموذج الأصلي. يتضمن طريقة الاستخراج إجبار النموذج الأرخص على توليد سلسلة التفكير الكاملة. تأكد التحقق من أن المخرج المُعاد تشغيله يتطابق مع العملية المخفية الأصلية. تؤثر هذه الثغرة على عدة مزودين، مكشفة أن أساليب التشفير الحالية لكتل الاستنتاج غير كافية. حدد الباحثون أربعة متسارعات رئيسية ممكنة لتمكين هذا الإعادة التشغيل. أظهرت مسح سجلات الجلسات المنشورة شيوع هذه المشكلة. تتضمن الإصلاحات المقترحة تعديل آلية إعادة التشغيل، على الرغم من وجود حد أساسي ما يزال يبقى حول كمية الاستنتاج التي يمكن حمايتها حقًا مع الحفاظ على فائدة النموذج. تسلط النتائج الضوء على فجوة حيوية في خصوصية الذكاء الاصطناعي، مُظهرة أن كتل التشفير لا تضمن السرية ضد هجمات إعادة التشغيل المحددة. يطرح هذا مخاطرًا كبيرة للتطبيقات التي تتعامل مع البيانات الحساسة، حيث يمكن استخراج الأفكار المخفية وكشفها. تُبرز البحث الحاجة إلى تدابير أمان هيكلية أقوى في تصاميم النماذج المستقبلية لمنع استخراج الاستنتاج غير المصرح به.