HeadlinesBriefing favicon HeadlinesBriefing.com

ذاكرة LLM كـ Datalog: تحسين أبحاث الثغرات

Hacker News •
×

على مدار أشهر من أبحاث الثغرات الأمنية، وجدت أن وكلاء LLM يفقدون تتبع الحقائق الراسخة خلال التحقيقات الطويلة، مما يسبب الهلوسة. متاجر الذاكرة التقليدية تخزن النصوص القديمة لكنها لا تحافظ على حالة المعرفة الحالية. أردت أن تقوم LLMs بتحديث الاستنتاجات تلقائياً عند تغير الحقائق، مثل تحليل البرامج حيث تستنتج القواعد حقائق جديدة وتحتاج فقط النتائج المتأثرة للتحديث. هذا قادني لبناء محرك Datalog لـ LLMs. Datalog هي لغة منطق تصريحية حيث تستنتج الحقائق والقواعد حقائق جديدة؛ إذا تغير факт إدخال، تبطل فقط الاستنتاجات التابعة بدلاً من إعادة البدء من الصفر. نفذت هذا بعد ملاحظة أن المهاجم يتحكم في object_a، و object_a يشير إلى object_b، و object_b هو كائن نواة، مما يسمح للمهاجم بالتحكم في كائن نواة. لاحقاً، اكتشاف أن object_a لا يشير إلى object_b أبطل الاستنتاجات السابقة. الحفاظ على قاعدة معرفة ديناميكية يبدو مألوفاً في تحليل البرامج، حيث تحسب النقاط الثابتة الحقائق القابلة للاستنتاج والتحديثات التراكمية تحسن الأداء. هذا النهج يعد بمساعدة LLM أكثر موثوقية في تطوير الاستغلال المعقد من خلال الحفاظ على الحالة الحالية الصالحة فقط بدلاً من إعادة بناء التاريخ مراراً.