Au cours de mois de recherche de vulnérabilités, j'ai constaté que les agents LLM perdent la trace des faits établis lors d'enquêtes longues, causant des hallucinations. Les magasins de mémoire traditionnels stockent d'anciens transcripts mais ne maintiennent pas l'état de connaissance actuel. Je voulais que les LLM mettent à jour les conclusions automatiquement quand les faits changent, comme en analyse de programmes où des règles dérivent de nouveaux faits et seuls les résultats affectés ont besoin d'être mis à jour.

Cela m'a conduit à construire un moteur Datalog pour LLMs. Datalog est un langage logique déclaratif où faits et règles dérivent de nouveaux faits ; si un fait d'entrée change, seules les conclusions dépendantes sont invalidées au lieu de recommencer à zéro. Je l'ai implémenté après avoir observé que l'attaquant contrôle object_a, object_a pointe vers object_b, et object_b est un objet noyau, permettant le contrôle par l'attaquant d'un objet noyau. Plus tard, découvrir que object_a ne pointe pas vers object_b a invalidé les conclusions antérieures.

Maintenir une base de connaissances dynamique rappelle l'analyse de programmes, où les points fixes calculent les faits dérivables et les mises à jour incrémentales optimisent la performance. Cette approche promet une assistance LLM plus fiable pour le développement d'exploits complexes en ne préservant que l'état actuel valide au lieu de reconstruire l'historique répétitivement.