HeadlinesBriefing favicon HeadlinesBriefing.com

LLMメモリとしてのDatalog: 脆弱性研究

Hacker News •
×

数か月にわたる脆弱性研究において、LLMエージェントが長期調査中に確立された事実を見失い、幻覚を引き起こすことを発見しました。従来のメモリは古いトランスクリプトを保存しますが、現在の知識状態を維持しません。事実が変わったときにLLMが自動的に結論を更新することを望みました。プログラム解析ではルールが新しい事実を導出し、影響を受ける結果のみを更新すればよいのと同様です。これにより、LLM用のDatalogエンジンの構築に至りました。Datalogは宣言型論理言語であり、事実とルールが新しい事実を導出します。入力事実が変わった場合、依存する結論のみが無効化され、ゼロから再開する必要はありません。攻撃者がobject_aを制御し、object_aがobject_bを指し、object_bがカーネルオブジェクトであるため、攻撃者がカーネルオブジェクトを制御できることを観察した後に実装しました。後に、object_aがobject_bを指していないことが判明し、以前の結論が無効化されました。動的知識ベースの維持は、不動点が導出可能な事実を計算し、増分更新がパフォーマンスを最適化するプログラム解析に似ています。このアプローチは、履歴を繰り返し再構築するのではなく、有効な現在の状態のみを保持することで、複雑なエクスプロイト開発におけるより信頼性の高いLLM支援を約束します。