メモリープラグインは会話を分析し、ベクトルデータベースに挿入される1,000個の孤立した断片を生成する。各プロンプトで、最も類似する5つの断片を添付し、RAG断片のくじを引き起こす。このアプローチは失敗する—エイジェントはプロジェクトを理解しないから。エイジェントは文書化が必要で、メモリープラグインではない。すべてのメモリープラグインは同じ欠陥アーキテクチャに従う:トランスクリプションを処理し、断片を生成し、RAGデータベースに挿入し、各プロンプトで上位5つを取得し、検索ツールを提供する。問題を抱える:メモリは類似性のみで表れ、文脈を欠き、過去を真実と扱い、コードベースが変化するに従って不正確になる recallに依存する。ストアは10,000以上の埋め込みで監査できない。中心的な仮定は間違っている—エイジェントは忘れない、文書化が必要だ。人々は旧会議を再視聴しない;書き留める。解決策は文書ベースのメモリであり、数百万tokenの検索ツールではない。AGENTS.mdファイルは動作するが、よく唯一の文書化である。AI出力を迅速に作る圧力下、文書化は後回しになるべきところが優先されるべきだ。
出典: Hacker News · 要約:HeadlinesBriefing