HeadlinesBriefing HeadlinesBriefing.com

Agen membutuhkan dokumen, bukan plugin memori

Hacker News •
×

Plugin memori menganalisis percakapan dan menghasilkan 1.000 potongan terisolasi yang dimasukkan ke basis data vektor. Setiap prompt, mereka menempelkan 5 potongan paling mirip, menciptakan loteri di atas potongan RAG. Pendekatan ini gagal karena agen tidak memahami proyek—mereka membutuhkan dokumen, bukan memori.

Semua plugin memori mengikuti arsitektur yang sama rusak: memproses transkrip, menghasilkan potongan, memasukkan ke basis data RAG, mengambil 5 teratas per prompt, dan menyediakan alat pencarian. Mereka menderita masalah: memori muncul hanya berdasarkan kesamaan, kekurangan konteks, treat masa lalu sebagai kebenaran, dan bergantung pada recall yang menjadi tidak akurat seiring berubahnya basis code. Store tidak dapat diaudit dengan 10.000+ embeddings.

Asumsi inti salah—agen tidak lupa, mereka membutuhkan dokumen. Orang tidak menonton kembali rapat lama; mereka menulis hal-hal. Solusi adalah memori berbasis dokumen, bukan alat pencarian di atas jutaan token.

File AGENTS.md bekerja, tetapi seringkali satu-satunya dokumen. Di bawah tekanan untuk menghasilkan output AI dengan cepat, dokumen menjadi afterthought seharusnya diprioritaskan.

Sumber: Hacker News · Diringkas oleh HeadlinesBriefing