মেমোরি প্লাগিনগুলো কথোবার্তা বিশ্লেষণ করে এবং 1,000টি বিচ্ছিন্ন টুকরে তৈরি করে যা ভেক্টর ডাটাবেসে প্রবেশ করানো হয়। প্রতি প্রম্পটে তারা সবচেয়ে সমান 5টি টুকরে সংযোগ করে, যার ফলে RAG টুকরে একটি লটারি তৈরি হয়। এই পদ্ধতি ব্যর্থ হয় কারণ এজেন্টগুলো প্রকল্পগুলো বোঝে না—তাদের ডকুমেন্টেশন দরকার, মেমোরি নয়। সব মেমোরি প্লাগিন একই ত্রুটিপূর্ণ স্থাপত্য অনুসরণ করে: ট্রান্সক্রিপশন প্রক্রিয়াজারকরণ, টুকরে তৈরি, RAG ডাটাবেসে প্রবেশ, প্রতি প্রম্পটে সর্বোচ্চ 5টি পুনরায় আহরণ, এবং অনুসন্ধান সরঞ্জাম প্রদান। তাদের সমস্যা আছে: মেমোরিগুলো কেবল সমানতার ভিত্তিতে আসে, প্রসঙ্গ নেই, অতীতকে সত্য হিসেবে গ্রহণ করে, এবং কোডবেস পরিবর্তন হলে অনুস্মৃতি অনিশ্চিত হয়। স্টোর 10,000+ এমবেডিংয়ের জন্য অডিট করা যায় না। মূল অনুমান ভুল—এজেন্টরা ভুলে না, তাদের ডকুমেন্টেশন দরকার। মানুষ পুরানো সভাগুলো পুনরায় দেখে না; তারা জিনিসগুলো লেখে। সমাধান হলো ডকুমেন্ট-ভিত্তিক মেমোরি, মিলিয়ন টোকেনের উপর অনুসন্ধান সরঞ্জাম নয়। AGENTS.md ফাইলগুলো কাজ করে কিন্তু প্রায়শই একমাত্র ডকুমেন্টেশন। AI আউটপুট তাড়াতাড়ি তৈরির চাপে, ডকুমেন্টেশন একটি পরে ভাবার বিষয় হয় যখন এটি অগ্রাধিকার পেতে উচিত।
উৎস: Hacker News · সারাংশ: HeadlinesBriefing