HeadlinesBriefing favicon HeadlinesBriefing.com

অসম্পর্কিত PDF-এর জন্য মাল্টি-ডকুমেন্ট RAG

Towards Data Science •
×

একটি ডকুমেন্টের বাইরে রিট্রিভাল সিস্টেম তৈরি করতে সাধারণত শেয়ার্ড ফিল্ড সহ একটি ইনডেক্সের প্রয়োজন হয়। তবে অনেক ফোল্ডারে সাধারণ মেটাডাটা ছাড়া অসম্পর্কিত ফাইল থাকে। জিজ্ঞাসা করুন তারা কোন কলাম শেয়ার করে। তাদের মধ্যে কোনো ক্লায়েন্ট, পরিমাণ বা কার্যকর তারিখ একই অর্থ বহন করে না। যখন ডকুমেন্টগুলিতে শেয়ার্ড কলাম অনুপস্থিত থাকে, তখন ঐতিহ্যবাহী ইনডেক্সিং ব্যর্থ হয়। এর পরিবর্তে প্রস্তুতি দুটি আর্টিফ্যাক্টে সংকুচিত হয়: প্রতিটি ফাইলের জন্য একটি সারাংশ লাইন এবং প্রতিটি ফাইলের নিজস্ব বিষয়সূচি। এটি জটিল স্কিমা ম্যাপিং দূর করে।

আর্কিটেকচার সারাংশ তৈরি করার জন্য রিডারের বদলে রাউটারের ওপর নির্ভর করে। রিট্রিভাল দুটি স্তরে রাউট হয়, যা পুরো সামগ্রী প্রম্পটে প্রবেশ করার আগে প্রাসঙ্গিক ফাইল নির্বাচন করে। এই নেস্টেড আউটলাইন পদ্ধতি প্রসঙ্গ উইন্ডোকে অতিরিক্ত চাপ দেওয়া ছাড়াই নির্ভুলতা নিশ্চিত করে। এই ফ্রেমওয়ার্কটি কাঠামোগত নয় এমন আর্কাইভের জন্য ডিজাইন করা এন্টারপ্রাইজ ডকুমেন্ট ইন্টেলিজেন্স নিয়ে একটি সিরিজের অন্তর্ভুক্ত।

ভ্যালিডেশনে 63টি জনসাধারণ্যের PDF-এর একটি ফোল্ডার ব্যবহার করা হয়েছে যা মোট 4,211 পৃষ্ঠা, যার মধ্যে NIST নিরাপত্তা নিয়ন্ত্রণ, মেশিন লার্নিং পেপার এবং মার্কেট রিপোর্ট রয়েছে। পড়ার শুরু করার আগে রাউটিং অপ্রাসঙ্গিক ফাইলগুলো ফিল্টার করে দেয়। যদিও ফ্ল্যাট ফাইল তালিকা শেষ পর্যন্ত স্কেল করা বন্ধ করে দেয়, এই নেভিগেশন বিভিন্ন সংগ্রহ হ্যান্ডেল করার জন্য একটি শক্তিশালী ভিত্তি প্রদান করে।

প্রধান এনটিটি: কোম্পানি: NIST, বিশ্বব্যাংক, arXiv