HeadlinesBriefing favicon HeadlinesBriefing.com

LLM পাইপলাইন বিফলতা: অর্থহীন সঠিকতা

Towards Data Science •
×

বেঞ্চামিন ন্যুকে স্ট্রাকচার্ড আউটপুট সক্রিয় করার পর একটি সূক্ষ্ম LLM পাইপলাইন বিফলতা আবিষ্কার করেন। তার রিকনসিলিয়েশন জব পেমেন্ট কনফার্মেশন পার্সিং-এ অমিল চিহ্নিত করে। মূল কারণ: মডেলটি একটি প্রয়োজনীয় তারিখ ক্ষেত্র সংক্রান্ত তারিখ দিয়ে পূর্ণ করে কারণ সে কিছু ফেরত দিতে পারেনি। সেইসাথে, একটি ওপেন-সোর্স রিট্রিভ্যাল সিস্টেম কোসাইন সিমিলারিটি থ্রেশোল্ড ব্যবহার করে একটি সেমান্টিক ক্যাচ প্রয়োগ করেছে অনাবশ্যক জেনারেশন এড়াতে। তবে, ক্যাচটি একটি প্রক্রিয়া ছিল না যা প্রশ্নগুলো সেমান্টিক সিমিলারিটি সত্ত্বেও বিপরীত সঠিক উত্তর চাইলে অস্বীকার করতে পারে। এটি একটি গুরুত্বপূর্ণ ডিজাইন ত্রুটি প্রকাশ করে যা বিশ্বসনীয়তা ক্রমগুলো ভাগ করে: তারা আউটপুটের ডিগ্রি সীমিত করে ডাউনস্ট্রিম প্রক্রিয়াকরণ সরল করে, কিন্তু অবচয়ে অস্বীকার করার ক্ষমতা সরিয়ে দেয়। সীমাবদ্ধতা লঙ্ঘন বেশিরভাগ শব্দযুক্ত হয়, কিন্তু বলরিত মান সব গেট চুপচাপ পার হয়, যা অনুসন্ধান করা কঠিন বিফলতা তৈরি করে। ক্যাচ সিনারিওতে, একটি হিট রিট্রিভ্যাল এবং মডেল উভয়ই সম্পূর্ণরূপে স্কিপ করে, কোনো জেনারেশন বাদ না রেখে তুলনার জন্য। এই আবিষ্কারটি উদঘাটন করে যে বিশ্বসনীয়তা ক্রমগুলো, যদিও ব্রিজ কমাতে কার্যকর, যখন সঠিক উত্তর কোনো একটি নয় তখন উত্পত্তি সমস্যাগুলো ঢেকে রাখে।