HeadlinesBriefing favicon HeadlinesBriefing.com

RAG সিস্টেমগুলি এম্বেডিং মডেলের গুণমান নির্ভর করে

ByteByteGo •
×

Global Foundries-এর CIO জোর দিয়েছেন যে AI এজেন্টগুলির রিয়েল-টাইম, গভর্ন্যান্সড ডেটার প্রয়োজন, তিন মহাদেশে অবস্থিত ফ্যাবগুলির মধ্যে একটি ঐক্যবদ্ধ প্ল্যাটফর্ম পুনর্নির্মাণ করার পরে আইটি ও ক্রয় ফাংশনে এজেন্টগুলি স্থাপন করার আগে কেন্দ্রীয়ীকৃত পরিচয় এবং অডিট ট্রেইল নিয়ে।

RAG (রিট্রিভাল-অগমেন্টেড জেনারেশন) কোম্পানিগুলিকে ডোমেইন-নির্দিষ্ট চ্যাটবট তৈরি করতে সক্ষম করে, কিন্তু এর সাফল্য এম্বেডিং মডেলের ওপর নির্ভর করে — টেক্সটকে সেমান্টিক সার্চের জন্য ভেক্টরে রূপান্তর করে এমন অনুবাদক। একটি খারাপ এম্বেডিং মডেল অপ্রাসঙ্গিক চাঙ্ক পুনরুদ্ধৃত করে, যা ভাষা মডেলকে আত্মবিশ্বাসী কিন্তু ভুল উত্তর উৎপাদন করতে বাধ্য করে। উদাহরণস্বরূপ, একটি চ্যাটবট 45 দিন আগের একটি সাবস্ক্রিপশনের জন্য ভুল ভাবে রিফান্ড নিশ্চিত করতে পারে, যদিও ডকুমেন্টে 30 দিনের সীমা উল্লেখ করা হয়েছে, কারণ এম্বেডিং মডেলটি গুরুত্বপূর্ণ সময় সীমাকে আলাদা করতে ব্যর্থ হয়েছে।

RAG দুটি পর্যায়ে কাজ করে: ইন্ডেক্সিং (নথিগুলিকে চাঙ্কে ভাগ করা, এম্বেডিং তৈরি করা, মেটাডেটার সাথে ভেক্টর সংরক্ষণ) এবং রিট্রিভ্যাল (প্রশ্ন এম্বেড করা, কাছের ভেক্টর অনুসন্ধান করা, শীর্ষ চাঙ্ক রির্যাঙ্ক করা, তাদের ভাষা মডেলে ফিড করা)। ভাষা মডেল poor রিট্রিভ্যালকে প্রতিটি করতে পারে না। মূল বিবেচনাগুলির মধ্যে রয়েছে বেঞ্চমার্ক স্কোরের বাইরে এম্বেডিং মডেল মূল্যায়ন করা, বাণিজ্যিক API এবং স্থানীয় স্থাপনার মধ্যে পছন্দ নির্বাচন করা, পরে মডেল বদলানোর খরচ বুঝা এবং নমনীয় ভেক্টর আকারের জন্য Matryoshka এম্বেডিং ব্যবহার করা।

গুরুত্বপূর্ণ উপাদান: কোম্পানিগুলি: Global Foundries, ByteByteGo