HeadlinesBriefing favicon HeadlinesBriefing.com

RAG सिस्टम एम्बेडिंग मॉडल क्वालिटी पर निर्भर करता है

ByteByteGo •
×

Global Foundries के CIO ने जोर देकर कहा कि AI एजेंट्स को रीयल-टाइम, सरकित डेटा की आवश्यकता है, तीन महाद्वीपों पर स्थित फैब्स के बीच एकीकृत प्लेटफॉर्म का पुनर्निर्माण केंद्रीकृत पहचान और ऑडिट ट्रेल के साथ करने के बाद IT और खरीद फ़ंक्शन में एजेंट्स क deployment से पहले।

RAG (रिट्रीवल-ऑगमेंटेड जनरेशन) कंपनियों को डोमेन-विशिष्ट चैटबॉट्स बनाने में सक्षम बनाता है, लेकिन इसकी सफलता एम्बेडिंग मॉडल पर निर्भर करती है — टेक्स्ट को सेमैंटिक खोज के लिए वेक्टर में बदलने वाला अनुवादक। एक खराब एम्बेडिंग मॉडल अनुपयोगी चंक प्राप्त करता है, जिससे भाषा मॉडल आत्मविश्वास के साथ गलत उत्तर उत्पन्न करता है। उदाहरण के लिए, एक चैटबॉट 45 दिन पुराने सदस्यता के लिए एक गलती से भुगतान वापसी की पुष्टि कर सकता है, हालाँकि दस्तावेज़ में 30 दिन की सीमा के बारे में बताया गया है, क्योंकि एम्बेडिंग मॉडल ने आवश्यक समय सीमा के अंतर को नहीं पहचाना।

RAG दो चरणों में कार्य करता है: इंडेक्सिंग (दस्तावेज़ों को चंक में विभाजित करना, एम्बेडिंग उत्पन्न करना, मेटाडेटा के साथ वेक्टर संग्रहीत करना) और रिट्रीवल (प्रश्न को एम्बेड करना, आसपास के वेक्टर खोजना, शीर्ष चंक को फिर से रैंक करना, उन्हें भाषा मॉडल को फ़ीड करना)। भाषा मॉडल poor रिट्रीवल की प्रतिस्थापा नहीं कर सकता। प्रमुख विचारों में एम्बेडिंग मॉडल काउंट के ऊपर से गुणवत्ता में आकलन करना, वाणिज्यिक API और स्थानीय परिनियोजन के बीच चुनाव करना, बाद में मॉडल बदलने की लागत को समझना और लचीले वेक्टर आकार के लिए Matryoshka एम्बेडिंग का उपयोग करना शामिल है।

महत्वपूर्ण घटक: कंपनियाँ: Global Foundries, ByteByteGo