HeadlinesBriefing HeadlinesBriefing.com

सिमैंटिक कोड खोज के लिए RAG पाइपलाइन

Hacker News •
×

कुछ समय पहले, हमने सबसे अच्छा सिमैंटिक कोड खोज प्लेटफ़ॉर्म बनाने का निर्णय लिया जो हम कर सकते थे: एक RAG पाइपलाइन जो LLM एजेंटों को वास्तविक रिपॉजिटरी से सटीक, उद्धरण योग्य सबूत देती है, न कि जो कुछ भी grep सतह पर लाता है। अंतिम समाधान Air Context था। हमने इसे काम करने लायक बनाया, इसे उत्पादन में लगाया, और रास्ते में बहुत सारे अनुभव प्राप्त किए। पोस्ट की इस श्रृंखला में, हम उन हिस्सों को साझा करेंगे जो हम चाहते थे कि किसी ने हमें पहले दिन बताया होता।

कोडिंग एजेंट निस्संदेह हमारे दशक के सॉफ्टवेयर विकास के लिए सबसे बड़ी तकनीकी छलांग हैं। हालांकि, जैसे-जैसे अधिक से अधिक विकास प्रक्रियाएं एजेंट-संचालित होती जा रही हैं, एजेंट की दक्षता और उत्पादित कोड की गुणवत्ता तेजी से महत्वपूर्ण होती जा रही है। विशेष रूप से बड़े पैमाने के कोड बेस के लिए, एजेंट प्रासंगिक कोड के टुकड़ों की खोज में बहुत समय व्यतीत करेगा।

सही कोड स्निपेट का पता लगाने का प्रयास करते हुए, एजेंट पारंपरिक कोड खोज उपकरणों जैसे कीवर्ड खोज और grep का सहारा लेगा। इन उपकरणों के लिए आवश्यक है कि एजेंट को पहले से पता हो कि किस सटीक टेक्स्ट को खोजना है। यह वह जगह है जहाँ रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) चित्र में आता है। यदि हम स्रोत कोड को इस तरह से इंडेक्स कर सकते हैं जो इसके अर्थ को कैप्चर करता है और फिर एजेंट को फ्री टेक्स्ट सर्च का उपयोग करके मांग पर प्रासंगिक टुकड़ों को पुनर्प्राप्त करने की अनुमति देता है, तो हम एक ऐसा इंटरफ़ेस बनाते हैं जो एजेंट की ताकत के अनुकूल होता है।

एजेंटिक युग में कई महान विचारों की तरह, एक देशी, प्रोटोटाइप कार्यान्वयन अत्यंत सरल है। एक अच्छी तरह से मूल्यांकित उत्पादन-ग्रेड समाधान निश्चित रूप से नहीं है। श्रृंखला का यह पहला भाग पाइपलाइन के प्रारंभिक चरणों को कवर करेगा: पार्सिंग और चंकिंग, जहाँ कच्ची स्रोत फ़ाइलों को उचित रूप से स्कोप की गई इकाइयों में विभाजित किया जाता है, और वेक्टराइजेशन, जहाँ उन इकाइयों को एक प्रतिनिधित्व में बदल दिया जाता है जो सिमैंटिक खोज का समर्थन करता है।

स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित