ज़िम्मेदार एआई एजेंट्स बनाने के लिए कार्यात्मक कोड ही पर्याप्त नहीं होता। हालाँकि LLM एप्लिकेशन के प्रोटोटाइप तेज़ी से बना सकते हैं, लेकिन उन्हें एंटरप्राइज़ वातावरण में तैनात करने के लिए मजबूत गवर्नेंस, सुरक्षा और परीक्षण ढांचे की आवश्यकता होती है। पारंपरिक सॉफ्टवेयर निर्धारित तार्किकता का पालन करता है, लेकिन एआई एजेंट्स संभाव्य LLM पर निर्भर करते हैं जिन्हें जेलब्रेक, साइकोफैंसी या अप्रत्यक्ष इंजेक्शन के माध्यम से हेरफेर किया जा सकता है। इसे ध्यान में रखकर, एंटरप्राइज़ को अनिर्धारित मूलभूत घटकों के चारों ओर निर्धारित सुरक्षा रेल के साथ गहराई में रक्षा की रणनीति अपनानी चाहिए।
यह लेख एचआर पॉलिसी असिस्टेंट का उपयोग करके एक उत्पादन-तैयार एजेंट-आधारित RAG आर्किटेक्चर की खोज करता है। तीन उपयोगकर्ता प्रोफ़ाइल - व्यवस्थापक (acl_level=2), बॉब एचआर प्रबंधक (acl_level=1) और एलिस कर्मचारी (acl_level=0) - बहु-स्तरीय पहुँच नियंत्रण का प्रदर्शन करते हैं। सिस्टम में इंजेक्शन आक्रमण को रोकने वाला एक सुरक्षा प्री-फ़िल्टर, प्रश्नों को स्वतंत्र, अधीकृत या HITL आवश्यकता वाले स्तर में वर्गीकृत करने वाला एक पॉलिसी इंजन, और दस्तावेज़ और कार्रवाई स्तर दोनों पर पदानुकूल ACL लागू करना शामिल है।
अतिरिक्त सुरक्षा उपायों में वेक्टर स्टोर चंक्स के लिए SHA-256 एककता सत्यापन शामिल है, जो हेरफेर के पता लगाने को रोकता है, और अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन के खिलाफ सुरक्षा पोस्ट-फ़िल्टर। हर उपयोगकर्ता प्रश्न को अलग LLM कोर तक पहुँचने से पहले कई प्रकार की प्रमाणन परतों से गुजरना चाहिए, जो संगठनात्मक नीतियों के अनुपालन और एंटरप्राइज़ एआई परिनियोजन में सुरक्षा जोखिमों को कम करता है।
आर्किटेक्चर यह ज़ोर देता है कि कार्यात्मक एआई एजेंट्स बनाना आसान है, लेकिन उन्हें उत्पादन-तैयार बनाने के लिए समग्र सुरक्षा बुनियादी ढाँचे की आवश्यकता होती है।
प्रमुख इकाइयाँ: लोग: व्यवस्थापक, बॉब, एलिस
स्रोत: Towards Data Science · HeadlinesBriefing द्वारा सारांशित