अधिकांश एजेंट स्टैक मॉडल आउटपुट को एक्शन में बदलने में सफल होते हैं, लेकिन एक्शन्स को वास्तव में अनुमोदित करने में विफल होते हैं। एक सपोर्ट एजेंट सही तरीके से सब्सक्रिप्शन को कैंसल करने और अकाउंट आईडी को निकालने का चुनाव कर सकता है, लेकिन भूतानेधिकता जाँचों की अनुपस्थिति के कारण गलत अकाउंट को ही कैंसल कर देता है। क्षमता (LLM का टूल चुनना और आर्ग्यूमेंट्स उत्पन्न करने की क्षमता) प्रमाणित करने के लिए अलग है (एक पहचानित प्रिंसिपल के लिए सीमित एक्शन को अनुमति देने वाली अलग प्रतिबंधित नीति)। मजबूत प्रणालियाँ क्षमता को प्रभाव के पहले अनुमोदन की आवश्यकता वाली एक प्रस्ताव के रूप में देखती हैं। प्रॉम्प्ट इंजेक्शन, अस्पष्ट इरादा, पुराना संदर्भ और विस्तृत क्रेडेंशियल्स जैसे चुनौतियाँ वैध टूल कॉल्स को हानिकारक परिणामों में बदल सकती हैं, जैसे OWASP के एजेंटिक सिस्टम रिस्क्स द्वारा उजागर किया गया है। समाधान अधिक प्रॉम्प्ट निर्देशों के बजाय एक निर्धारित कंट्रोल प्लेन है। उन्नत एजेंटिक सिस्टम को तीन प्लेन्स में संगठित किया जाता है: प्लानिंग (मॉडल रीज़निंग और टूल सिलेक्शन), कंट्रोल (गवर्नेंस: ऑथेंटिकेशन, कंटेक्स्ट रिज़ॉल्यूशन, अॉर्थोराइज़ेशन, पॉलिसी इवैल्यूएशन और अप्रूवल), और एक्जीक्यूशन/ऑब्सर्वेशन (एक्शन इन्भोकेशन, वेरिफ़िकेशन और ऑडिट)। कंट्रोल प्लेन प्रिंसिपल्स को ऑथेंटिकेट करता है, एक्शन्स को वैलिडेट करता है, रिस्क्स को इवैल्यूएट करता है, सटीक अप्रूवल की आवश्यकता वह प्लेन है जो रिसोर्सेज़ की स्वामित्व, डेलीगेशन और रिस्क को मूल्यांकित करने वाली अलग स्थिर नीति प्रदान करता है। इस विभाजन के माध्यम से सिन्टैक्टिक वैलिडिटी या HTTP सक्षमता के अतिकरण में सुरक्षा और ज़िम्मेदारी सुनिश्चित होती है।
स्रोत: Towards Data Science · HeadlinesBriefing द्वारा सारांशित