पिछले साल इसी समय, मैंने Andrew Ng के साथ Deeplearning.ai पर AI एजेंटों को नियंत्रित करने पर एक पाठ्यक्रम जारी किया था, जिसका उद्देश्य डेवलपर्स को प्रभावी और जिम्मेदार एजेंट परिनियोजन के लिए डेटा सुरक्षा की मूल बातें शिक्षित करना था। पाठ्यक्रम की प्रेरणा IBM के 2025 के उल्लंघन अध्ययन से आई, जिसमें पाया गया कि AI से संबंधित उल्लंघन का सामना करने वाले 97% संगठनों में उचित AI पहुंच नियंत्रण का अभाव था, और 63% के पास कोई AI शासन नीति नहीं थी। AI विकास में एक वर्ष एक अनंत काल है, और हम शून्य शासन वाले एजेंटों या एक एकल एजेंट को नियंत्रित करने से बहुत आगे आ गए हैं। टीमें अब एक नई शासन चुनौती का सामना कर रही हैं: एजेंट प्रसार (केंद्रीकृत ट्रैकिंग, स्वामित्व या शासन के बिना एक संगठन में स्वायत्त AI एजेंटों का अनियंत्रित विकास)।
Gartner के अनुसार, 2028 तक औसत Fortune 500 उद्यम 150,000 से अधिक AI एजेंटों का उपयोग करेगा। हालांकि, फर्म के अनुसार, केवल 13% संगठनों का मानना है कि उनके पास सही AI एजेंट शासन है। पिछले साल से, तैनात करने की क्षमता पहले से कहीं अधिक आसान हो गई है। claude code और codex जैसे कोडिंग एजेंटों के आगमन के साथ-साथ विभिन्न लो-कोड/नो-कोड विकल्पों ने एजेंट परिनियोजन की बाधा को काफी कम कर दिया है। एक परिणाम यह है कि टीमें अब अपने एजेंट बेड़े के अत्यधिक बेकार टोकन उपयोग और अप्रत्याशित लागतों में शामिल होने की संभावना का सामना कर रही हैं।
एक और गंभीर चुनौती संवेदनशील डेटा के लीक होने के अतिरिक्त मार्ग हैं। कोई आश्चर्य नहीं, शासन चुनौतियां विकसित हुई हैं। वर्तमान में, मैं ग्राहकों को पहले से कहीं अधिक तेजी से एजेंट बनाते देख रहा हूं, और समस्या का आकार बदल गया है। एक साल पहले हमने एक एकल एजेंट में शासन के चार स्तंभों को जोड़ने पर ध्यान केंद्रित किया: जीवनचक्र प्रबंधन, जोखिम प्रबंधन, सुरक्षा और अवलोकनीयता। हम तब भी जानते थे कि एजेंट बनाना कठिन हिस्सा नहीं था।
अब, यह नहीं बदला है, लेकिन बदलाव क्या है? अंतर यह है कि यह एक ही समय में दर्जनों एजेंटों/उप-एजेंटों के साथ हो रहा है। एजेंट उस दर से तेजी से गुणा कर रहे हैं जितनी कई टीमें उन्हें नियंत्रित कर सकती हैं। टीमों को अब एक डेटा प्लेटफॉर्म से लैस होने की आवश्यकता है जो बनाए जा रहे एजेंटों की संख्या के साथ केंद्रीकृत ट्रैकिंग, अनुमतियां और शासन को स्केल करता है। आइए देखें कि 2026 में शासन के स्तंभ कैसे विकसित हुए हैं।
स्रोत: Towards Data Science · HeadlinesBriefing द्वारा सारांशित