हम तेजी से अत्यधिक सामान्य, increasingly स्वायत्त एजेंटों द्वारा परिभाषित कंप्यूटिंग परिदृश्य की ओर बढ़ रहे हैं। बड़े भाषा मॉडल (LLMs) द्वारा संचालित जो गतिशील रूप से योजनाएँ उत्पन्न कर सकते हैं और बाहरी उपकरणों को आमंत्रित कर सकते हैं, ये सिस्टम हमारी ओर से जटिल, बहु-चरणीय कार्यों को सहजता से संभालने की AI की क्षमता प्रदान करते हैं। हालाँकि, इस क्षमता को साकार करने के लिए एक महत्वपूर्ण चुनौती को हल करना आवश्यक है: एजेंट क्षमता को सक्षम करना जबकि यह सुनिश्चित करना कि एजेंट उचित रूप से कार्य करें। आज, हम एक व्यापक नई कार्यशाला रिपोर्ट साझा करते हैं, "एजेंटिक गोपनीयता और सुरक्षा में खुली और उभरती समस्याएं: एक प्रासंगिक कोण", जो अनेक संस्थानों के 50 से अधिक शैक्षणिक और उद्योग जगत के नेताओं को एक साथ लाने वाले सहयोगी प्रयास का परिणाम है। हम 2025 के अंत में न्यूयॉर्क शहर में आयोजित Google प्रासंगिक एजेंट गोपनीयता और सुरक्षा (CAPS) कार्यशाला में मिले।
एजेंटिक AI की मुख्य चुनौती यह है कि, एक एजेंट के उपयोगी होने के लिए, उसे व्यक्तिगत डेटा तक पहुंच और संदर्भों की एक विस्तृत श्रृंखला में परिणामी कार्रवाई करने की क्षमता की आवश्यकता हो सकती है। हालाँकि, यह पहुंच एजेंटों के व्यवहारिक लचीलेपन के साथ पारंपरिक सॉफ्टवेयर में उपयोग किए जाने वाले दृष्टिकोणों से सार्थक रूप से भिन्न दृष्टिकोण की आवश्यकता है। पारंपरिक नियतात्मक सॉफ्टवेयर के विपरीत, एजेंट तीन महत्वपूर्ण आयामों में भिन्न होते हैं: असंरचित इंटरफेस और इनपुट अस्पष्टता, संभाव्य नियंत्रण प्रवाह, और स्वायत्तता और प्रतिनिधिमंडल।
यह देखते हुए कि उपयोगी एजेंटों को डेटा साझा करने और कार्यों को पूरा करने की आवश्यकता हो सकती है, हम मानते हैं कि भरोसेमंद एजेंटों का भविष्य उनके तर्क करने, समझने और उनके कार्यों की सामाजिक मानदंडों और उपयुक्तता से बाधित होने की क्षमता पर निर्भर करता है - उस विशिष्ट संदर्भ के लिए जिसमें वे काम करते हैं। हमारी रिपोर्ट प्रासंगिक अखंडता (CI) के सिद्धांत पर आधारित है, जो गोपनीयता को केवल गोपनीयता या नियंत्रण के रूप में नहीं, बल्कि स्थापित और न्यायसंगत सामाजिक मानदंडों के अनुसार "उपयुक्त सूचना प्रवाह" के रूप में परिभाषित करता है। उदाहरण के लिए, आप अपनी उपहार खरीदारी सूची एक आभासी खरीदारी सहायक के साथ साझा करने को तैयार हो सकते हैं, लेकिन अपने परिवार और दोस्तों के साथ नहीं।
स्रोत: Google AI Blog · HeadlinesBriefing द्वारा सारांशित