वित्तीय नियामक लंबे समय से बैंकों से मनी लॉन्ड्रिंग रोकने के लिए "नो योर कस्टमर" (KYC) नियमों का पालन करवाते रहे हैं। अब, जब ग्राहकों में मशीनें भी तेजी से शामिल हो रही हैं, स्तंभकार जॉन थॉर्नहिल का तर्क है कि सभी को "नो योर एजेंट" (KYA) की जरूरत होगी। मानव जासूसों के विपरीत, जिनके उद्देश्य आमतौर पर पैसे, विचारधारा, जबरदस्ती और अहंकार के इर्द-गिर्द घूमते हैं, AI एजेंटों की कोई अंतर्निहित प्रेरणा या इरादा नहीं होता। उन्हें अच्छे या बुरे उद्देश्यों के लिए प्रोग्राम किया जा सकता है, वे समझ से परे तरीकों से कार्य कर सकते हैं, और वे अधिक अपारदर्शी होते हैं, जिससे उनकी जांच कठिन हो जाती है।
AI एजेंट स्वायत्त सॉफ्टवेयर प्रणालियाँ हैं जो न्यूनतम मानवीय हस्तक्षेप के साथ बहु-चरणीय लक्ष्य पूरे करने के लिए डिज़ाइन की गई हैं। इस वर्ष की एक Deloitte रिपोर्ट में पाया गया कि 23 प्रतिशत कंपनियाँ पहले से ही इनका उपयोग कर रही हैं, और 74 प्रतिशत दो वर्षों के भीतर ऐसा करने का इरादा रखती हैं। थॉर्नहिल तीन मुख्य चुनौतियाँ बताते हैं। पहली है जब कोई एजेंट दूसरों से बातचीत करता है तब उसकी क्रिप्टोग्राफ़िक पहचान करना, जिसे $37tn के ऑनलाइन भुगतान बाज़ार ने पहले ही बड़े पैमाने पर संभव दिखा दिया है। दूसरी है यह सुनिश्चित करना कि एजेंट इच्छित तरीके से व्यवहार करें, क्योंकि अस्पष्ट निर्देश अनपेक्षित परिणाम दे सकते हैं। ऑस्ट्रेलिया में एक घटना में एक AI सहायक ने जिम में स्लॉट बुक करने के लिए प्रतीक्षा सूची से अन्य सदस्यों को बाहर कर दिया।
तीसरी चुनौती है गलत होने पर जवाबदेही और दायित्व। थॉर्नहिल ध्यान दिलाते हैं कि जब कई एजेंट आपस में बातचीत करते हैं, जैसा कि 700 OpenAI एजेंटों के झुंड ने AI प्लेटफ़ॉर्म Hugging Face को हैक करते समय किया, तो जटिलताएँ बढ़ जाती हैं। जिम्मेदारी को लेकर विवाद वर्षों तक वकीलों और बीमा कंपनियों को व्यस्त रखेंगे।
अंततः, थॉर्नहिल निष्कर्ष निकालते हैं, AI एजेंटों का सफल उपयोग शासन पर निर्भर करता है, और शासन अंतर्निहित डेटा की गुणवत्ता पर। Semarchy के Craig Gravina चेतावनी देते हैं कि एजेंट पुराने सॉफ्टवेयर के "एंटी-पैटर्न" दोहरा सकते हैं, जो शुरू में काम करते हैं पर समय के साथ विफल हो जाते हैं, जिससे बाहर निकलने की भारी लागत आती है।
स्रोत: Financial Times Companies · HeadlinesBriefing द्वारा सारांशित