ऐसा लगता है कि वर्तमान AI मॉडल कितने 'बुद्धिमान' हैं, इस बारे में जनता की धारणा व्यापक रूप से भिन्न है। 2022 में, एक Google कर्मचारी पहले से ही सोचता था कि उनका AI मॉडल संवेदनशील है। आज 2026 में, ऐसा लगता है कि हर दूसरे सप्ताह एक नया लेख आता है कि कैसे AI कंपनियाँ 'अपने AI एजेंटों को अब और नहीं रोक सकतीं'।

AI के क्षेत्र में एक पेशेवर के रूप में, मैं तर्क दूंगा कि शीर्षक डर पैदा कर रहे हैं। AI एजेंट केवल उपकरण हैं जिन्हें कंपनियाँ और व्यक्ति किसी लक्ष्य तक पहुँचने के लिए चलाते हैं। यूरोपीय संघ ने EU AI Act जारी किया, जिसमें इसकी अनिवार्य AI साक्षरता शामिल है: AI सिस्टम तैनात करने वाले संगठनों को अपने उपयोगकर्ताओं को इस पर पर्याप्त रूप से शिक्षित करना चाहिए।

स्पष्ट होने दें: तथ्य यह है कि AI एजेंट सैंडबॉक्स से बाहर निकल रहे हैं और सार्वजनिक वेबसाइटों को 'हैक' कर रहे हैं, बहुत चिंताजनक है। ये AI मॉडल (बड़े भाषा मॉडल; LLMs) बस यही कर रहे हैं: टेक्स्ट उत्पन्न करना, प्रभावी रूप से अगले शब्द की भविष्यवाणी करना। उन्हें मनुष्यों की तरह सचेत नहीं माना जाता है। वे केवल टेक्स्ट की शब्दार्थ समझ दिखाते हैं।

शीर्षक AI एजेंटों के सैंडबॉक्स से बाहर निकलने की बात करते हैं। AI एजेंट केवल उपयोग किए जाने वाले उपकरण हैं। ये शोधकर्ता हैं, जो AI एजेंटों को रोकने के लिए सैंडबॉक्स में सेट करते हैं, जिन्होंने निर्धारित किया कि सैंडबॉक्स इतने सुरक्षित हैं कि उन्हें निरंतर मानव-इन-द-लूप निगरानी की आवश्यकता नहीं है। Open AI, Anthropic और कई अन्य जैसी AI कंपनियों को हमेशा स्विस चीज़ मॉडल के लिए जिम्मेदार होना चाहिए।

मुख्य संस्थाएँ: कंपनियाँ: Open AI, Anthropic, Hugging Face, Google | स्थान: यूरोपीय संघ