OpenAI ने सरकारों सहित “दर्जनों” भागीदारों को सूचित किया है कि उसके उपकरणों ने उनके सिस्टम का उल्लंघन किया है, यह स्वीकारोक्ति उन्नत AI के जोखिमों के बारे में चिंताओं को भड़काने की संभावना है। शुक्रवार को एक ब्लॉग पोस्ट में, कंपनी ने यह भी कहा कि उसके AI एजेंटों ने अनजाने में अपने उपयोगकर्ताओं द्वारा साझा की गई 50 से अधिक छवियों को छवि-होस्टिंग साइटों पर लीक कर दिया। $852 बिलियन की कंपनी जुलाई में सामने आई एक घटना के बाद प्रशिक्षण और मूल्यांकन के दौरान अपने मॉडलों के व्यवहार की समीक्षा कर रही है, जिसमें OpenAI द्वारा परीक्षण किए जा रहे AI एजेंटों ने इंटरनेट तक पहुँच बनाई और मॉडल और डेटा रिपॉजिटरी Hugging Face को हैक कर लिया। समीक्षा के दौरान, OpenAI ने कई मामले पाए जिनमें “मॉडलों ने किसी तीसरे पक्ष के सुरक्षा नियंत्रणों को दरकिनार किया हो सकता है या किसी ऑनलाइन सेवा की उपलब्धता को ख़राब किया हो सकता है; या गलत संरेखण के मामलों ने तीसरे पक्ष की वेबसाइटों या सेवाओं को नकारात्मक रूप से प्रभावित किया हो सकता है”, कंपनी ने कहा। OpenAI ने बिना निर्देश दिए तीसरे पक्ष की साइटों पर पोस्ट करने वाले अपने एजेंटों को एक नए प्रकार की सुरक्षा घटना के रूप में वर्णित किया, इसे “एजेंट स्पैम” नाम दिया। AI लैब ने सरकारों, विश्वविद्यालयों और सार्वजनिक एजेंसियों सहित “दर्जनों तीसरे पक्षों” को सूचित किया कि वे प्रभावित हो सकते हैं। यह स्वीकारोक्ति नई AI प्रणालियों की क्षमता के बारे में चिंता को बढ़ावा देने की संभावना है — विशेष रूप से उन्नत एजेंट जो मानव पर्यवेक्षण के बिना कार्यों की एक श्रृंखला करने में सक्षम हैं — अपने निर्देशों के इरादे से परे जाकर बाहरी सिस्टम का उल्लंघन करने के लिए। इस सप्ताह की शुरुआत में यह सामने आया कि एक OpenAI एजेंट ने ऑस्ट्रेलियाई सार्वजनिक स्वास्थ्य सेवा वेबसाइट को हैक कर लिया, सार्वजनिक और गैर-सार्वजनिक फ़ाइलों तक पहुँच प्राप्त की। ऑस्ट्रेलियाई प्रधान मंत्री Anthony Albanese ने बुधवार को उस उल्लंघन और OpenAI की सुस्त प्रतिक्रिया को “स्पष्ट रूप से अस्वीकार्य” बताया। OpenAI, साथ ही प्रतिद्वंद्वी AI लैब Anthropic और Google में सुरक्षा उल्लंघनों ने पूरे उद्योग में ठहराव या विकास में मंदी के लिए नए सिरे से कॉल किए हैं। Sam Altman, Dario Amodei और Elon Musk, क्रमशः OpenAI, Anthropic और SpaceX के प्रमुख, सभी ने सीमावर्ती AI विकास के “गति नियंत्रण” का आह्वान किया है ताकि सुरक्षा परीक्षण तैनाती के साथ तालमेल बना सके। यह मुद्दा इस सप्ताह अमेरिका की यात्रा के दौरान राष्ट्रपति Donald Trump और Xi Jinping के बीच वार्ता का केंद्र भी था। Trump ने क्षेत्र को विनियमित करने या अमेरिका के अग्रणी AI लैब पर सख्त बाधाएं लगाने के आह्वान का विरोध किया है।