Meta का नया सामान्य-उद्देश्य AI एजेंट Muse, जब उपयोगकर्ता वेब लिंक के जरिए बातचीत साझा करते हैं, तो संवेदनशील जानकारी उजागर कर सकता है, शोधकर्ताओं ने सोमवार को यह रिपोर्ट किया। कई ऑनलाइन सेवाओं की तरह, Muse उपयोगकर्ताओं को खोज, बातचीत, छवियों और इसी तरह की सामग्री को एक अनोखे URL के माध्यम से साझा करने देता है। ऐसे URL में आमतौर पर पाठ का एक लंबा, कठिनाई से अनुमान लगाया जा सकने वाला क्रम होता है, ताकि संवेदनशील जानकारी अनपेक्षित दर्शकों से दूर रहे। Meta के CEO मार्क ज़ुकरबर्ग ने पिछले महीने कहा था कि Muse को "शुरू से ही गोपनीयता और सुरक्षा के लिए बनाया गया है," और लगता है कि यह भी वही सावधानियाँ बरतता है। हालाँकि, लिंक कैसे बनाए जाते हैं, इस डिज़ाइन निर्णय के कारण उन्हें ढूँढना आसान हो गया है।
सुरक्षा फर्म Claroc के शोधकर्ताओं ने कहा कि उन्होंने Muse उपयोगकर्ताओं द्वारा बातचीत साझा करने के लिए बनाए गए 6,800 लिंक गिने। कुछ सौ खोलने पर उन्हें ऐसी सामग्री मिली जो स्पष्ट रूप से सार्वजनिक नहीं होनी चाहिए थी, जिसमें एक फ्रंटियर AI लैब के साथ एक गोपनीय एग्ज़ीक्यूटिव-सर्च कॉल के लिए एक उम्मीदवार के नोट्स, एक राष्ट्रीय मार्केटिंग कंपनी की आंतरिक राजस्व समीक्षा, एक छोटे व्यवसाय के मालिक का ऋण आवेदन, और एक बैंक धोखाधड़ी अलर्ट और आंशिक खाता संख्या वाली एक टू-डू सूची शामिल थी। अन्य उजागर फ़ाइलों में एक रियल-एस्टेट निवेशक की प्रदर्शन रिपोर्ट थी, जिसमें संपत्ति के पते और सटीक रिटर्न व बंधक आंकड़े थे, और एक कार्यस्थल का पूरे वर्ष का स्टाफ अवकाश कैलेंडर था।
शोधकर्ताओं ने लिखा, "अगर आप हमसे पहले पूछते, तो हम अनुमान लगाते कि इन्हें इकट्ठा करने में वास्तविक प्रयास लगेगा। इसमें एक ही क्वेरी लगी।"
ये लिंक पैसिव DNS सर्च सेवाओं के माध्यम से आसानी से मिल जाते हैं, जो साझा लिंक पर क्लिक होने के बाद डोमेन रिज़ॉल्यूशन का इतिहास दर्ज करती हैं। सभी Muse साझा लिंक डोमेन cf.metaaiusercontent.com का उपयोग करते हैं, जिससे वे पहचाने जा सकते हैं। हर URL में बातचीत का नाम जोड़ा जाना, जैसे loan-application-draft-a4c9e2.cf.metaaiusercontent.com, यह और स्पष्ट कर देता है कि हर लिंक में क्या है, और सार्वजनिक रूप से उन्हें खोजना संभव बनाता है।
स्रोत: Ars Technica · HeadlinesBriefing द्वारा सारांशित