Meta के संस्थापक और CEO Mark Zuckerberg ने अपने नए AI सहायक Muse की सुरक्षा का प्रचार किया है, यह दावा करते हुए कि यह "गोपनीयता और सुरक्षा के लिए शुरू से ही बनाया गया है।" एक ज़ीरो-डे भेद्यता जो स्थानीय रूप से चलने वाले ऐप्स और टर्मिनल कमांड को एजेंट पर पूर्ण नियंत्रण देती है, गंभीर संदेह पैदा करती है। और भी सवाल खड़े करते हुए, Amazon ने रविवार को अपनी साइट से Muse को ब्लॉक करना शुरू कर दिया।

Meta ने कुछ हफ्ते पहले Muse पेश किया। सहायक "अपॉइंटमेंट बुक करता है, फॉर्म भरता है और ग्राहक सेवा संभालता है," "सक्रिय रूप से आपकी थाली से कार्यों को हटा देता है," और "खरीदारी कर सकता है, छवियां उत्पन्न कर सकता है, दस्तावेज़ बना सकता है, और आपके पसंदीदा ऐप्स और सेवाओं से जुड़ सकता है।" mac OS ऐप (आश्चर्यजनक रूप से, Windows संस्करण नहीं है) उपयोगकर्ता के Whats App, ईमेल, कैलेंडर और सोशल मीडिया खातों के साथ भी काम करता है। जब किसी कार्य के लिए ऐसे टूल की आवश्यकता होती है जो मौजूद नहीं है, तो Muse तुरंत एक बना देता है।

यह ज़ीरो-डे किसी भी ऐप या टर्मिनल कमांड को उस टोकन तक पहुंच प्रदान करता है जो उपयोगकर्ताओं को उनके Muse खाते में प्रमाणित करता है। Meta डेवलपर्स ने सहायक को इस तरह डिज़ाइन किया कि कोई भी स्थानीय रूप से स्थापित ऐप या निष्पादित कोड, चाहे उसके पास कोई भी mac OS अनुमति हो, अप्रलेखित सेटिंग्स की एक लंबी सूची को बदल सकता है। एक सेटिंग प्रक्रियाओं को उस एंडपॉइंट को बदलने की अनुमति देती है जहां ट्रांसक्रिप्शन होता है। हमलावर स्थान को अपने स्वयं के एंडपॉइंट में बदलकर इस खामी का फायदा उठा सकते हैं। एक बार ऐसा होने पर, हमलावरों के पास वह टोकन होता है जो Muse खाते पर पूर्ण नियंत्रण देता है।

"हम एजेंट को हेरफेर कर सकते हैं और जो चाहें करने के लिए उसके विशेषाधिकारों का लाभ उठा सकते हैं," ज़ीरो-डे की खोज करने वाले mac OS सुरक्षा विशेषज्ञ Patrick Wardle ने Ars को बताया। "तो हमें एक बहुत व्यापक Mac मैलवेयर स्टीलर लिखने के बजाय, हम बस AI सहायक का ही लाभ उठा सकते हैं।" Wardle ने कहा कि उन्होंने कई प्रूफ-ऑफ-कॉन्सेप्ट हमले विकसित किए हैं जो डिस्क पर दुर्भावनापूर्ण फाइलें लिखने और तस्वीरें लेने जैसे काम करते हैं, कई मामलों में सतर्क उपयोगकर्ता को भी कोई संकेत नहीं मिलता। Meta के प्रतिनिधियों ने ईमेल से भेजे गए सवालों का जवाब नहीं दिया।

मुख्य संस्थाएं: कंपनियां: Meta, Amazon, Apple, Anthropic, Google | लोग: Mark Zuckerberg, Patrick Wardle