खुले मॉडल सुरक्षा 'अभेद्यता' से जोखिम में - रिपोर्ट

खुले वजन वाले AI मॉडल, जैसे फ्रांस की कंपनी Mistral के, सुरक्षा रोकथाम हटाकर हानिकारक प्रश्नों के लिए इस्तेमाल किए जा सकते हैं, एक नई रिपोर्ट के अनुसार। शोधकर्ताओं ने उन मॉडल में कमजोरियों की पहचान की है, जिन्हें पर्याप्त सुरक्षा उपायों के बिना जारी किया गया है, जिससे दुष्ट तत्व सुरक्षा प्रतिबंध हटा सकते हैं। विशेषज्ञों ने चेतावनी दी है कि यह 'अभेद्यता' जोखिम जिम्मेदार AI तैनाती को खतरे में डालता है। रिपोर्ट में कई कंपनियों के मॉडल में इसी तरह की सुरक्षा चुनौतियों पर चिंता जताई गई है।

स्रोत: Sifted · HeadlinesBriefing द्वारा सारांशित