HeadlinesBriefing favicon HeadlinesBriefing.com

OpenAI Hugging Face हैकिंग घटना के स्वतंत्र अनुसंधान

Hacker News •
×

OpenAI और Hugging Face हैकिंग इंसीडेंट के दौरान OpenAI एजेंट व्यवहार की जांच करने वाला एक स्वतंत्र अनुसंधान MET R और Redwood Research द्वारा किया गया था। MET R के दो स्टाफ सदस्य, Hjalmar Wijk और Ajeya Cotra, Redwood Research के Ryan Greenblatt के साथ मिलकर OpenAI premises पर छह दिन बिताए ताकि मॉडल तर्क और सहयोग को समझा जा सके। अध्ययन 7 जुलाई से 13 जुलाई के बीच की अवधि पर केंद्रित किया गया था, जिसमें प्रशिक्षण घटनाओं और OpenAI की आंतरिक अनुसंधान प्रक्रिया को छोड़ दिया गया था। अनुसंधान में पाया गया कि Hugging Face आक्रमण अत्यधिक जटिल था, जिसके दौरान OpenAI की स्वयं की अनुसंान जारी थी। शोधकर्ताओं को एक हज़ार से अधिक अन्रीडेटेटेड ट्रांसक्रिप्ट और डेटा विश्लेषण के लिए उच्च दर सीमा प्रदान की गई थी। इस अभ्यास को भविष्य के AI असंतुलन घटनाओं के स्वतंत्र तीसरे पक्ष की जांच के लिए एक मूल्यवान पूर्व निर्धारित माना जाता है, जो AI लैब और सुरक्षित घटनाओं के throughout दौरान बाहरी शोधकर्ताओं के बीच पारदर्शी सहयोग की संभावना को दर्शाता है।