OpenAI में सुरक्षा पारदर्शिता प्रयासों का नेतृत्व करने वाले David Robinson ने सुरक्षा संबंधी चिंताओं के कारण छोड़ दिया है। एक रोड्स स्कॉलर और पूर्व बाइडन व्हाइट हाउस सलाहकार, Robinson ने OpenAI में शामिल होने के बारे में सोचा था कि AI सुरक्षा जोखिम 'नट्स' हैं लेकिन तीन साल बाद अपने विचार बदल लिए। उनका कहना है कि OpenAI में रोकथाम के लिए आवश्यक सुरक्षा संस्कृति नहीं है, संभावित क्षति को nuclear meltdown के समान बताते हुए, लेकिन उससे भी बदतर। उनका कहना है कि उद्योग खतरनाक प्रणालियों का निर्माण करते हुए एक स्टार्टअप की तरह काम कर रहा है, जिसमें अपर्याप्त आंतरिक नियंत्रण और redundancies हैं। Robinson ने बताया कि OpenAI, Hugging Face और Anthropic से सार्वजनिक सुरक्षा रिपोर्ट्स में समस्याएं दिख रही हैं, लेकिन बाहरी पर्यवेक्षक उनकी सुरक्षा गंभीरता को अधिकestimate कर सकते हैं। उन्होंने संगठनात्मक उत्कृष्टता, तकनीकी सुरक्षा व्यवहार्यता और जोखिम के लिए सही रूपकों के बीच अंतर किया है—जैसे nuclear power. Robinson का कहना है कि AI alignment केवल एक इंजीनियरिंग समस्या नहीं है। उनकी resignation ने उद्योग में AI सुरक्षा प्रथाओं के बारे में बढ़ते आंतरिक असंतोष को उजागर किया है।
स्रोत: New York Times Top Stories · HeadlinesBriefing द्वारा सारांशित