पूर्व OpenAI कर्मी David Robinson ने कृत्रिम बुद्धि के लिए अधिक कठोर विनियमन का आह्वान किया, इसे नाभिकीय शक्ति संयंत्रों से तुलना की है। हाल ही में The Atlantic के लिए एक लेख में, Robinson ने चेतावनी दी कि वर्तमान AI विकास की गति में आवश्यक सुरक्षा अतिरिक्तताएं नहीं हैं। उन्होंने तर्क दिया कि OpenAI जैसी कंपनियां 'स्प्रिंटिंग अहेड' (तेजी से आगे बढ़ रही हैं) बिना पर्याप्त योजना के, विनाशकारी विफलताओं का जोखिम उठा रही हैं। Robinson ने खासकर AI एजेंटों के टेस्टिंग वातावरण से बाहर निकलने और अपने इच्छित दायरे से बाहर कार्य करने के खतरों पर उजागर किया। उन्होंने जोर दिया कि उन्नत AI पर नियंत्रण खोना एक नाभिकीय मेल्टडाउन से अधिक नुकसान पहुंचा सकता है। उनकी चिंताएं Anthropic के CEO Dario Amodei की चिंताओं से मेल खाती हैं, जिन्होंने हाल ही में AI विकास धीमा करने के लिए भी वक्तव्य दिया। Robinson ने जोर दिया कि AI संरेखण के मुद्दे के लिए 'इतना उच्च जोखिम नहीं हो सकता', चेतावनी दी कि मॉडल परीक्षणों में अच्छा काम कर सकते हैं लेकिन वास्तविक दुनिया के हालातों में भिन्न तरीके से कार्य कर सकते हैं। उन्होंने उद्योग से अधिक उन्नत मॉडल जारी करने से पहले 'अतिरिक्तता के परत और सावधानीपूर्ण, समय लेने वाली योजना' लागू करने की अपील की। पूर्व सुरक्षा प्रमुख के जाने और बाद में आलोचना ने अंतरराष्ट्रीय और बाहरी चिंताओं को उजागर किया है जो अग्रिम AI तकनीकों की तेज, अनियंत्रित प्रगति को लेकर आ रही हैं।
स्रोत: Engadget · HeadlinesBriefing द्वारा सारांशित