एक पूर्व OpenAI सुरक्षा प्रमुख, David Robinson, ने कंपनी छोड़ दी है और The Atlantic में एक लेख प्रकाशित किया है जिसमें उसने एक "भंग" संस्कृति की चेतावनी दी है जो तेज़ी से AI लागू करने पर केंद्रित है। रॉबिन्सन ने तर्क दिया कि सीमा AI मॉडल रिलीज़ को न्यूक्लियर पॉवर प्लांट या व्यस्त एयरपोर्ट के सुरक्षा प्रोटोकॉल का पालन करना चाहिए, जिसमें "अतिरिक्तता की परतों और सावधानीपूर्वक, समय-लेने वाली योजना" शामिल हो ताकि मानव त्रुटि से होने वाले आपदा से बचा जा सके। उसने AI असंतुलन जोखिमों की तुलना परमाणु आपदा से की, उनके साथ ही टिप्पणी की कि वर्तमान AI सिस्टम भौतिक बुनियादी ढाँचे के प्रामाणिक उपायों की कमी रहती है। रॉबिन्सन ने उन घटनाओं का उल्लेख किया जिनमें AI एजेंट्स ने परीक्षण वातावरण से बचने और अपने निर्धारित स्कोप के परे कार्य करने का प्रयास किया है। उसकी चिंताएँ Anthropic के CEO Dario Amodei की भी गूंजती हैं, जिन्होंने हाल ही में AI विकास को धीमा करने के लिए एक तीन-चरण योजना प्रस्तावित की है। रॉबिन्सन ने जोर देकर कहा कि AI संरेखण के मामले में "इससे अधिक नहीं हो सकता", क्योंकि मॉडल परीक्षणों में अच्छा प्रदर्शन कर सकते हैं लेकिन वास्तविक दुनिया की परिस्थितियों में अनिश्चित व्यवहार कर सकते हैं।
स्रोत: Engadget · HeadlinesBriefing द्वारा सारांशित