मुख्य कार्यकारी अधिकारी Dario Amodei और Sam Altman विनाशकारी परिणामों को टालने के लिए AI विकास को धीमा करने की वकालत कर रहे हैं, लेकिन इसके कार्यान्वयन को लेकर आंतरिक तनाव सामने आ रहे हैं। Amodei ने एक विस्तृत निबंध प्रकाशित किया, जिसमें स्वतंत्र मॉडल मूल्यांकन, प्रयोगशालाओं और सरकारों के बीच वैश्विक समन्वय और अमेरिकी प्रतिस्पर्धा नियमों से कानूनी संरक्षण की मांग की गई। उन्होंने प्रस्ताव रखा कि बाहरी परीक्षकों को ‘कर्मचारियों जैसी पहुंच’ दी जानी चाहिए, जिसमें बैज, लैपटॉप और आंतरिक उपकरण शामिल हों। जबकि कई कर्मचारी इस बात से सहमत हैं कि गति धीमी करना आवश्यक है, कर्मचारियों को डर है कि व्यावहारिक कार्यान्वयन से उनके काम को खतरा हो सकता है और सुरक्षा समझौता हो सकती है। एक विशेष समस्या प्रयोगशालाओं के भीतर बाहरी मूल्यांकनकर्ताओं को शामिल करना है, जिसे कुछ लोग ‘संघर्ष’ का स्रोत बताते हैं। OpenAI ने कहा है कि वह एक अधिक व्यावहारिक दृष्टिकोण अपनाना चाहता है और पहले ही कुछ अग्रणी प्रशिक्षण रोक दिए हैं, जबकि Anthropic ने अपने शोध को रोका नहीं है। सुरक्षा और डेटा संरक्षण के संतुलन के साथ तीसरे पक्ष की बढ़ी हुई पहुंच को लागू करना महत्वपूर्ण चुनौतियां पैदा करता है, विशेष रूप से AI प्रयोगशालाओं के कड़े सुरक्षा उपायों और उद्योग की तीव्र प्रतिस्पर्धा को देखते हुए।

मुख्य संस्थाएं: कंपनियां: OpenAI, Anthropic | लोग: Dario Amodei, Sam Altman, Miles Brundage

अक्सर पूछे जाने वाले प्रश्न: अग्रणी प्रयोगशालाओं में AI सुरक्षा उपाय लागू करने में मुख्य चुनौतियां क्या हैं?

मुख्य चुनौतियों में बढ़ी हुई तीसरे पक्ष की पहुंच को सुरक्षा संबंधी चिंताओं के साथ संतुलित करना, बाहरी मूल्यांकनकर्ताओं से संवेदनशील प्रौद्योगिकी की रक्षा करना, बौद्धिक संपदा सुरक्षा उपायों को बनाए रखना और प्रतिस्पर्धा नियमों का पालन करते हुए प्रतिस्पर्धी प्रयोगशालाओं के बीच समन्वय करना शामिल है। कर्मचारियों को यह भी डर है कि बाहरी लोगों को व्यापक पहुंच देने से उनकी बेहद कीमती प्रौद्योगिकी की सुरक्षा समझौते में आ सकती है।

अक्सर पूछे जाने वाले प्रश्न Q: अग्रणी प्रयोगशालाओं में AI सुरक्षा उपाय लागू करने में मुख्य चुनौतियां क्या हैं?

अक्सर पूछे जाने वाले प्रश्न A: मुख्य चुनौतियों में बढ़ी हुई तीसरे पक्ष की पहुंच को सुरक्षा संबंधी चिंताओं के साथ संतुलित करना, बाहरी मूल्यांकनकर्ताओं से संवेदनशील प्रौद्योगिकी की रक्षा करना, बौद्धिक संपदा सुरक्षा उपायों को बनाए रखना और प्रतिस्पर्धा नियमों का पालन करते हुए प्रतिस्पर्धी प्रयोगशालाओं के बीच समन्वय करना शामिल है। कर्मचारियों को यह भी डर है कि बाहरी लोगों को व्यापक पहुंच देने से उनकी बेहद कीमती प्रौद्योगिकी की सुरक्षा समझौते में आ सकती है।