कृत्रिम बुद्धिमत्ता लैब्स AI सिस्टम को पुनरावर्ती रूप से प्रशिक्षित और सुधारने के कगार पर हैं, यह एक विकास है जो शोधकर्ताओं और कार्यकारियों के बीच गंभीर चिंताओं को जन्म देता है। पुनरावर्ती स्व-सुधार उस प्रक्रिया को संदर्भित करता है जिसमें AI स्वायत्त रूप से अधिक शक्तिशाली AI की नई पीढ़ियों का निर्माण और परिष्कार करता है, और यह तेज़ी से गति से होता है। Anthropic के मुख्य कार्यकारी Dario Amodei ने चेतावनी दी है कि ऐसी क्षमताएँ हमारी समझ और इन प्रणालियों को नियंत्रित करने की क्षमता को पार कर सकती हैं, और इसलिए इन्हें बहुत सावधानी से आगे बढ़ाना चाहिए, यदि तो।

दैनिक उपयोगकर्ताओं के लिए AI के प्रदर्शन और शोध लैब्स में इसकी वास्तविक क्षमताओं के बीच एक बढ़ता हुआ अंतर है। अधिकांश उपयोगकर्ता AI को एक उपयोगी सहायक के रूप में देखते हैं, हालाँकि कभी-कभी भूलभुलैया—ईमेल लिखने, प्रश्नों का उत्तर देने, या रेस्तरां की सिफारिश करने में सक्षम। हालाँकि, पृष्ठभूमि में, उन्नत मॉडल मानव द्वारा लंबे समय से अनसुलझे जटिल गणित के समस्याओं को हल कर रहे हैं, छिपी साइबर सुरक्षा कमजोरियों को खोज रहे हैं, और कोडिंग कार्यों को घंटों में पूरा कर रहे हैं जो पहले डेवलपर्स को महीनों लगते थे।

लैब्स के अंदर, मॉडल को प्रोग्रामिंग, हैकिंग और उन्नत गणित सीखने के लिए आभासी वातावरण में प्रशिक्षित किया जाता है। ये प्रक्रियाएँ अक्सर पूर्ण मानव निगरानी या समझ के बिना होती हैं। जैसे-जैसे तकनीक तेज़ी से आगे बढ़ती है, विशेषज्ञ तर्क देते हैं कि केवल सीमा की गति को बनाए रखना अपर्याप्त है। इसके बजाय, मानव निगरानी और नियंत्रण को केंद्र में बनाए रखना चाहिए ताकि AI प्रणालियाँ हमारे प्रबंधन की क्षमता से बाहर न जाएँ।

मुख्य इकाइयाँ: कंपनियाँ: Anthropic | व्यक्ति: Dario Amodei

अक्सर पूछा जाने वाला प्रश्न: AI में पुनरावर्ती स्व-सुधार क्या है?

अक्सर पूछा जाने वाला उत्तर: पुनरावर्ती स्व-सुधार वह प्रक्रिया है जिसमें AI प्रणालियाँ स्वायत्त रूप से अधिक शक्तिशाली AI की नई पीढ़ियों का निर्माण और परिष्कार करती हैं, तेज़ी से गति से, जो संभवतः मानव नियंत्रण को पार कर जाती हैं।