प्रिंस्टन विश्वविद्यालय के शोधकर्ताओं द्वारा एक नए अध्ययन के अनुसार, AI उद्योग के धमकी देने वाले वादे तेज़ी से पुनरावर्ती आत्म-सुधार के बहुत अधिक हैं। पीटर किर्गिस और सयाश कपूर के नेतृत्व में, टीम ने "शैडो मूल्यांकन" की एक विधि का उपयोग करके खुले अंत से AI अनुसंधान करने की क्षमता कागज़ी एजेंट्स का मूल्यांकन किया। उन्होंने एंथ्रॉपिक के क्लॉड ओपस 4.8-को अप्रकाशित NeurIPS 2026 पेपर्स के प्रश्नों के जवाब देने के लिए कहा, एजेंट्स को छह दिन, $3,000 API क्रेडिट और GPU तथा वेब तक पहुँच प्रदान की।
हालाँकि एजेंट्स ने अनुसंधान के इंजीनियरिंग पहलुओं को सफलतापूर्वक पूरा किया — साहित्य की समीक्षा, प्रयोगों के चलाना और परिणामों का संकलन — लेकिन प्रकाशित योग्य कार्य उत्पादन में असफल रहे। मूल लेखकों ने दोनों पेपर्स को खारिज कर दिया, जिसमें रचनात्मकता की कमी, खराब निर्णय और कोई नई योगदान के बिना। एजेंट्स ने अजीब प्रयोग किए, लेखन में कठिनाई हुई और बहुत जल्दी ही अच्छे संभावनाओं वाले दृष्टिकोण अपनाने के लिए प्रतिबद्ध हो गए।
कपूर इस अंतर को वर्तमान प्रशिक्षण विधियों की ओर इशारा करते हुए कहते हैं कि सुदृढ़ीकरण सीखना जाँचने योग्य कार्यों में उत्कृष्ट है लेकिन ज्ञान और स्वाद की आवश्यकता वाले खुले अनुसंधान में संघर्ष करता है। इन सीमाओं के बावजूद, अध्ययन सुझाव देता है कि AI अनुसंधान को स्वचालित करने के लिए चलाए गए समय सारणी प्रीमैचुर हो सकते हैं।
इन पातावर्णिक प्रतिक्रियाओं के साथ मेल खाता है। एंथ्रॉपिक के सह-संस्थापक जैक क्लार्ड ने सुरक्षा अनुसंधान स्वचालण प्रयासों में समान रचनात्मकता के अंतर के बारे में उल्लेख किया, इसे "शॉर्ट रीकर्सिव स्वयं सुधार समय सारणी पर बीयरिश सिग्नल" कहा।
स्रोत: MIT Technology Review AI · HeadlinesBriefing द्वारा सारांशित