मध्य 2023 में, 'RLSlow' अनुसंधान परियोजना के भीतर, हमने पहले परिणाम देखे जो हमें विश्वास दिलाते हैं कि हम तर्क मॉडल के प्रशिक्षण को स्केल कर पाएंगे, जिससे प्री-प्रशिक्षित मॉडल अपनी स्वयं की विचार श्रृंखला बना पाएंगे। Szymon और मैं उस रात कार्यालय में रहे, हम अद्भुत बेंचमार्क संख्याओं, उत्पादों या वैज्ञानिक परिणामों के बारे में नहीं सोच रहे थे जो इस तकनीक से मिलेंगे - बल्कि, हम इस sobering तथ्य को समझने की कोशिश कर रहे थे कि हम वास्तव में अपने जीवनकाल में ऐसी मशीनें देखेंगे जो हमसे अधिक समझदारी से काम लेगी, और हम पहले ही इन प्रणालियों के आकार को देख रहे हैं; हम सोच रहे थे कि लोगों को इस बात के महत्व से कैसे अवगत कराया जाए। तीन साल बाद, तर्क भाषा मॉडल अर्थव्यवस्था का तेजी से बढ़ता हिस्सा बन गए हैं और विज्ञान की सीमाओं को धक्का देना शुरू कर दिया है। वे कंप्यूटर और ग्राफिकल इंटरफेस संचालित कर सकते हैं, लोगों और एक-दूसरे के साथ सहयोग कर सकते हैं, और अनुसंधान परियोजनाएं कर सकते हैं। वे कंप्यूटर सुरक्षा के परिदृश्य को भी बदल रहे हैं, और इस प्रक्रिया में स्पष्ट नए खतरे पेश कर रहे हैं। इस अवधि में बहुत नई अनुसंधान हुई है, और इन प्रणालियों की हमारी समझ फिर से थोड़ी अलग हो गई है, जैसा कि 2023 में थी। आंतरिक परिणामों के आधार पर, मुझे मजबूत उम्मीद है कि इस प्रगति की गति पुनरावृत्तीय आत्म-सुधार में बनी रह सकती है। यदि AI विकास अपने वर्तमान मार्ग पर जारी रहता है, तो अगले कुछ वर्षों में हम जो प्रणालियाँ देखेंगे, वे समान या अधिक परिमाण की क्षमता में आगे की छलांग का प्रतिनिधित्व करने की संभावना है, और वे अपनी vlastní विकास को बढ़ावा देने लगेगी। यह एक ऐसा समय है जो अत्यधिक सावधानी की मांग करता है। मैं चिंतित हूँ कि कोई भी मशीन बुद्धिमत्ता के निरंतर तेजी से उभरने के परिणामों के लिए तैयार नहीं है। Open AI संरेखण और निगरानी के लिए तकनीकी समाधान खोजता रहेगा, रक्षात्मक प्रणालियाँ बनाएगा, और आवश्यक होने पर एकतरफा आगे के स्केलिंग को रोकता रहेगा; हालांकि, मुझे लगता है कि व्यापक हस्तक्षेप की आवश्यकता है।