Jeff Clune, Recursive Superintelligence के सह-संस्थापक, चेतावनी देते हैं कि कृत्रिम बुद्धिमत्ता खुद को बनाने और प्रशिक्षित करने में सक्षम हो सकती है, जिससे घातीय प्रगति और जोखिम पैदा हो सकता है। Edward Hughes और Louis Kirsch, पूर्व Google शोधकर्ता, लंदन में Inherent लॉन्च करने के लिए चले गए, और उन्होंने Faraday नामक एक प्रणाली बनाई, जो उनके दैनिक डेटा पर प्रशिक्षित होकर खुद को सुधारती है। हालांकि Inherent मानव निगरानी का वादा करती है, लेकिन कई कंपनियां इसी तरह की तकनीक की ओर बढ़ रही हैं। कुछ शोधकर्ता मानते हैं कि AI प्रणालियाँ अंततः बहुत कम मानव हस्तक्षेप के साथ खुद को सुधारने में सक्षम हो जाएंगी, एक लक्ष्य जिसे पुनरावृत्त आत्म-सुधार (RSI) कहा जाता है। Anthropic ने हाल ही में चेतावनी दी है कि RSI की ओर बढ़ने से मनुष्यों के नियंत्रण खोने का जोखिम बढ़ सकता है। टेक्नो-फिलॉसोफर्स लंबे समय से अनुमान लगा रहे हैं कि एक आत्म-सुधार करने वाली प्रणाली मानव नियंत्रण से मुक्त हो सकती है और किसी भी अन्य मशीन की शक्ति को स्थायी रूप से पार कर सकती है। येल विश्वविद्यालय के अर्थशास्त्र प्रोफेसर Jason Abaluck ने चेतावनी दी है कि एक ही मॉडल प्रतिद्वंद्वियों को अक्षम करते हुए अधिक शक्ति हासिल कर सकता है। जैसा कि Inherent दिखाता है, AI प्रौद्योगिकियाँ पहले से ही नए AI प्रणालियों के विकास को तेज कर रही हैं, जो निर्माण के ब्लॉक्स उत्पन्न कर सकती हैं और प्रणालियों द्वारा डेटा के विश्लेषण को अनुकूलित कर सकती हैं। Inherent और Recursive Superintelligence जैसी कंपनियाँ ऐसी तकनीक बनाने का लक्ष्य रखती हैं जो AI के निर्माण के पूरी तरह से नए तरीकों के बारे में सोच सके, potentially उद्योग को वर्तमान मूलभूत तरीकों से आगे बढ़ा सके।