جيف كلون، المؤسس المشارك لشركة Recursive Superintelligence، يحذر من أن الذكاء الاصطناعي قد يتعلم بناء نفسه وتدريبه، مما يخلق تقدمًا أسيًا ومخاطر. إدوارد هيوز ولويس كيرش، الباحثين السابقين في جوجل، غادرا لإطلاق إنهيرنت في لندن، وبناء نظام فاراداي، الذي يتم تدريبه على بياناتهم اليومية لتحسين نفسه. على الرغم من أن إنهيرنت تعد بالإشراف البشري، إلا أن العديد من الشركات تسعى لتقنيات مماثلة. يعتقد بعض الباحثين أن أنظمة الذكاء الاصطناعي ستتحسن في النهاية بنفسها مع تدخل بشري قليل، وهو هدف يُعرف باسم التحسين الذاتي التكراري (RSI). حذرت أنثروبيك مؤخرًا من أن السعي نحو RSI قد يزيد من خطر فقدان البشر للسيطرة. افترض الفلاسفة التقنيون لفترة طويلة أن نظامًا ذاتيًا للتحسين قد يتحرر من السيطرة البشرية ويتفوق بشكل دائم على قوة أي آلة أخرى. حذر جيسون أبالوك، أستاذ الاقتصاد في جامعة ييل، من أن نموذجًا واحدًا قد يعطل المنافسين بينما يكتسب المزيد من القوة. كما تُظهر إنهيرنت، فإن تقنيات الذكاء الاصطناعي تسرّع بالفعل تطوير أنظمة ذكاء اصطناعي جديدة، قادرة على إنشاء مكونات بناء وتحسين كيفية تحليل الأنظمة للبيانات. تهدف شركات مثل إنهيرنت وRecursive Superintelligence إلى بناء تقنية يمكنها التفكير في طرق completamente جديدة لبناء الذكاء الاصطناعي، مما قد يدفع الصناعة إلى ما وراء الأساليب الأساسية الحالية.