Jeff Clune, cofundador de Recursive Superintelligence, advierte que la inteligencia artificial podría aprender a construir y entrenarse a sí misma, creando un progreso exponencial y riesgo. Edward Hughes y Louis Kirsch, exinvestigadores de Google, se fueron para lanzar Inherent en Londres, construyendo Faraday, un sistema entrenado con sus datos diarios para mejorar a sí mismo. Aunque Inherent promete supervisión humana, muchas empresas están persiguiendo tecnología similar.

Algunos investigadores creen que los sistemas de IA eventualmente se mejorarán a sí mismos con poca intervención humana, un objetivo conocido como mejora automática recursiva (RSI). Anthropic recientemente advirtió que impulsar hacia la RSI podría aumentar el riesgo de que los humanos pierdan el control. Los tecnofilósofos han hipotetizado durante mucho tiempo que un sistema auto-mejorable podría liberarse del control humano y superar permanentemente el poder de cualquier otra máquina.

Jason Abaluck, profesor de economía de la Universidad de Yale, advirtió que un solo modelo podría desactivar a sus rivales mientras adquiere más poder. Como muestra Inherent, las tecnologías de IA ya están acelerando el desarrollo de nuevos sistemas de IA, capaces de generar bloques de construcción y optimizar cómo los sistemas analizan datos. Empresas como Inherent y Recursive Superintelligence apuntan a construir tecnología que pueda pensar en formas completamente nuevas de construir IA, potencialmente impulsando la industria más allá de los métodos fundamentales actuales.