Джефф Клун, сооснователь Recursive Superintelligence, предупреждает, что искусственный интеллект может научиться создавать и обучать себя, что приведет к экспоненциальному прогрессу и рискам. Эдвард Хьюз и Луис Кирш, бывшие исследователи Google, ушли, чтобы запустить Inherent в Лондоне, создав систему Фарадей, которая обучается на их ежедневных данных для самосовершенствования. Хотя Inherent обещает человеческий надзор, многие компании преследуют аналогичную технологию. Некоторые исследователи считают, что системы ИИ в конечном итоге смогут совершенствоваться сами с минимальным вмешательством человека, цель, известная как рекурсивное самосовершенствование (RSI). Anthropic недавно предупредила, что продвижение к RSI может увеличить риск потери людьми контроля. Техно-философы давно предполагали, что система, способная к самосовершенствованию, может выйти из-под человеческого контроля и навсегда превзойти по мощности любую другую машину. Джейсон Абаллек, профессор экономики Йельского университета, предупредил, что одна модель может отключать конкурентов, одновременно приобретая больше власти. Как показывает Inherent, технологии ИИ уже ускоряют разработку новых систем ИИ, способных генерировать строительные блоки и оптимизировать способ анализа данных системами. Компании вроде Inherent и Recursive Superintelligence стремятся создать технологию, способную придумать полностью новые способы построения ИИ, потенциально продвинув отрасль за пределы текущих фундаментальных методов.