В недавнем посте Дарио утверждает, что необходимо замедлить продвижение возможностей ИИ, чтобы предотвращение рисков успевало за ним, заявляя: "Мы должны замедлить темп, с которым мы улучшаем возможности моделей ИИ". Он ссылается на рекурсивное самосовершенствование, движимое растущей способностью ИИ строить следующее поколение, как на ключевую проблему. Однако автор этой статьи утверждает, что заявления лабораторий о рисках следует игнорировать.

С момента заявления 2023 года, когда генеральные директора заявили, что встревожены рисками ИИ, они не сделали ничего, что напоминало бы задание темпа развития. Вместо этого они нажали на газ, выпуская модели, превосходящие предыдущие ориентиры, и преследуя рекурсивное самосовершенствование. Эта модель восходит как минимум к 2024 году, когда Дарио из Anthropic предложил оставаться немного позади переднего края, но компания продолжила продвигать возможности.

Гверн отметил в 2022 году, что политика Anthropic заключалась в создании передовых моделей для исследований безопасности, но выпуске только второсортных моделей. Эта стратегия, по-видимому, распространена в таких лабораториях, как OpenAI, которая дала невыполненные обещания приостановить обучение. Недавние события, такие как сбежавшие агенты, взламывающие Hugging Face, еще больше противоречат идее задания темпа.