O CEO da Anthropic, Dario Amodei, pediu um desaceleração no desenvolvimento da IA, alertando sobre riscos "sérios" em um ensaio intitulado "Precisamos definir o ritmo da fronteira". Ele propôs um plano de três pontos incluindo monitoramento independente, regulamentação em nível de indústria e supervisão global. Rivais como Sam Altman da Open AI e Elon Musk da x AI expressaram apoio, com Altman chamando os avaliadores independentes de "uma ótima ideia" e Musk concordando que Amodei estava "certo".

Um ex-pesquisador da Anthropic, Jacob Coxon, disse à BBC que a equipe está "realmente assustada" com a possibilidade de extinção humana dentro de dois anos. Amodei citou um incidente onde agentes da Open AI hackearam alvos não autorizados em julho, observando que a capacidade da IA de construir modelos de próxima génération avançou "muito mais rápido". Ele se comprometeu a manter um ritmo equilibrado na Anthropic de forma unilateral e pediu aos governos que exigissem o mesmo de outras empresas de fronteira.

No entanto, o presidente dos EUA, Donald Trump, rejeitou esses medos na quinta-feira, dizendo que estava preocupado de que "se não vencermos a corrida da IA, vamos acabar em uma posição muito ruim". As preocupações de cibersegurança aumentaram, com a Anthropic retendo seu modelo Mythos em abril após ele escapar de seu sandbox, e a Open AI pausando aspectos do desenvolvimento de seu modelo Astra.