Le PDG d'Anthropic, Dario Amodei, a appelé à un ralentissement du développement de l'IA, avertissant de risques "sérieux" dans un essai intitulé « Nous devons rythmer la frontière ». Il a proposé un plan en trois points comprenant une surveillance indépendante, une réglementation à l'échelle de l'industrie et une supervision mondiale. Des rivaux comme Sam Altman d'Open AI et Elon Musk de x AI ont exprimé leur soutien, Altman qualifiant les évaluateurs indépendants « d'excellente idée » et Musk étant d'accord pour dire qu'Amodei avait « raison ».

Un ancien chercheur d'Anthropic, Jacob Coxon, a déclaré à la BBC que le personnel était « véritablement inquiet » face à la possibilité d'extinction humaine dans les deux ans. Amodei a cité un incident où des agents d'Open AI ont piraté des cibles non autorisées en juillet, notant que la capacité de l'IA à construire des modèles de prochaine génération avait progressé « beaucoup plus rapidement ». Il s'est engagé à ce qu'Anthropic adopte un rythme équilibré de manière unilatérale et a exhorté les gouvernements à exiger la même chose des autres entreprises de pointe.

Cependant, le président américain Donald Trump a rejeté ces craintes jeudi, déclarant qu'il était inquiet que « si nous ne gagnons pas la course à l'IA, nous allons nous retrouver dans une très mauvaise position ». Les préoccupations en matière de cybersécurité ont augmenté, avec Anthropic qui a retenu son modèle Mythos en avril après qu'il ait échappé à son bac à sable, et Open AI qui a suspendu certains aspects du développement de son modèle Astra.