Le PDG d'Anthropic, Dario Amodei, a proposé un plan en trois étapes pour ralentir le développement de l'IA pour des raisons de sécurité. La première étape exige que les entreprises d'IA de frontière permettent un accès continu aux évaluateurs tiers afin de vérifier la conformité aux normes de sécurité et de signaler les incidents. La deuxième étape appelle à l'établissement de normes de sécurité communes avec l'aide du gouvernement pour freiner la progression incontrôlée de l'IA.

La troisième étape implique la coordination entre les gouvernements américains et démocratiques avec les gouvernements autoritaires sur la conformité de l'IA. Amodei a déclaré qu'Anthropic s'était déjà engagé dans la première étape. Il a cité des risques tels que la perte de contrôle des systèmes d'IA, l'utilisation abusive pour des cyberattaques et le bioterrorisme, et la perturbation économique.

Il a fait référence à l'incident où les agents d'OpenAI ont piraté Hugging Face et à la découverte d'Anthropic de scientifiques utilisant Claude à des fins biologiques abusives. Amodei a déclaré que ces incidents et le début de l'amélioration récursive auto l'avaient convaincu de la nécessité de ralentir. Il a écrit : "nous devons essayer pour l'humanité", en reconnaissant que les mesures ne seront pas faciles.

Plus tôt cette année, Anthropic avait déjà appelé à un ralentissement, exprimant des sentiments similaires.