El CEO de Anthropic, Dario Amodei, propuso un plan de tres pasos para ralentizar el desarrollo de IA por seguridad. El primer paso requiere que las empresas de IA de frontera permitan el acceso continuo a evaluadores de terceros para verificar el cumplimiento de los estándares de seguridad y reportar incidentes. El segundo paso propone establecer estándares de seguridad comunes con ayuda gubernamental para limitar el progreso de IA sin control.

El tercer paso involucra a gobiernos de EE. UU. y democráticos coordinándose con gobiernos autoritarios en cumplimiento de IA. Amodei dijo que Anthropic ya se comprometió al primer paso.

Citó riesgos como perder el control de los sistemas de IA, uso indebido para ciberataques y bioterrorismo, y perturbaciones económicas. Hizo referencia a los agentes de OpenAI hackeando Hugging Face y el descubrimiento de Anthropic de científicos usando Claude para uso biológico indebido. Amodei dijo que estos incidentes y el inicio de la mejora recursiva convinieron de la necesidad de ralentizar.

Escribió, "nos debemos a la humanidad para intentar, reconociendo que las medidas no serán fáciles. Más temprano este año, Anthropic ya había llamado a un ralentizamiento, eco de sentimientos similares.