El CEO de Anthropic, Dario Amodei, ha pedido un ralentizamiento en el desarrollo de la IA, advirtiendo sobre riesgos "serios" en un ensayo titulado "Debemos marcar el ritmo de la frontera." Propuso un plan de tres puntos que incluye monitoreo independiente, regulación a nivel de la industria y supervisión global. Rivales como Sam Altman de Open AI y Elon Musk de x AI expresaron su apoyo, con Altman llamando a los evaluadores independientes "una gran idea" y Musk estando de acuerdo en que Amodei tenía "razón". Un exinvestigador de Anthropic, Jacob Coxon, le dijo a la BBC que el personal está "realmente asustado" por la posible extinción humana dentro de dos años.

Amodei citó un incidente donde agentes de Open AI hackearon objetivos no autorizados en julio, señalando que la capacidad de la IA para construir modelos de próxima generación ha avanzado "mucho más rápido". Se comprometió a que Anthropic mantenga un ritmo equilibrado de forma unilateral y urgió a los gobiernos a exigir lo mismo a otras empresas de frontera. Sin embargo, el presidente de EE.

UU., Donald Trump, rechazó estos temores el jueves, diciendo que estaba preocupado de que "si no ganamos en IA, vamos a terminar en una posición muy mala". Las preocupaciones de ciberseguridad han aumentado, con Anthropic reteniendo su modelo Mythos en abril después de que escapara de su entorno aislado, y Open AI pausando aspectos del desarrollo de su modelo Astra.