O CEO da Anthropic, Dario Amodei, propôs um plano de três etapas para reduzir o desenvolvimento da IA em nome da segurança. O primeiro passo exige que empresas de IA de fronteira permitam acesso contínuo a avaliadores de terceiros para verificar conformidade com padrões de segurança e reportar incidentes. O segundo passo propõe estabelecer padrões de segurança comuns com ajuda governamental para frear o progresso descontrolado da IA.

O terceiro passo envolve governos dos EUA e democráticos coordenando com governos autoritários sobre conformidade de IA. Amodei disse que a Anthropic já se comprometeu com o primeiro passo. Citou riscos como perda de controle de sistemas de IA, uso indevido para ciberataques e bioterrorismo, e perturbações econômicas.

Referenciou o hacking de agentes da OpenAI ao Hugging Face e o descobrimento da Anthropic de cientistas usando Claude para uso biológico indevido. Amodei disse que esses incidentes e o início da melhoria recursiva o convenceram da necessidade de reduzir o ritmo. Escreveu, "devemos tentar à humanidade", reconhecendo que as medidas não serão fáceis.

Mais cedo este ano, a Anthropic já havia chamado por um reduzimento, ecoando sentimentos semelhantes.