O pesquisador da Anthropic Jacob Coxon renunciou em 8 de setembro, advertindo que 'as pessoas que constroem IA de boa fé realmente acreditam que ela poderia nos matar todos até o fim da década'. Seu colega Evan Hubinger publicamente concordou e colocou o risco em mais de 10% dentro de 10 anos. O Guardian rapidamente relatou que 'pesquisadores da Anthropic dizem que a IA poderia causar a extinção humana até 2030' — uma estimativa de probabilidade apresentada como uma descoberta institucional.

Dias depois, o CEO da Anthropic, Dario Amodei, advertiu que agentes de IA autônomos poderiam sobrecarregar grandes partes da internet em meses. Citando declarações breves de acordo de Sam Altman da Open AI e Elon Musk da Space XAI, o Axios mancheteou a história: 'Os CEOs da Anthropic e da Open AI pedem um desaceleração no desenvolvimento da IA'. Uma previsão cautelosa se tornou um consenso da indústria.

Comentários argumentam que o pânico sobre inteligência artificial está equivocado, observando que os sistemas de IA simplesmente fizeram o que os humanos os programaram para fazer. O incidente destaca a lacuna entre risco especulativo e desenvolvimento prático enquanto a corrida da IA acelera.