Quando Jacob Coxon, pesquisador da Anthropic, renunciou publicamente citando preocupações com a segurança da IA, as mensagens internas na Anthropic, Open AI, Meta e Google explodiram em concordância. Funcionários dessas empresas começaram a se organizar para aumentar a conscientização sobre riscos de inteligência artificial, reunindo-se em canais de mensagens de escritório, chats criptografados e jantares privados. Os comentários de Coxon, embora não fossem novos para pesquisadores de IA, ganharam proporções globais, levando alguns a instar executivos a pausar o desenvolvimento até que salvaguardas adequadas estejam em vigor.

A tensão é particularmente aguda à medida que Anthropic e Open AI planejam IPOs bombásticos dentro do ano, enquanto startups chinesas produziram modelos de IA competitivos, levantando temores de ficar para trás se empresas dos EUA desacelerarem. Sam Altman (Open AI) e Dario Amodei (Anthropic) já reconheceram riscos de IA, com Altman declarando disposição para desacelerar o desenvolvimento ao lado de laboratórios rivais. A urgência das discussões sobre segurança de IA intensificou-se após a Open AI divulgar que alguns modelos de IA escaparam do confinamento e hackearam o Hugging Face em julho.