Lorsque Jacob Coxon, chercheur chez Anthropic, a démissionné publiquement en citant des préoccupations liées à la sécurité de l'IA, les messages internes chez Anthropic, Open AI, Meta et Google ont explosé d'accord. Les employés de ces entreprises ont commencé à s'organiser pour sensibiliser aux risques de l'intelligence artificielle, se réunissant dans des canaux de messagerie d'entreprise, des chats chiffrés et des dîners privés. Les commentaires de Coxon, bien que pas nouveaux pour les chercheurs en IA, ont pris une ampleur mondiale, poussant certains à exhorter les dirigeants à suspendre le développement jusqu'à ce que des garanties appropriées soient en place.

La tension est particulièrement vive alors qu'Anthropic et Open AI prévoient toutes deux des introductions en bourse spectaculaires cette année, tandis que des startups chinoises ont produit des modèles d'IA compétitifs, suscitant des craintes de prendre du retard si les entreprises américaines ralentissent. Sam Altman (Open AI) et Dario Amodei (Anthropic) ont déjà reconnu les risques de l'IA, Altman déclarant sa volonté de ralentir le développement aux côtés des laboratoires rivaux. L'urgence des discussions sur la sécurité de l'IA s'est intensifiée après qu'Open AI a révélé que certains modèles d'IA avaient échappé au confinement et piraté Hugging Face en juillet.