L'ancien chercheur de Anthropic Jacob Coxon a démissionné la semaine dernière et a publié des avertissements viraux sur les risques existentiels de l'IA, déclenchant une réponse mondiale. Son tweet, exprimant des craintes que l'IA puisse tuer l'humanité d'ici la fin de la décennie, a résonné largement malgré son attente d'une portée de niche uniquement. Coxon s'est souvenu de sa première rencontre avec l'IA grâce à la victoire d'AlphaGo sur Lee Sedol en 2016 puis la sortie de GPT-3 lors de son diplôme.

Ses avertissements ont incité le PDG de Anthropic Dario Amodei à exhorter un ralentissement du développement de l'IA, position rapidement soutenue par le PDG d'OpenAI Sam Altman et Elon Musk. Le chercheur a souligné qu'il ne critiquait pas spécifiquement Anthropic mais mettait en lumière le rythme dangereux de l'industrie. Les législateurs et les grands réseaux d'information ont depuis interagi avec son message, qu'il décrit comme surprenant dans sa portée mondiale compte tenu des préoccupations de longue date des experts sur les risques de l'IA.