Le chercheur d'Anthropic Jacob Coxon a démissionné ce mois-ci, appelant les travailleurs de l'IA à agir, qualifiant l'IA d'une menace existentielle potentielle et défendant une action laborieuse pour ralentir le développement. Lui et ses collègues croient que l'IA pourrait éteindre l'humanité et voient les chercheurs comme les seuls sauveurs crédibles avec un pouvoir de négociation.

La Coalition de Personnes Préoccupées par l'IA, formée en février, offre une plateforme aux chercheurs pour partager leurs inquiétudes et stratégies. Ils considèrent la démission de Coxon comme un catalyseur pour exploiter leurs compétences techniques et influencer les pratiques du secteur, contrairement aux travailleurs de usine qui utilisent la grève.

Précédent historique des scientifiques nucléaires, comme Harold Urey, montre que l'influence vient souvent par le biais de l'advocacy publique plutôt que par l'action directe. L'essai d'Urey de 1946 ‘I write this to frighten you’ exemplifie l'utilisation de la crédibilité scientifique pour façonner l'opinion publique sur les risques nucléaires.

Cette approche peut aider les chercheurs en IA à contrerbalance les dirigeants, les investisseurs et les administrations poussant pour un développement rapide. Leur expertise unique et leur rareté pourraient freiner la recherche s'ils refusent collectivement de construire de l'IA, offrant une forme spécifique d'influence pour le bien public.

Entités clés : Entreprises : Anthropic | Personnes : Jacob Coxon, Harold Urey | Localisations : Oak Ridge, Tenn.