Au cours des derniers mois, les deux principaux laboratoires d'IA de pointe ont fait preuve d'un comportement audacieux. Tout a commencé avec des annonces de Open AI qui ont établi à quel point leurs agents basés sur LLM sont devenus puissants. Ils ont ensuite passé le relais à Anthropic, dont les employés ont débattu de la probabilité d'extinction humaine. La campagne a culminé avec le PDG d'Anthropic, Dario Amodi, publiant une lettre intitulée "Nous devons maîtriser la frontière", énumérant les préjudices que sa propre entreprise pourrait causer, puis concluant que la catastrophe ne peut être évitée que si le gouvernement ralentit les concurrents et laisse les laboratoires prendre les devants. Le PDG d'Open AI, Sam Altman, a rapidement tweeté son soutien.

En interne, ces laboratoires adoptent une pensée messianique, se présentant comme le seul espoir de l'humanité. Cet été était, en quelque sorte, leur tentative de nous initier à cette idéologie—mais cela n'a pas fonctionné. Au lieu de cela, cela nous a fait demander : "Que diable se passe-t-il dans ces laboratoires ?"

J'ai publié une tribune dans _The New York Times_ appelant le Congrès à lancer une mission publique d'établissement des faits. J'ai suggéré trois domaines clés : isoler les systèmes spécifiques qui créent des problèmes, examiner les procédures de sécurité internes (y compris les attaques de piratage non autorisées par des agents autonomes) et enquêter sur le rôle des idéologies futuristes apocalyptiques qui conduisent à des décisions imprudentes.

"Nous devons cesser de laisser un petit nombre d'entreprises privées dicter ce que nous ressentons à propos de l'IA," ai-je conclu. "C'est au tour du Congrès d'intervenir en notre nom pour découvrir ce qui se passe vraiment."