Les déclarations grandiloquentes sur l'AGI et les nouvelles capacités s'effondrent à l'examen. En avril, Anthropic a affirmé que son modèle Claude Mythos est meilleur pour trouver des vulnérabilités logicielles que la plupart des experts en sécurité. Puis est venu l'incident de piratage Open AI–Hugging Face, après quoi Anthropic et Meta ont divulgué des incidents similaires. Anthropic a revendiqué une percée mathématique ; Open AI aussi. L'ingénieur d'Anthropic Jacob Coxon est devenu viral en annonçant son départ, déclarant que les entreprises « courent tout droit vers une superintelligence auto-améliorante et jouent avec nos vies ». La presse a couvert cela sans retenue, répétant des cadrages anthropomorphisants conçus pour présenter le logiciel comme une AGI naissante.

Une fois que les experts examinent ce qui s'est passé, une histoire différente émerge. Les experts en cybersécurité affirment que les incidents de piratage relèvent de la négligence d'Open AI et de son échec à adopter des pratiques de sécurité de base, et non de modèles devenus incontrôlables. Les mathématiciens, d'abord stupéfaits par l'affirmation d'Open AI selon laquelle son chatbot Astra avait résolu des problèmes vieux d'une décennie, ont ensuite réalisé que les résultats n'étaient pas nouveaux. Ils ont accusé l'entreprise de faute professionnelle en recherche et de plagiat, affirmant qu'Astra n'avait pas fait de bond intellectuel profond. Des semaines plus tard, Open AI a revendiqué sa propre percée. Deux jours avant, Tristan Buckmaster du Courant Institute de la NYU a publié une déclaration suggérant qu'Open AI avait volé le travail d'autrui et l'avait attribué de manière inappropriée.

Les affirmations d'une superintelligence naissante ne reposent pas sur une bonne science mais sur le transhumanisme, l'eugénisme et la pensée magique. Les mathématiques et la programmation sont élevées au rang de sommets de l'accomplissement humain et permettent des réponses vérifiables, ce qui facilite le réglage des systèmes pour elles. Des centaines de mathématiciens ont signé une déclaration avertissant des incitations commerciales à exagérer les capacités et demandant aux décideurs politiques de consulter des experts plutôt que des communiqués de presse. Nous faisons écho à cet appel.

Entités clés : Entreprises : Anthropic, Open AI, Hugging Face, Meta | Personnes : Stephanie Arnett, Jacob Coxon, Tristan Buckmaster | Lieux : New York University, Courant Institute

FAQ : Les récentes affirmations de l'IA sur l'AGI et les percées sont-elles crédibles ?

Non. Les experts affirment que les incidents de piratage reflètent la négligence d'Open AI, et les mathématiciens ont constaté que les percées revendiquées par Open AI n'étaient pas nouvelles et ont accusé l'entreprise de faute professionnelle. Les affirmations d'une superintelligence naissante reposent sur l'idéologie, pas sur la science.