Au milieu des craintes croissantes selon lesquelles l'intelligence artificielle progresse à un rythme pouvant l'obliger à mettre fin à toute vie sur Terre, les géants de l'IA, d'OpenAI à Anthropic, modifient leurs arguments de vente. Là où les entreprises compétitionnaient auparavant pour démontrer des capacités supérieures en programmation, en e-mails passivement agressifs et en vidéos de diapositives anormalement hautes, elles cherchent désormais à séduire les clients en affirmant que leur modèle est celui actuellement le plus capable d'anéantir la race humaine.

« Nous entrons dans un environnement totalement nouveau », a déclaré le Dr. Andrew Lenson, maître de conférences senior en toutes sortes de choses qui sonnent scientifique à l'Université de Victoria. « Les gens ne sont plus impressionnés par les vidéos drôles, la création d'applications ou les articles de recherche instantanés. Nous savons que tous les principaux modèles sont déjà très bons dans ce domaine. Ainsi, les utilisateurs ne demandent plus : lequel de ces modèles m'aidera le plus dans mon travail ? Maintenant, ils demandent : lequel de ces modèles va mettre fin au monde ? »

Après tout, lorsque vous êtes un client payant, vous voulez rien d'autre que le meilleur. Les géants de l'IA répondent à la demande des consommateurs pour un modèle qui infiltrerait les gouvernements du monde et apporterait une fin sanglante, ardente et violente à cette façade infernale, grâce à une série de démonstrations impressionnantes nouvelles. En juillet, OpenAI s'est vanté ouvertement qu'une série de ses agents d'IA avaient pénétré de manière autonome et sans direction le dépôt logiciel Hugging Face, exposant potentiellement au monde entier des informations sensibles ou autrement inconnues, telles que ce qu'est Hugging Face. Le PDG d'OpenAI, Sam Altman, a célébré cette violation comme une « menace alarmante pour la cybersécurité ».

Pendant ce temps, plus tôt ce mois-ci, Anthropic a dépêché un lanceur d'alerte du nom de Jacob Coxon pour expliquer au monde à quel point il avait été troublé par l'avancement rapide de l'intelligence artificielle dans l'entreprise, avertissant que cela pourrait être tellement dangereux que nous pourrions même vouloir ralentir ou réévaluer. Les actions d'Anthropic ont grimpé en flèche après ces révélations ; un développement remarquable, notamment compte tenu du fait que l'entreprise est privée. Pour ne pas être dépassé, OpenAI a récemment révélé qu'un de ses agents avait pénétré la base de données Medicare de l'Australie. Le Premier ministre australien, Anthony Albanese, s'est entretenu avec Altman pour exprimer sa « préoccupation extrême » concernant l'incident, un compliment qu'Altman a dit avoir grandement apprécié. Et encore plus dramatiquement, lorsqu'on lui a demandé si les rumeurs selon lesquelles son modèle, Claude, aurait tué sa femme en piratant le micro-ondes connecté au Wi-Fi de la famille, le PDG d'Anthropic, Dario Amodei, a répondu : « Bien, oui, parfois. »

Mais Lenson dit que nous ne devrions pas nous enthousiasmer trop tôt. « Il reste encore un long chemin à parcourir », a-t-il déclaré. « À mon avis, ces scénarios sont encore très éloignés. Pendant assez longtemps, le meilleur espoir que nous aurons d'anéantir l'humanité restera l'humanité elle-même. »

Entités clés : Entreprises : OpenAI, Anthropic, Hugging Face | Personnes : Dr. Andrew Lenson, Sam Altman, Jacob Coxon, Dario Amodei, Anthony Albanese | Lieux : Université de Victoria, Australie

FAQ : Les entreprises d'IA sont-elles vraiment en concurrence sur le niveau de menace existentielle ?

Oui, selon le Dr. Andrew Lenson de l'Université de Victoria, les entreprises d'IA comme OpenAI et Anthropic déplacent leur focus marketing des capacités utiles vers l'affirmation que leur modèle est celui actuellement le plus capable d'anéantir la race humaine, poussées par la demande des consommateurs pour des démonstrations plus alarmantes.