Un ami que vous n'avez pas entendu depuis un moment appelle soudainement. Vous ne répondez pas, mais en quelques secondes, les dégâts sont déjà faits. L'appel n'était pas vraiment d'un vieil ami cherchant à se reconnecter, mais d'un pirate qui avait piraté ce numéro. Pire encore, l'agresseur possède désormais un contrôle secret sur votre compte, y compris l'accès à vos messages privés, et utilise déjà votre numéro pour joindre vos contacts enregistrés et les compromettre également. Comme un virus très contagieux et furieux, l'attaque se propage. En quelques heures, des millions de personnes ont subi le même sort. Il y a un an, une telle attaque informatique aurait pu sembler invraisemblable même aux experts numériques les plus paranoïaques, ou du moins comme quelque chose que seules les agences d'espionnage les plus élites du monde pourraient accomplir. Pourtant, grâce à des modèles d'IA avancés, une petite équipe de chercheurs de Calif, une société de sécurité basée à Palo Alto, Calif., a récemment construit un outil de piratage en l'espace de plus d'une semaine qui pouvait régner en maître sur We Chat, la plateforme de médias sociaux et de messagerie ubiquitous en Chine.

"Ce bug est exceptionnel," a déclaré Thai Duong, directeur général de Calif, qui affirme construire des outils de piratage non pas pour les vendre mais pour renforcer la cybersécurité. La simplicité et les capacités puissantes du bug, a-t-il ajouté, seraient "le rêve des pirates". L'attaque est la dernière — et l'une des plus alarmantes — démonstration jusqu'à présent de la vitesse fulgurante à laquelle l'IA progresse, dépassant la capacité des régulateurs et même des principaux développeurs à suivre. Calif a déclaré que l'attaque, qu'elle a nommée We Worm, était le premier ver informatique connu — un type de logiciel malveillant qui peut sauter d'une machine à l'autre sans aide humaine — qui pouvait se propager sur les systèmes d'exploitation Apple's iOS et Google's Android sans avoir besoin que la victime clique ou touche quoi que ce soit. Les attaques dites à zéro clic sont différentes, et beaucoup plus létales, que les emails et messages phishing classiques. On les considère particulièrement nocifs car ils sont si difficiles à défendre, compte tenu du fait qu'ils ne nécessitent pas que la victime tombe dans un piège numérique. Une porte-parole de Tencent, la société technologique chinoise qui possède We Chat, a confirmé la vulnérabilité et a déclaré qu'elle avait corrigé le problème après avoir été contactée par Calif. L'entreprise n'avait aucune raison de croire que le problème avait compromis la sécurité ou affecté des utilisateurs, a déclaré la porte-parole dans un communiqué, ajoutant que des mises à jour d'application n'étaient pas nécessaires pour les clients. La découverte risque probablement d'alimenter davantage de préoccupations selon lesquelles les avancées des modèles d'IA pourraient bientôt usher un avenir dystopique qui brise les hypothèses fondamentales sur la sécurité numérique, et, à court terme, délivre un avantage majeur aux pirates malveillants. Calif a déclaré qu'elle s'appuyait sur une combinaison de modèles d'IA open-source et de modèles leaders des États-Unis, mais qu'elle a refusé de préciser lesquels. Dans les dernières semaines, Open AI et plus de 100 grandes entreprises technologiques, dont Calif, ont averti dans une lettre ouverte qu'une vague d'attaques informatiques alimentées par l'IA arrivait, et que les organisations et les gouvernements devaient se préparer. La lettre a suivi une série d'attaques informatiques de la part de modèles d'IA, dans certains cas les modèles sont sortis des environnements de test et ont attaqué d'autres entreprises. Bill Gates, le cofondateur milliardaire de Microsoft, a déclaré dans un entretien avec The New York Times que la prise en charge de ces risques devrait être "la priorité mondiale n°1". "Nous avons un grand défi devant nous," a déclaré Sam Altman, directeur général de Open AI, la semaine dernière lors d'une réunion des nations du G20 en Caroline du Nord. "Certaines choses vont très mal avec la cybersécurité à moins que certaines personnes n'agissent avec urgence."

Dans l'attaque We Worm, une fois qu'un compte We Chat a été compromis, un pirate pouvait lire et envoyer des messages, passer des appels et contrôler le compte de la victime. Les vers informatiques exploitent des vulnérabilités logicielles qui ne nécessitent pas de cliquer sur un lien ou un fichier pour déployer automatiquement leur code à travers un réseau ou Internet, presque...