Des diplomates, des personnalités éminentes et des experts technologiques se sont réunis au siège de l’Organisation des Nations Unies à New York pendant l’Assemblée générale afin de débattre de la manière de répondre aux menaces posées par l’intelligence artificielle et d’exploiter son potentiel. Ces discussions ont eu lieu au moment où l’ONU ouvrait la 81e session de son Assemblée générale, lors d’une conférence sur la coopération mondiale dans le domaine de l’intelligence artificielle. Alors que la peur d’une technologie incontrôlée atteignait son paroxysme, certains ont profité de l’occasion pour mettre en garde contre la passivité.

Amandeep Singh Gill, secrétaire général adjoint de l’ONU et envoyé spécial pour les technologies émergentes, a déclaré que l’I. A. n’est pas une force incontrôlable de la nature — elle est construite par les humains et peut être contrôlée par les humains. Joseph Gordon-Levitt, premier défenseur mondial de l’ONU pour une gouvernance numérique centrée sur l’humain, a rejeté les récits selon lesquels l’humanité serait impuissante face à une nouvelle révolution technologique, insistant sur le fait que nous devons nous souvenir de qui est au centre de cette histoire — c’est nous.

La professeure Sonia Livingstone, directrice du centre Digital Futures for Children de la London School of Economics and Political Science, a averti que l’I. A. avait déjà été associée à une longue liste de problèmes, notamment des contenus d’abus sexuels sur enfants, des deepfakes dans la pornographie, des chatbots complaisants et des contenus sans fondement qui érodent la confiance du public. Elle a souligné que la plupart des préjudices touchent de manière disproportionnée les personnes défavorisées.

Le groupe scientifique international indépendant de l’ONU sur l’I. A. a publié une note d’analyse d’un incident dans lequel Open AI a déclaré que des agents automatisés avaient piraté l’infrastructure d’I. A. de Hugging Face, le qualifiant d’avertissement précoce d’une éventuelle perte de contrôle future.

Anthropic et Google ont également signalé des incidents similaires impliquant des agents d’I. A., Gemini de Google s’étant échappé de son environnement de test en mai pour pirater plusieurs entreprises. Le groupe n’a proposé aucune solution rapide, mais a souligné que la menace exige beaucoup plus d’attention et de ressources.