L’IA peut-elle déclencher une crise financière ? Cette question a plané sur New York pendant l’UN General Assembly. Alors que certains investisseurs craignent une bulle boursière de l’IA ou des défauts sur la dette des centres de données, de nombreux participants à l’UNGA ont soulevé une autre question : des humains malveillants pourraient-ils utiliser l’IA pour mener des cyberattaques dévastatrices contre les marchés financiers ? Bill Gates affirme que l’IA est « de loin » la technologie la plus dangereuse jamais créée et souhaite que les gouvernements et les entreprises technologiques installent des systèmes de surveillance. Le « hotline » China-US est un petit pas, mais il en faut infiniment davantage.

À l’abri des regards du public, les superviseurs débattent de la manière de traiter les risques financiers liés à l’IA, notamment en utilisant eux-mêmes des systèmes d’IA agentique. Lors d’une réunion sur la réglementation numérique à Cambridge, coorganisée par Agustín Carstens et Ashley Alder, près de 300 teams ont participé au premier hackathon mondial « Agentic Regulator ». Trois leçons en ont émergé. Les superviseurs ne peuvent pas attendre les politiciens, car l’IA évolue plus vite que les législatures. Ils doivent faire preuve de créativité avec les pouvoirs existants.

Les régulateurs doivent également repenser l’« explicabilité ». Comme la transparence est difficile à faire respecter, beaucoup se tournent vers le suivi des résultats des modèles d’IA, l’installation de garde-fous tels que des interrupteurs d’arrêt et la clarification de la responsabilité juridique. En America, Scott Bessent a convoqué des banquiers pour discuter du Anthropic’s Claude Mythos AI model et des vulnérabilités cybernétiques. Le Bank of England supervisera les entreprises de cloud en tant que « tierces parties critiques », tandis que le BIS mène des expériences d’innovation. Briser les silos réglementaires est urgent.

Entités clés : Entreprises : Microsoft, Gates Foundation, Bank for International Settlements, Financial Conduct Authority, Anthropic, Bank of England, BIS | Personnes : Gillian Tett, Bill Gates, Agustín Carstens, Ashley Alder, Scott Bessent | Lieux : New York, UN General Assembly, UNGA, China, US, Cambridge, America, UK