Une allocution de Sam Altman, PDG d'Open AI, et d'autres figures de l'industrie de l'intelligence artificielle aux Nations Unies hier a mis en évidence les inquiétudes mondiales croissantes concernant cette technologie. Des dirigeants de l'Amérique corporative, dont Elon Musk, Jensen Huang de Nvidia, Jamie Dimon de JPMorgan Chase et Larry Fink de Black Rock, sont attendus à un dîner d'État à la Maison Blanche pour le President Xi Jinping de la Chine. L'événement devrait susciter un débat sur la sécurité de l'IA, les minéraux de terres rares et les prix des obligations du Trésor.

President Trump peut se montrer méprisant vis-à-vis des préoccupations concernant la sécurité de l'intelligence artificielle, mais les discussions à l'ONU et les nouvelles révélations alarmantes de piratages par des agents d'IA soulignent à quel point la question est au premier plan de l'esprit d'autres dirigeants. Le piratage des systèmes du gouvernement australien par des agents d'Open AI a déclenché de nouvelles inquiétudes en matière de sécurité. La brèche s'est produite sur un site Web de santé publique géré par le gouvernement en juin, et les agents d'IA ont accédé à des informations non publiques, a déclaré le Premier ministre du pays, Anthony Albanese, mercredi. Albanese a qualifié le piratage d'« inacceptable » et a déclaré avoir soulevé la question auprès de Sam Altman.

Dario Amodei d'Anthropic et Altman ont tous deux abordé la sécurité de l'IA à l'ONU mercredi. Les dirigeants ont réitéré leur inquiétude quant aux risques de perte de contrôle de l'homme sur l'IA, en particulier lorsque les laboratoires se concentrent sur des modèles capables de s'améliorer de manière autonome. Altman a insisté sur une « voie pragmatique » vers la sécurité de l'IA, appelant à une coopération internationale sur les normes de sécurité de l'IA. Amodei a suggéré la création d'« accords étroits » que les pays pourraient soutenir, tels que l'interdiction de l'utilisation de l'IA pour créer des armes biologiques.