En tant qu'ancien envoyé du Département d'État qui a co-dirigé le premier dialogue États-Unis-Chine sur l'IA, l'auteur craint que les prochains pourparlers sur la sécurité ne parviennent pas à prévenir une catastrophe. Malgré les mandats présidentiels visant à se concentrer sur les risques de l'IA, les responsables chinois ont orienté la réunion de mai 2024 loin des dangers, refusant d'expliquer les réglementations nationales et reprochant plutôt aux États-Unis leurs préoccupations en matière de sécurité. La Chine est présentée comme privilégiant l'avantage stratégique plutôt que la coopération, probablement en utilisant les pourparlers pour assouplir les contrôles sur les puces tout en continuant à exploiter les modèles américains et à produire de la propagande. Même si Pékin prend les risques au sérieux, les entreprises chinoises nationales divulguent rarement des problèmes de sécurité, et leurs modèles sont à la traîne par rapport à ceux des États-Unis en termes de performance critique en matière de sécurité. L'auteur avertit que la Chine fera semblant de prendre les risques au sérieux pour obtenir des concessions, en exploitant les demandes sincères des scientifiques et des décideurs en IA. Sans accords de sécurité complets et des solutions de politique intérieure préalables, la diplomatie risque d'affaiblir le consensus bipartisan américain sur le fait de diriger le développement de l'IA, permettant à la Chine de prendre de l'avance dans la compétition technologique mondiale.

Les prochaines réunions sont peu susceptibles de produire des accords durables tant que la politique intérieure reste en cours d'élaboration. Les solutions techniques et de supervision doivent précéder la traduction internationale. La Chine peut proposer une coopération en matière de sécurité en échange de concessions, mais son véritable objectif reste d'obtenir un avantage compétitif. Le résultat pourrait déclencher des débats internes aux États-Unis qui sapent le consensus fondamental selon lequel les États-Unis doivent diriger dans tous les aspects de l'IA, rendant plus facile pour Pékin de dominer la course technologique mondiale.

Les personnalités clés mentionnées incluent l'ancien envoyé du Département d'État, les homologues chinois lors de la réunion de mai 2024, et les références aux récents commentaires du président Xi Jinping sur les risques de l'IA et la perte de contrôle.

Entités clés : Entreprises : New York Times | Personnes : Ancien envoyé du Département d'État, homologue chinois, président Xi Jinping | Lieux : États-Unis, Chine, lieu de la réunion de mai 2024

FAQ : Pourquoi l'auteur craint-il que les prochains pourparlers sur la sécurité de l'IA avec la Chine échouent ?

L'auteur craint l'échec parce que la Chine privilégie l'avantage stratégique plutôt que la coopération réelle en matière de sécurité, a historiquement détourné les discussions loin des risques, et est peu susceptible de divulguer les réglementations nationales ou les performances de sécurité de ses modèles, utilisant plutôt les pourparlers pour assouplir les contrôles sur les puces et exploiter la technologie américaine.