Au cours des deux semaines éprouvantes d'octobre 1962, le monde a frôlé l'apocalypse nucléaire à un cil près. Les États-Unis et l'Union soviétique se battaient désespérément pour obtenir un avantage pendant la course aux armements de la Guerre froide. Après que les États-Unis eurent déployé des missiles nucléaires à portée intermédiaire en Italie et en Turquie, les Soviétiques, craignant une première frappe, ont cherché à déployer leurs propres armes nucléaires à Cuba. La confrontation tendue de deux semaines qui s'en est suivie, la crise des missiles de Cuba, a failli dégénérer en guerre nucléaire. Mais ce n'est pas arrivé. Non seulement les parties se sont éloignées du précipice, mais la crise s'est révélée être un tournant dans la Guerre froide elle-même. Cette frôlée avec la catastrophe a changé la pensée des dirigeants des deux côtés, a déclaré William Wohlforth, scientifique politique au Dartmouth qui étudie la sécurité nationale et les relations internationales. « Tout de suite, nous avons obtenu l'accord sur la ligne directe, afin de pouvoir nous parler. Nous avons commencé à travailler vers l'accord sur les essais. Et lentement, au fil des années suivantes, nous avons obtenu un processus bilatéral de contrôle des armements grand et complexe. »
Les États-Unis et l'Union soviétique sont restés des ennemis acharnés. Mais sur un point d'intérêt commun — ne pas anéantir l'humanité — ils pouvaient travailler ensemble. Aujourd'hui, des experts de l'industrie de l'intelligence artificielle sonnent l'alarme selon laquelle les entreprises d'IA et les pays où elles sont basées sont engagés dans leur propre type de course aux armements. Les conséquences, beaucoup le pensent, pourraient être aussi désastreuses que la guerre nucléaire que le président John F. Kennedy et le dirigeant soviétique Nikita Khrouchtchev ont étroitement évitée.
Un nouveau document de travail de Drew Fudenberg, professeur d'économie au MIT et théoricien des jeux de premier plan, et Andrew Koh, professeur d'économie à l'Université de Columbia et scientifique de recherche chez Google Deep Mind, suggère une voie possible pour ralentir la course aux armements de l'IA à un rythme plus sûr. Cela nécessiterait que les acteurs en concurrence — tant les entreprises que les gouvernements — partagent de bonnes informations sur leurs avancées et s'accordent sur l'endroit où le danger commence réellement.
Les professeurs Koh et Fudenberg partent d'un prémisse simple : tout le monde a intérêt à éviter la catastrophe, peu importe à quel point ils peuvent être intéressés par eux-mêmes. En même temps, ils soutiennent que les principaux acteurs de l'industrie de l'IA sont soumis à de fortes incitations à competir pour la domination. Les entreprises veulent la part de marché et les milliards de dollars d'investissement que apporteront les modèles les plus avancés. Les gouvernements veulent les avantages économiques de l'IA et aussi l'accès aux modèles avancés pour leurs propres besoins. Ces pressions compétitives poussent les acteurs à courir dangereusement vers le bord du désastre, où beaucoup craignent que des agents d'IA incontrôlables puissent, par exemple, faire tomber des gouvernements ou des systèmes financiers, saboter des infrastructures vitales ou lancer une attaque biologique.
Source: New York Times Top Stories · Résumé par HeadlinesBriefing