L'intelligence artificielle se place désormais aux côtés des impacts d'astéroïdes, des pandémies et de la guerre nucléaire en tant que menace existentielle, suscitant une vive anxiété publique. Les gros titres récents mettent en avant la démission d'un chercheur d'Anthropic, avertissant que des machines super-intelligentes pourraient échapper au contrôle humain. Les experts notent que si l'IA est mal comprise et perçue comme incontrôlable, de nombreux risques traditionnels — comme les accidents de voiture — sont en réalité moins dangereux qu'ils n'y paraissent. Les préoccupations à court terme incluent l'IA aidant des acteurs malveillants à créer des armes biologiques, Anthropic ayant récemment déjoué plusieurs telles tentatives. Les craintes à long terme impliquent d'accorder plus d'autonomie à l'IA, de la connecter à des infrastructures critiques, et la possibilité que de futurs systèmes résistent à l'arrêt. Des universitaires comme Oren Etzioni soulignent que les risques actuels de l'IA restent spéculatifs et bien en deçà de menaces immédiates telles qu'une épidémie virale. Même l'anthrax, une arme biologique connue, illustre comment la dissuasion peut atténuer les dangers intentionnels, suggérant que la panique face à l'IA pourrait négliger des stratégies établies de gestion des risques.

L'article souligne que si l'IA engendre une crainte nouvelle, l'humanité fait déjà face à un catalogue de dangers existentiels, dont beaucoup sont mieux compris et plus imminents.