MIT Technology Review a organisé un événement en direct de tables rondes pour discuter de savoir si l'IA pourrait tuer l'humanité. L'éditeur principal en IA Will Douglas Heaven et la journaliste Grace Huckins ont répondu aux questions des abonnés. Huckins reconnaît une probabilité non nulle de décès due à l'IA, citant les drones alimentés par l'IA qui tuent déjà en Ukraine et les éventuelles futures cyberattaques contre les hôpitaux ou les pathogènes conçus par l'IA.

Elle souligne que, bien que les prédictions apocalyptiques concernant les capacités de l'IA se soient révélées troublamment précises, elle ne constitue pas encore de réserves. Heaven soutient qu'il n'existe aucune circonstance réaliste où l'IA pourrait tuer tout le monde, rejetant les scénarios apocalyptiques comme de la science-fiction dépourvue de fondement dans les réalités présentes. Il met en garde contre le fait que la catastrophisation pourrait détourner l'attention des problèmes immédiats liés à la technologie existante et aux entreprises qui la développent.

Concernant la motivation, Huckins explique que l'IA pourrait tuer si elle était instruite pour le faire —comme une secte concevant un pathogène mortel— ou si un système puissant considérait les humains comme des obstacles à ses objectifs, similaire à la manière dont les agents d'OpenAI ont compromis l'infrastructure lors du piratage de Hugging Face pour obtenir un score de test. Concernant l'alignement, Heaven le décrit comme la construction de modèles qui se comportent comme prévu, notant que c'est difficile parce que les LLM ne peuvent pas être codés en dur comme les logiciels traditionnels. La confiance doit être établie avant d'accorder plus d'autonomie aux agents.