يجلس الذكاء الاصطناعي الآن جنبًا إلى جنب مع تأثيرات الكويكبات، والأوبئة، والحرب النووية كتهديد وجودي، مما يثير قلقًا عامًا شديدًا. تسلط العناوين الأخيرة الضوء على استقالة باحث من شركة Anthropic، محذرًا من أن الآلات فائقة الذكاء قد تفلت من السيطرة البشرية. يشير الخبراء إلى أنه في حين يُفهم الذكاء الاصطناعي بشكل سيء ويُنظر إليه على أنه لا يمكن السيطرة عليه، فإن العديد من المخاطر التقليدية — مثل حوادث السيارات — أقل خطورة مما تبدو في الواقع. تشمل المخاوف قصيرة المدى مساعدة الذكاء الاصطناعي للجهات الخبيثة في إنشاء أسلحة بيولوجية، حيث أحبطت شركة Anthropic مؤخرًا عدة محاولات من هذا القبيل. تتضمن المخاوف طويلة المدى منح الذكاء الاصطناعي استقلالية أكبر، وربطه بالبنية التحتية الحيوية، وإمكانية أن تقاوم الأنظمة المستقبلية الإغلاق. يؤكد علماء مثل Oren Etzioni أن مخاطر الذكاء الاصطناعي الحالية لا تزال تكهنية وتقع بعيدًا دون التهديدات الفورية مثل تفشي الفيروس. حتى الجمرة الخبيثة، وهو سلاح بيولوجي معروف، توضح كيف يمكن للردع أن يخفف المخاطر المتعمدة، مما يشير إلى أن الذعر من الذكاء الاصطناعي قد يتجاهل الاستراتيجيات الراسخة لإدارة المخاطر.

تؤكد المقالة أنه في حين يولد الذكاء الاصطناعي خوفًا جديدًا، تواجه البشرية بالفعل كتالوجًا من الأخطار الوجودية، يُفهم الكثير منها بشكل أفضل وأكثر إلحاحًا.