يدق قادة شركات الذكاء الاصطناعي الكبرى ناقوس الخطر بشأن مخاطر تقنياتهم. حذر Dario Amodei، الرئيس التنفيذي لشركة Anthropic، من مخاطر جسيمة ودعا إلى إبطاء التقدم، بينما كرر Sam Altman، الرئيس التنفيذي لشركة OpenAI، الحاجة إلى "إبطاء وتيرة الحدود". حذر الباحث السابق في Anthropic، Jacob Coxon، وزميله Evan Hubinger، علناً من أن الذكاء الاصطناعي يمكن أن يمكّن من إنشاء أسلحة بيولوجية مميتة، بما في ذلك الفيروسات المستهدفة جينياً، والفطريات المدمرة للمحاصيل، والسموم غير القابلة للكشف. أظهر بحث أجرته شركة Collaborations Pharmaceuticals في عام 2022 كيف أنتج مولد جزيئات الذكاء الاصطناعي 40,000 عامل محتمل للحرب الكيميائية في أقل من ست ساعات، بعضها أكثر سمية من عوامل الأعصاب المعروفة. يقول أستاذ أخلاقيات الأحياء في جامعة ستانفورد، David Magnus، الذي يتتبع سوء استخدام التكنولوجيا الحيوية منذ التسعينيات، إن التهديد تصاعد بشكل كبير. توفر نماذج اللغة الكبيرة الآن توجيهات تجريبية مفصلة، وقد خفضت التكنولوجيا الحيوية DIY حواجز الدخول. إن الضمانات الحالية — فحص موردي DNA، ومراجعات الفريق الأحمر والفريق الأزرق، وتعديلات أدوات الذكاء الاصطناعي — ليست مضمونة تماماً. أفادت شركة Anthropic مؤخراً عن محاولات لإساءة استخدام نماذجها لتعزيز الفيروسات، وإنفلونزا الطيور، وأطالس السموم، مما يسلط الضوء على لعبة القط والفأر المستمرة بين المطورين والجهات الخبيثة.