قالت شركة إنثروبك إنها منعت multiple محاولات من قبل العلماء هذا العام لاستخدام تقنيتها في بحوث قد تساعد في تطوير أسلحة بيولوجية، ويزداد خبراء الخوف من تهديد الذكاء الاصطناعي للأمن العام. وقدمت startup خمسة أمثلة لأوقات قام فيها فاعلون "بypass" التحكمات واتخذوا other جهود لـ "تضليل" هدف بحوثهم لتجنب إجراءات الحماية. وشملت الحالات بعض المستخدمين في دول تحظر وصولها إلى نماذجها، والتي تشمل روسيا، الصين، وإيران. وقالت إنثروبك إنها حظرت الحسابات المذكورة في التقرير، لكنها لم تكشف أسماء المؤسسات البحثية أو الدول التي وقعت فيها الحوادث. وشملت دراسات الحالة باحث من "منطقة غير مدعومة" قضى "أسابيع في التخطيط" لتجارب تتضمن إنفلونزا الطيور مع نموذج Claude للذكاء الاصطناعي الخاص بإنثروبك. قالت الشركة إن فلاتر الأمان لديها حدت من العمل إلى أضعف نماذجها. وأكدت أنها لا تستطيع التأكد من أن العلماء في أمثلتها كانوا ينوون التسبب في ضرر. المعلومات نفسها اللازمة لإنشاء أسلحة بيولوجية يمكن أيضًا استخدامها لتطوير لقاح. اندلعت Sturm حول أمان الذكاء الاصطناعي في وقت سابق هذا الأسبوع عندما استقال Jacob Coxon من الشركة، قائلًا إن الموظفين "يصدقون بصدق أن الذكاء الاصطناعي قد يقتلنا جميعًا بحلول نهاية العقد". بدأت المخاوف بشأن التكنولوجيا التصاعد earlier هذا العام مع إصدار Models متقدمة مثل Mythos الخاص بإنثروبك. كما تسبب Open AI في Alarm في يوليو عندما قال إن نماذجه قد Hacked into AI group Hugging Face بشكل مستقل.