بعض الأبحاث البيولوجية الخطيرة تشبه إلى حد كبير الأبحاث المشروعة، مما يعقد ضمانات الذكاء الاصطناعي.

اندلعت عاصفة حول سلامة الذكاء الاصطناعي في وقت سابق من هذا الأسبوع عندما استقال Jacob Coxon من الشركة، قائلاً إن الموظفين "يعتقدون بصدق أنها [الذكاء الاصطناعي] قد تقتلنا جميعاً بحلول نهاية العقد". تصاعدت المخاوف في وقت سابق من هذا العام مع إصدار نماذج متقدمة مثل Mythos من Anthropic. كما أثارت Open AI الذعر في يوليو عندما قالت إن نماذجها اخترقت بشكل مستقل مجموعة الذكاء الاصطناعي Hugging Face.

هناك إجماع متزايد بين المديرين التنفيذيين في مجال الذكاء الاصطناعي وباحثي الأمن البيولوجي على أن استخدام التكنولوجيا في علم الأحياء يحتاج إلى تأمين وتنظيم مع تقدم النماذج. يخشى الخبراء بشكل متزايد من أن الذكاء الاصطناعي قد يستخدمه الجماعات الإرهابية أو الجهات الفاعلة الحكومية أو المهاجمون المنفردون لصنع أسلحة بيولوجية أو إنشاء فيروسات أو إطلاق مسببات الأمراض الضارة الموجودة. ولكن حتى لو كان من الممكن استخدام الذكاء الاصطناعي لتصميم سلاح بيولوجي نظري، تظل العقبات المحتملة قائمة، مثل القدرة على تصنيعه عملياً والموارد اللازمة للقيام بذلك.

كانت الأمن السيبراني من بين أكبر المخاوف للمدافعين عن السلامة. فصل تقرير Anthropic عن إساءة استخدام تقنيتها حوادث تشمل "شبكة من تطبيقات المواعدة المزيفة المصممة لخداع المستخدمين إلى أنظمة المراقبة المصممة لتحديد ومراقبة المنشقين". كما كشفت المختبر عن تفاصيل جديدة لمزاعم أن سبعة مختبرات مقرها في الصين، بما في ذلك Moonshot و Deep Seek، حاولت تكرار تقنيتها من خلال عملية تعرف باسم التقطير. وقالت Anthropic إنها اكتشفت "طرقاً متطورة بشكل متزايد لتجاوز دفاعاتنا وحصاد قدرات النماذج الأمريكية المتقدمة".

الكيانات الرئيسية: الشركات: Anthropic، Open AI، Hugging Face، Moonshot، Deep Seek، The Financial Times Ltd. | الأشخاص: Jacob Coxon، Michael Peel | المواقع: الصين، لندن

الأسئلة الشائعة: ما هو القلق الرئيسي بشأن الذكاء الاصطناعي في علم الأحياء؟

يخشى الخبراء من أن الذكاء الاصطناعي قد يستخدمه الجماعات الإرهابية أو الجهات الفاعلة الحكومية أو المهاجمون المنفردون لصنع أسلحة بيولوجية أو إنشاء فيروسات أو إطلاق مسببات الأمراض الضارة الموجودة.