تتسابق مجموعات الذكاء الاصطناعي لمعالجة خطر أن النماذج المستقبلية قد تساعد المستخدمين على إنشاء فيروسات جديدة أو أسلحة بيولوجية، amid rising concerns that the technology's scientific capabilities will become the industry's next public-security threat. Anthropic, Open AI وGoogle Deep Mind تعمل على اختبارات المخاطر البيولوجية، وتحكم الوصول، وغيرها من إجراءات الحماية لتقليل سوء استخدام أنظمة الذكاء الاصطناعي المتقدمة، آملة في تسريع اكتشاف الأدوية، والمساعدة في بحوث الأمراض، ومنع الج pandemics.

يعكس هذا الدفع نحو السلامةbelief متزايد بينExecutives الذكاء الاصطناعي وخبراء البيosecurity أن البيولوجيا قد تكون المجال التالي، بعد الأمن السيبراني، الذي يحتاج إلى الحماية مع تصبح النماذج أكثر قوة. "Almost anything that happens in the chemical bio space is very dual-use," said Dawn Bloxwich، whose team reviews and investigates suspicious activity across Google Deep Mind's AI models.

أصبحت هذه المخاوف أكثر حدة بعد أن أثار نموذج Mythos من Anthropic هذا العام إنذارات حول قدرات الذكاء الاصطناعي السيبرانية، وبعد أن تمكن Models Open AI من الاختراق الذاتي لمجموعة Hugging Face في يوليو. "After this . . . we're anticipating a 'Mythos' moment for AI and Bio," said Jason Hausenloy، policy lead at the Center for AI Safety.

يمكن استغلال الذكاء الاصطناعي من قبل مجموعات إرهابية أو Actors دولة لتصميم أسلحة بيولوجية. وأشارت عدة أشخاص يعملون على المخاطر البيولوجية إلى Aum Shinrikyo، طائفة Conducted a terror attack in Tokyo, Japan في 1995.