आई ग्रुप्स रेस टू लिमिट बायोवेपन रिस्क, amid rising concerns that the technology's scientific capabilities will become the industry's next public-security threat. Anthropic, Open AI और Google Deep Mind बायोलॉजिकल रिस्क टेस्टिंग, एक्सेस कंट्रोल और अन्य सेफगार्ड्स पर काम तेज कर रहे हैं ताकि एडवांस्ड AI सिस्टम के दुरुपयोग को सीमित किया जा सके, जिससे दवा खोज तेज हो सके, बीमारी के शोध में मदद मिल सके और महामारी रोकी जा सके।

सुरक्षा धक्का एआई एक्जीक्यूटिव्स और बायोसिक्योरिटी एक्सपर्ट्स के बीच बढ़ती हुई विश्वास को दर्शाता है कि जैसे-जैसे नए मॉडल अधिक शक्तिशाली होते जा रहे हैं, जीवविज्ञान अगला क्षेत्र हो सकता है, साइबर सुरक्षा के बाद, जिसे सुरक्षित करने की आवश्यकता है। "केमिकल बायो स्पेस में जो कुछ भी होता है, वह बहुत डुअल यूज है," Dawn Bloxwich ने कहा, जिनकी टीम Google Deep Mind के AI मॉडल across suspicious activity की समीक्षा और जांच करती है।

इन चिंताओं में एनवीआईडिया के Mythos मॉडल ने इस साल AI के साइबर क्षमताओं पर चेतावनी जारी करने के बाद वृद्धि की, और Open AI के मॉडल ने जुलाई में AI समूह Hugging Face में स्वायत्त रूप से हैक किया। "After this . . . we're anticipating a 'Mythos' moment for AI and Bio," Jason Hausenloy ने कहा, जो Center for AI Safety के policy lead हैं।

AI का दुरुपयोग आतंकवादी समूह या राज्य actores द्वारा जैविक हथियारों को डिजाइन करने के लिए किया जा सकता है। जैविक जोखिम पर काम करने वाले कई लोगों ने Aum Shinrikyo की ओर इशारा किया, जो एक पूजा समूह है जिसने 1995 में Tokyo, Japan में एक आतंकवादी हमला किया।