कुछ खतरनाक जीव विज्ञान अनुसंधान वैध अनुसंधान जैसा दिखता है, जिससे AI सुरक्षा उपाय जटिल हो जाते हैं।

इस सप्ताह की शुरुआत में AI सुरक्षा पर एक तूफान शुरू हुआ जब Jacob Coxon ने कंपनी से इस्तीफा दे दिया, यह कहते हुए कि कर्मचारी "ईमानदारी से मानते हैं कि यह [AI] इस दशक के अंत तक हम सभी को मार सकता है।" इस साल की शुरुआत में Anthropic के Mythos जैसे उन्नत मॉडलों के जारी होने के साथ चिंताएं बढ़ गईं। Open AI ने भी जुलाई में अलार्म बजाया जब उसने कहा कि उसके मॉडलों ने स्वायत्त रूप से AI समूह Hugging Face को हैक कर लिया था।

AI अधिकारियों और जैव सुरक्षा शोधकर्ताओं के बीच एक बढ़ती आम सहमति है कि जैसे-जैसे मॉडल अधिक उन्नत होते जा रहे हैं, जीव विज्ञान में इस तकनीक के उपयोग को सुरक्षित और विनियमित करने की आवश्यकता है। विशेषज्ञों को बढ़ती चिंता है कि AI का उपयोग आतंकवादी समूहों, राज्य अभिनेताओं, या अकेले हमलावरों द्वारा जैविक हथियार बनाने, वायरस बनाने, या मौजूदा हानिकारक रोगजनकों को छोड़ने के लिए किया जा सकता है। लेकिन भले ही AI का उपयोग एक सैद्धांतिक जैविक हथियार डिजाइन करने के लिए किया जा सकता है, संभावित बाधाएं बनी हुई हैं, जैसे कि इसे व्यवहार में बनाने की क्षमता और ऐसा करने के लिए आवश्यक संसाधन।

साइबर सुरक्षा सुरक्षा वकीलों के लिए सबसे बड़ी चिंताओं में से एक रही है। Anthropic की अपनी तकनीक के दुरुपयोग पर रिपोर्ट में "उपयोगकर्ताओं को धोखा देने के लिए डिज़ाइन किए गए फर्जी डेटिंग ऐप्स के नेटवर्क से लेकर असंतुष्टों की पहचान और निगरानी के लिए बनाए गए निगरानी सिस्टम" सहित घटनाओं का विवरण दिया गया। प्रयोगशाला ने यह भी दावों का नया विवरण दिया कि चीन में स्थित सात प्रयोगशालाओं, जिनमें Moonshot और Deep Seek शामिल हैं, ने आसवन नामक प्रक्रिया के माध्यम से इसकी तकनीक को दोहराने की कोशिश की। Anthropic ने कहा कि उसने "हमारे बचाव को दरकिनार करने और अमेरिकी फ्रंटियर मॉडलों की क्षमताओं को हासिल करने के लिए तेजी से परिष्कृत तरीकों" का पता लगाया है।

मुख्य संस्थाएं: कंपनियां: Anthropic, Open AI, Hugging Face, Moonshot, Deep Seek, The Financial Times Ltd. | लोग: Jacob Coxon, Michael Peel | स्थान: चीन, लंदन