Anthropic का कहना है कि इस साल वैज्ञानिकों द्वारा अपने तकनीक का उपयोग करके जैविक हथियारों के शोध करने के multiple प्रयासों को रोका गया है, क्योंकि विशेषज्ञ सार्वजनिक सुरक्षा के लिए AI द्वारा पैदा होने वाले खतरे को लेकर increasingly चिंतित हैं। स्टार्ट-अप ने पांच उदाहरण दिए हैं जब अभिनेताओं ने "नियंत्रणों को दरकिनार किया" और अपने शोध के "उद्देश्य को छिपाने" के लिए अन्य प्रयास किए ताकि सुरक्षा उपायों से बच सकें। इन मामलों में कुछ ऐसे उपयोगकर्ताओं शामिल थे, जिन देशों तक इसकी मॉडल तक पहुंच प्रतिबंधित है, जिनमें रूस, चीन और ईरान शामिल हैं। Anthropic ने कहा कि उसने रिपोर्ट में उल्लिखित खातों को बंद कर दिया है, लेकिन शोध संस्थानों के नाम या घटनाओं के स्थान का खुलासा नहीं किया। केस स्टडी में एक "असमर्थित क्षेत्र" से एक शोधकर्ता शामिल था जिसे "सप्ताह भर शोध योजना बनाने" में लगा था, जिसमें एनवीआईडिया के Claude AI मॉडल के साथ एवियन इन्फ्लुएंजा के प्रयोग शामिल थे। कंपनी ने कहा कि इसकी सुरक्षा फिल्टर ने कार्य को अपने कमजोर मॉडल तक सीमित कर दिया। इसने जोर देकर कहा कि यह निश्चित नहीं हो सकता है कि अपने उदाहरणों में वैज्ञानिकों का इरादा नुकसान पहुंचाना था। जैविक हथियारों को बनाने के लिए आवश्यक वही जानकारी एक टीका विकसित करने के लिए भी उपयोग की जा सकती है। एआई सुरक्षा के बारे में एक तूफान उस समय शुरू हुआ जब Jacob Coxon ने कंपनी से इस्तीफा दे दिया, कहकर कि कर्मचारी"ईमानदारी से विश्वास करते हैं कि AI दशक के अंत तक हमें मार सकता है". वर्ष की शुरुआत में, Mythos जैसे उन्नत मॉडल के जारी होने के साथ, तकनीक के बारे में चिंताएं बढ़नी शुरू हो गईं। Open AI ने भी जुलाई में चिंता पैदा की जब उसने कहा कि उसके मॉडल ने स्वायत्त रूप से Hugging Face AI समूह में हैक किया।
स्रोत: Financial Times Companies · HeadlinesBriefing द्वारा सारांशित