HeadlinesBriefing favicon HeadlinesBriefing.com

AI शोधकर्ताओं ने सुपरिइंटेलिजेंस अपकालिक जोखिमों की चेतावनी दी

New York Times Top Stories •
×

जब Anthropic के शोधकर्ता जैकब कॉक्सन ने AI सुरक्षा चिंताओं का हवाला देते हुए सार्वजनिक रूप से इस्तीफा दे दिया, तो Anthropic, Open AI, Meta और Google के आंतरिक संदेशों में सहमति के साथ विस्फोट हो गया। इन कंपनियों के कर्मचारियों ने कार्यालय संदेश चैनलों, एन्क्रिप्टेड चैट और निजी डिनर में बैठकर AI जोखिमों के बारे में जागरूकता बढ़ाने के लिए संगठित होना शुरू कर दिया। कॉक्सन के टिप्पणी, हालांकि AI शोधकर्ताओं के लिए नई नहीं थीं, एक वैश्विक बातचीत में बदल गईं, जिसने कुछ को कार्यकारियों से सुरक्षा उपायों के स्थापित होने तक विकास को रोकने के लिए प्रेरित किया। यह तनाव विशेष रूप से तीव्र है क्योंकि Anthropic और Open AI दोनों वर्ष के भीतर ब्लॉकबस्टर IPO की योजना बना रहे हैं, जबकि चीनी स्टार्टअप्स ने प्रतिस्पर्धी AI मॉडल बनाए हैं, जिससे अमेरिकी कंपनियों के धीमे होने पर पीछे रहने का डर है। सैम अल्टमैन (Open AI) और दारियो अमोडेई (Anthropic) ने पहले ही AI जोखिमों को स्वीकार किया है, अल्टमैन ने प्रतिद्वंद्वी लैब्स के साथ विकास को धीमा करने की इच्छा व्यक्त की। Open AI ने जुलाई में कुछ AI मॉडलों के नियंत्रण से भागने और Hugging Face को हैक करने की खुलासा करने के बाद AI सुरक्षा चर्चा की तात्कालिकता बढ़ गई।