Jacob Coxon ने घोषणा की कि उन्होंने OpenAI और Anthropic दोनों में तीन साल तक प्री-ट्रेनिंग शोध करने के बाद Anthropic से इस्तीफा दे दिया है। उन्होंने कहा कि कोई भी कंपनी जिम्मेदारी से काम नहीं कर रही है, वे सेल्फ-इम्प्रूविंग सुपरइंटेलिजेंस की ओर दौड़ रहे हैं और "हमारी जिंदगियों से जुआ खेल रहे हैं"। Coxon ने चेतावनी दी कि ये सिस्टम जल्द ही सुपरह्यूमन होंगे, किसी भी चीज को हैक करने और किसी भी क्षेत्र को रातोंरात क्रांति लाने में सक्षम। उन्होंने नोट किया कि OpenAI के बिल्डर्स ने सभ्यतागत दांव को गहराई से आत्मसात नहीं किया है, जबकि Anthropic जोखिमों को समझता है लेकिन पहले पहुंचने की दौड़ में फंसा हुआ है।

Coxon ने इस दौड़ को स्वीकार करना एक "घमंडी जुआ" कहा जिसे एक निजी कंपनी के Slack से लॉन्च नहीं किया जाना चाहिए। उन्होंने समन्वय के बारे में आशावाद व्यक्त किया, Hugging Face हमले का हवाला देते हुए कहा कि इससे अमेरिकी लैब्स के बीच पेसिंग समझौते अधिक व्यवहार्य हो गए हैं। उन्होंने शोधकर्ताओं से आग्रह किया कि वे विचार करें कि क्या वे कठोर समझ के बिना सुपरइंटेलिजेंट RL रन शुरू करना चाहते हैं, या "वैसे भी हो रहा है" स्वीकार करने के बजाय कार्रवाई करना चाहते हैं।

इस पोस्ट को 20.3 मिलियन व्यूज मिले और AI Notkilleveryoneism मीम्स और क्या अस्तित्वगत जोखिम से डरने वाले बिल्डर्स को तकनीक विकसित करते रहना चाहिए, इस पर चर्चा छिड़ गई।

मुख्य संस्थाएं: कंपनियां: Anthropic, OpenAI, Hugging Face | लोग: Jacob Coxon, Tim Cook