HeadlinesBriefing favicon HeadlinesBriefing.com

AI अभियंता एनवीआईडीआईए छोड़कर गया सुरक्षा चिंताओं के कारण

Hacker News •
×

Jacob Coxon ने Anthropic छोड़ दिया, जहां उसने तीन साल तक Open AI और Anthropic दोनों में प्री-ट्रेनिंग शोध किया। उसने सार्वजनिक रूप से चेतावनी दी कि दोनों कंपनियां उचित सुरक्षा योजना के बिना स्व-प्रशिक्षित सुपरइंटेलिजेंस की ओर दौड़ रही हैं। उसने अपने इक्विटी vesting से पहले छोड़ दिया, जिससे किसी भी वित्तीय प्रोत्साहन को दूर रखने के लिए silent रहने के लिए प्रोत्साहित किया गया।

Coxon, जिसने 27 वर्ष की आयु में Anthropic में शामिल हुआ, कहा कि ईमानदारी से AI बना रहे इंजीनियर मानते हैं कि यह दशक के अंत तक सभी मानवों को मार सकता है। वह कंपनी को बुरा नहीं कहता, लेकिन प्रतिस्पर्धी दबाव के तहत कोनों में कटौती करने का आरोप लगाता है। Anthropic के संरेखण टीम के नेता Evan Hubinger ने Coxon के आकलन की पुष्टि की, दशक के भीतर आपातकालीन AI की संभावना का अनुमान 10% से अधिक है।

लेख Frances Haugen की तुलना करता है, जिन्होंने 2021 में Facebook छोड़ दिया था, आंतरिक शोध का खुलासा करते हुए कि Instagram एक तिहाई किशोर लड़कियों में शरीर की छवि के मुद्दों को बढ़ाया। दोनों को खन: दोनों। the दोनों और औरन,न,।। ने, Ins