पिछले कई महीनों में, दो प्रमुख फ्रंटियर AI लैब्स ने साहसी व्यवहार दिखाया है। यह सब Open AI की घोषणाओं से शुरू हुआ, जिसने स्थापित किया कि उनके LLM-संचालित एजेंट कितने शक्तिशाली हो गए हैं। फिर उन्होंने बैटन Anthropic को सौंप दिया, जिनके कर्मचारियों ने मानव विलुप्ति की संभावना पर बहस की। यह अभियान Anthropic के CEO Dario Amodi द्वारा "हमें सीमा को नियंत्रित करना चाहिए" शीर्षक से एक पत्र जारी करने के साथ चरम पर पहुंचा, जिसमें उन्होंने अपनी कंपनी के शोध से होने वाले नुकसानों की सूची दी, और फिर निष्कर्ष निकाला कि आपदा से केवल तभी बचा जा सकता है जब सरकार प्रतिस्पर्धियों को धीमा करे और लैब्स को नेतृत्व करने दे। Open AI के CEO Sam Altman ने तुरंत ट्वीट कर समर्थन किया।

आंतरिक रूप से, ये लैब्स मसीहाई सोच को अपनाते हैं, खुद को मानवता की एकमात्र आशा के रूप में पेश करते हैं। यह गर्मी कुछ हद तक हमें इस विचारधारा में शामिल करने का उनका प्रयास था—लेकिन यह काम नहीं आया। इसके बजाय, इसने हमें सवाल करने पर मजबूर कर दिया, "उन लैब्स में आखिर चल क्या रहा है?"

मैंने _द न्यूयॉर्क टाइम्स_ में एक ऑप-एड प्रकाशित किया जिसमें कांग्रेस से एक सार्वजनिक तथ्य-खोज मिशन शुरू करने का आह्वान किया। मैंने तीन प्रमुख क्षेत्रों का सुझाव दिया: समस्या पैदा करने वाले विशिष्ट सिस्टम को अलग करना, आंतरिक सुरक्षा प्रक्रियाओं की जांच करना (स्वायत्त एजेंटों द्वारा अनधिकृत हैकिंग हमलों सहित), और सर्वनाशकारी भविष्यवादी विचारधाराओं की भूमिका की जांच करना जो लापरवाह निर्णयों को प्रेरित करती हैं।

"हमें कुछ निजी कंपनियों को यह तय करने से रोकना होगा कि हम AI के बारे में कैसा महसूस करें," मैंने निष्कर्ष निकाला। "अब कांग्रेस की बारी है कि वह हमारी ओर से कदम उठाए और पता लगाए कि वास्तव में क्या हो रहा है।"