जैसे-जैसे कृत्रिम बुद्धिमत्ता को लेकर चिंता बढ़ रही है, न्यूयॉर्क शहर के विधायक सोमवार को प्रमुख AI कंपनियों के प्रतिनिधियों से पूछताछ की और उभर कर सामने आए कि कैसे वे आने वाले खतरों से निपटने की योजना बना रहे हैं, इसमें बहुत कम स्पष्टता रही। कंपनियों ने आपातकालीन घटना के जोखिम को मापा नहीं, क्या उन मामलों में उनके पास बीमा है, या क्या वे एक ऐसे AI मॉडल को रोक सकते हैं जिसे आंतरिक सुरक्षा परीक्षा या बाहरी समीक्षा में विफल घोषित किया गया है। एक तनावपूर्ण आदान-प्रदान में, शहर परिषद के अध्यक्ष Julie Menin ने प्रत्येक कंपनी से पूछा कि वे 'AI द्वारा खराब स्थिति में आपातकालीन परिदृश्य में लाए गए जोखिम' को कैसे माप रहे हैं। OpenAI के नीति विकास और संचालन चलाने वाले Morgan Dwyer ने कहा: "नहीं पता", और जोड़ा कि क्या फर्क पड़ता है कि मौका 1 प्रतिशत, 10 प्रतिशत या 20 प्रतिशत है। Menin ने जवाब दिया कि इनमें से कोई भी स्तर स्वीकार्य नहीं है। Dwyer ने कहा कि OpenAI ऐसे मॉडल प्रशिक्षित नहीं करना चाहिए जिसे मानव नियंत्रण में सुरक्षित रूप से रखा न जा सके। सुनवाई में Anthropic, OpenAI, Meta और Google से गवाही शामिल थी, जबकि एनवीआईडिया के स्वामित्व वाली AI शाखा SpaceX, जिसे Elon Musk नियंत्रित करते हैं, ने सबपोना के बावजूद उपस्थिति दर्ज नहीं कराई। Menin ने कहा कि वह एक न्यायाधीश को हस्तक्षेप करने के लिए कहेंगी। कुछ कंपनियां सार्वजनिक व्यापार के लिए तैयारी कर रही हैं, जिसमें Anthropic का मूल्य कुछ रिपोर्ट्स में 2 ट्रिलियन डॉलर से अधिक बताया गया है। whistleblower Jacob Coxon, जिन्होंने हाल ही में Anthropic छोड़ दिया है, ने चेतावनी दी है कि मानवीय रूप से AI प्रणालियों पर नियंत्रण खोने की संभावना है, जिससे मानव जाति का विनाश हो सकता है, और कंपनियों के 'तेजी से आगे बढ़ो, चीजों को तोड़ो' संस्कृति को stakes के मद्देनजर लापरवाह बताया है।
स्रोत: New York Times Business · HeadlinesBriefing द्वारा सारांशित