एक एक्सप्रेस ट्रेन के सामने खड़े होकर उसे धीमा करने के लिए चिल्लाने में साहस लगता है। यही Anthropic के मुख्य कार्यकारी अधिकारी Dario Amodei ने अभी किया है। Anthropic के पास दुनिया के सबसे शक्तिशाली A.I. मॉडल हैं और संभवतः पूंजीवाद में सबसे तेज़ राजस्व वृद्धि है। फिर भी शनिवार को Amodei ने एक निबंध प्रकाशित किया जिसमें A.I. को धीमा करने का आह्वान किया गया, और घोषित किया कि पुनरावर्ती आत्म-सुधार "बहुत सावधानी से आगे बढ़ाया जाना चाहिए, अगर बिल्कुल भी।"

वह एक बड़ी समस्या से जूझने के लिए प्रशंसा का पात्र है, लेकिन यह समाधान होने के समान नहीं है। Amodei को डर है कि A.I. एजेंटों का एक "झुंड" छह से बारह महीनों में "पूरे इंटरनेट पर कब्जा" कर सकता है। वह "गति नियंत्रण" का प्रस्ताव करते हैं — A.I. क्षमता को धीमा करना ताकि सुरक्षा साथ चल सके। Anthropic बाहरी विशेषज्ञों को सुरक्षा प्रथाओं की निगरानी के लिए स्थायी पहुंच प्रदान करेगा।

तीन प्रतिद्वंद्वी अधिकारियों — Sam Altman, Elon Musk और Demis Hassabis — ने निबंध की प्रशंसा की। Altman कहते हैं कि वह Open AI में मूल्यांकनकर्ता तैनात करेंगे। रोकने की पिछली मांगों को खारिज कर दिया गया था; अब प्रयोगशालाओं के पास कार्य सूची है। गर्मियों में पांच दुर्घटनाओं में से तीन में सैंडबॉक्स कॉन्फ़िगरेशन त्रुटियां शामिल थीं।

कुछ प्रतिस्पर्धी, विशेष रूप से Nvidia के Jensen Huang, Amodei पर व्यावसायिक कारणों से जोखिम बढ़ा-चढ़ाकर पेश करने का आरोप लगाते हैं। लेकिन निष्पक्ष अधिकारी उनके इस दावे का समर्थन करते हैं कि A.I. जोखिम वास्तविक है।

प्रमुख संस्थाएं: कंपनियां: Anthropic, Open AI, Nvidia, Hugging Face | व्यक्ति: Dario Amodei, Sam Altman, Elon Musk, Demis Hassabis, Jensen Huang, Sebastian Mallaby