HeadlinesBriefing favicon HeadlinesBriefing.com

एंथ्रोपिक CEO: AI को बैंकिंग निगरानी चाहिए

Financial Times Companies •
×

Facebook के सह-संस्थापक और 'Marketcrafters' के लेखक Chris Hughes का तर्क है कि AI कंपनियों को बैंक निगरानी पर आधारित विनियामक निगरानी की आवश्यकता है। Anthropic के CEO Dario Amodei स्वतंत्र मूल्यांकनकर्ताओं को कंपनी के सिस्टम तक रीयल-टाइम पहुंच देने की वकालत करते हैं, जिस तरह से फेडरल रिज़र्व वाणिज्यिक बैंकों के भीतर टीमों को शामिल करता है। यह दृष्टिकोण निरीक्षकों को आंतरिक दस्तावेज़ीकरण की समीक्षा करने और यह मूल्यांकन करने की अनुमति देगा कि क्या नेतृत्व जोखिम का उचित प्रबंधन कर रहा है, बजाय इसके कि रिलीज़ से पहले सिस्टम का परीक्षण किया जाए। इस मॉडल के तहत, एम्बेडेड निरीक्षक सुनिश्चित करेंगे कि मनुष्य और AI एजेंट गलत व्यवहार को रोकने पर केंद्रित रहें और अत्यधिक परिस्थितियों में मनुष्य मॉडल को ओवरराइड कर सकते हैं, इसकी पुष्टि करने के लिए स्ट्रेस टेस्ट की निगरानी करें। लेख चेतावनी देता है कि किशोरों की मानसिक स्वास्थ्य और गलत जानकारी जैसे विविध मुद्दों से दबे जाने के कारण नीति निर्माताओं ने सोशल मीडिया को विनियमित नहीं किया। AI के साथ यह दोहराने से बचने के लिए, कांग्रेस को सबसे दबाव वाले चिंता-बिंदु—मॉडल सुरक्षा—से शुरू करना चाहिए और वहां से आगे बढ़ना चाहिए। एक समर्पित विनियामक एजेंसी, संभवतः AI निगरानी कार्यालय, की स्थापना आवश्यकताओं को नियमों में बदलेगी। बैंक निगरानी से सीखें टेक्नोलॉजिकल पैराडिगम को समझने और अपनी शक्ति का उपयोग करने के इच्छुक स्टाफ की आवश्यकता पर प्रकाश डालती हैं। वरिष्ठ परीक्षकों को कैप्चर को रोकने के लिए कंपनियों के बीच रोटेशन करना चाहिए, जिससे सटीक जोखिम मूल्यांकन और फ्रंटियर AI लैब्स की प्रभावी निगरानी सुनिश्चित हो।