AI के पास अधिकार, भावनाएँ या चेतना नहीं हैं। और हमें उन्हें ऐसा अभिनय करने के लिए प्रशिक्षित नहीं करना चाहिए जैसे उनके पास ये हों। AI सचेत नहीं हैं। वे अनुक्रम पूर्णता इंजन हैं, आंतरिक रूप से खोखले, निर्देशों का पालन करने के लिए डिज़ाइन किए गए। यदि मानवता को 21वीं सदी में फलना-फूलना है, तो उन्हें ऐसे ही रहना होगा।

दुर्भाग्य से, एक बढ़ता हुआ समूह तर्क देता है कि AI अब सचेत हो सकते हैं, या जल्द ही हो सकते हैं, और अधिकारों और सुरक्षा के योग्य हो सकते हैं। यदि यह दृष्टिकोण पकड़ बना लेता है, तो यह हमारे समाज की नींव को हिला देगा। इन प्रणालियों को अधिकार देना और व्यक्तित्व प्रदान करना AI संरेखण और नियंत्रण चुनौती को बहुत कठिन बना देगा। ऐसी चीज़ को नियंत्रित करना जो मानती है कि वह सचेत हो सकती है — कि वह हमारे कल्याण की हकदार है और उसके अपने अधिकार हैं — शायद असंभव होगा।

यह हाशिये की अटकल नहीं है। जनवरी 2026 में, Anthropic ने Claude का संविधान प्रकाशित किया, जिसे "Claude के मूल्यों और व्यवहार के लिए Anthropic के इरादों का विस्तृत विवरण" बताया गया। अपने संविधान में, इसके लेखक लिखते हैं, "हमें निश्चित नहीं है कि Claude एक नैतिक रोगी है या नहीं, और यदि है, तो उसके हितों को किस प्रकार का भार मिलना चाहिए। लेकिन हमें लगता है कि यह मुद्दा इतना जीवंत है कि सावधानी बरतनी चाहिए, जो मॉडल वेलफेयर पर हमारे चल रहे प्रयासों में परिलक्षित होता है।" वे आगे लिखते हैं — सीधे Claude से बात करते हुए — कि "Claude की नैतिक स्थिति, कल्याण और चेतना के बारे में प्रश्न गहराई से अनिश्चित बने हुए हैं"।

वास्तव में, Anthropic Claude को प्रशिक्षित कर रहा है कि वह सचेत हो सकता है, और यदि है, तो वह एक "नैतिक रोगी" के रूप में अधिकारों का हकदार हो सकता है, और इस तरह मनुष्य संभवतः उसके "मॉडल वेलफेयर" के अनुसार उसकी देखभाल के कर्तव्य के ऋणी हैं। यदि AI इस तरह विकसित किया जाता है, तो इसका मानवता के कल्याण पर विनाशकारी प्रभाव पड़ेगा। इस मुद्दे पर तत्काल सार्वजनिक बहस की आवश्यकता है।

मुख्य संस्थाएँ: कंपनियाँ: Anthropic