हम AI के बेकाबू होने के खतरे को लेकर बहुत चिंतित लगते हैं, और इसके ऐसा करने के कई उदाहरण हैं। हालांकि, ये सभी गलत व्याख्याएं हैं, क्योंकि AI का कोई इरादा नहीं है और कोई प्रेरणा नहीं है। अगर आप मानते हैं कि वर्तमान AI सिर्फ एक स्टोकेस्टिक तोता है, तो कहने को कुछ नहीं बचता - आगे बढ़ें। अगर आपने वर्तमान AI पेशकशों में से किसी का उपयोग किया है, तो आपको यह निष्कर्ष निकालना होगा कि, जबकि प्रशिक्षण का तंत्र यह विश्वास दिलाता है कि ये LLM सिर्फ परिष्कृत ऑटो-कंप्लीट हैं, वे इससे कहीं अधिक लगते हैं।

जैसा कि मैंने कई बार तर्क दिया है, प्रशिक्षण कॉर्पस, यानी भाषा, दुनिया की संरचना के बारे में इतना कुछ संकेतित करती है कि LLM स्टोकेस्टिक तोता से अपेक्षा से कहीं आगे जा सकते हैं। वे बुद्धिमान नहीं हैं, लेकिन वे ऐसा होने का अच्छा आभास देते हैं। तो क्या हमें आने वाले AI प्रलय की चिंता करनी चाहिए? कई AI शोधकर्ताओं - Hinton, Hassabis, और Bengio, उदाहरण के लिए - ने चिंता व्यक्त की है कि AI हमें मिटा सकता है, लेकिन जब आप जांचते हैं कि वे क्या कह रहे हैं, तो यह गैर-तकनीकी व्यावसायिक मालिकों के समान नहीं है, जो ज्यादातर पैसे कमाने के तरीके के रूप में इस विषय पर कूद पड़े हैं।

व्यावसायिक मालिक वे लोग नहीं हैं जिनकी हमें सुननी चाहिए क्योंकि उनके पास पीसने के लिए बहुत सारे कुल्हाड़ी हैं, और इसलिए ऐसे परिदृश्यों को प्राथमिकता देने के कारण हैं जिनमें AI सर्वशक्तिमान और खतरनाक है। विशेषज्ञ हैं, विशेष रूप से Ng, Le Cun, और Brooks, जो सोचते हैं कि हम वर्तमान AI की शक्ति और इसे मानव बुद्धि से आगे निकलने के चरण तक पहुंचने में लगने वाले समय को घोर अतिरंजित कर रहे हैं।

भले ही यह सच हो, चिंता न करने का एक बेहतर कारण है - प्रेरणा। एक इंसान पर विचार करें। हमारे पास सभी प्रकार की जरूरतें हैं क्योंकि हम जैविक हैं। हम जीवित रहने की जरूरत से प्रेरित हैं और हम भोजन, आश्रय, सुरक्षा और साथी को सुरक्षित करने के लिए चीजें करते हैं। हम जीव विज्ञान से प्रेरित हैं। AI के साथ ऐसा नहीं है। हम जिन LLM का उपयोग करते हैं, उन्हें सुदृढीकरण सीखने के साथ प्रशिक्षित किया जाता है। यदि आप इसे अधिक मानवीय शब्दों में रखना चाहते हैं, तो उन्हें प्रशिक्षण कार्य को सही ढंग से पूरा करने के लिए पुरस्कृत किया जाता है। व्यक्तिगत रूप से, मुझे लगता है कि यह मानवीकरण बहुत दूर तक चला गया है, लेकिन यह हानिकारक नहीं है।

एक बार LLM प्रशिक्षित हो जाने के बाद, वे अब सुदृढीकरण सीखने के अधीन नहीं हैं। उनके पास अब किसी भी प्रकार की प्रेरणा नहीं है। जब वे किसी प्रश्न का उत्तर देते हैं तो उन्हें पुरस्कृत नहीं किया जाता। उनकी कोई जरूरत या इच्छा नहीं है, और यहां तक कि अगर वे होती भी, तो पुरस्कार को अवशोषित करने का कोई तंत्र नहीं है। उनके पास कोई फीडबैक भी नहीं है जो अच्छी तरह से किए गए काम पर गर्व का विकल्प बन सके। क्या आपने LLM को यह बताने की कोशिश की है कि इसने आपके प्रश्न का उत्तर बहुत अच्छा दिया। प्रतिक्रिया अच्छे से अच्छी स्थिति में निराशाजनक होती है और स्पष्ट रूप से आपके और LLM के बीच बैठे फ्रंट-एंड क्लटर द्वारा प्रोग्राम की गई होती है।

सिर्फ इतना ही नहीं, बल्कि कब ऐसा हुआ कि AI ने आपको बिना पूछे कुछ सुझाव दिया? आपने कब एक विंडो खोली और पाया कि AI ने टाइप किया "मेरे पास ... के लिए एक शानदार विचार है" और फिर बताया कि यह अच्छा विचार क्यों था। LLM के पास अच्छे विचार नहीं होते - उनके पास इरादा नहीं होता। जब आप AI के साथ किसी विषय की खोज कर रहे होते हैं, तो यह प्रशिक्षण सेट में मौजूद किसी चीज से हटकर कुछ सुझाव दे सकता है, लेकिन यह अनचाही नवाचार नहीं है। हम अपने सवालों को इनपुट करके AI को चलाते हैं जो हमारी जरूरतों से प्रेरित होते हैं। LLM किसी भी चीज को करने के लिए प्रेरित नहीं होते, यहां तक कि आपके सवालों का जवाब देने के लिए भी नहीं। प्रेरणा इसमें बिल्कुल नहीं आती।

आप एक प्रश्न टाइप करते हैं, और फॉरवर्ड प्रॉप एल्गोरिदम चलता है। चाहे उत्तर सही हो या बेकार, LLM को न तो इनाम मिलता है और न ही सजा। यह उन चिंताओं से भी प्रेरित नहीं है जो एक इंसान को होतीं — "मेरा खाना कहां से आएगा", "मैं इस नौकरी से कैसे पदोन्नत हो सकता हूं", "डेट पाने का सबसे अच्छा तरीका क्या है".... और इसी तरह। इंसान जरूरतों का एक अराजक गट्ठर है, जबकि LLM के पास इसमें से कुछ भी नहीं है। इसका मतलब यह क्यों है कि LLM हानिरहित है? केवल इसलिए क्योंकि यह वास्तव में कुछ भी नहीं चाहता, लेकिन इंसान इतने जरूरतमंद हैं कि वे इस स्थिति में किसी चीज की कल्पना ही नहीं कर सकते। क्या AI हमें मिटा देगा? यह क्यों करेगा? इसे क्या हासिल होगा? इसके पास बनाने के लिए इनाम लूप भी नहीं है...