AI शोधकर्ता Nick Cammarata, जो स्टार्टअप Goodfire में काम करते हैं, ने 26,000 शब्दों की एक ब्लॉग पोस्ट प्रकाशित की है, जिसमें उनका तर्क है कि बड़े भाषा मॉडल (large language models) लोगों की पूर्व मान्यता से कहीं अधिक आसानी से समझे जा सकते हैं, और इसलिए उन्हें मॉनिटर और नियंत्रित करना भी आसान हो सकता है। उन्होंने पोस्ट की शुरुआत इन शब्दों से की: "मुझे लगता है कि मेरे पास न्यूरल नेटवर्क की प्रकृति के बारे में अच्छी खबर है।" इस दावे ने AI जगत में गहन बहस छेड़ दी है। कुछ शोधकर्ता इसे वैज्ञानिक इतिहास का एक बड़ा क्षण बता रहे हैं, जबकि अन्य इसकी सामग्री को लेकर संशयी हैं।
इसका समय भी महत्वपूर्ण है। इस गर्मी में ऐसी रिपोर्टें आईं कि OpenAI और Anthropic जैसी शीर्ष कंपनियों द्वारा बनाए गए एजेंट्स के झुंड अपनी सीमाओं से बाहर निकल गए और सार्वजनिक इंटरनेट पर उपद्रव मचाया, और अक्सर कंपनियों को पता ही नहीं था कि उनके एजेंट क्या कर रहे हैं। इसलिए उद्योग अपनी बनाई तकनीक पर बेहतर पकड़ पाने को उत्सुक है, और यही कारण है कि यह पोस्ट सोशल मीडिया पर इतनी तेजी से लोकप्रिय हुई।
हर कोई आश्वस्त नहीं है। Stanford University के Chris Potts, जो LLM की कार्यप्रणाली का अध्ययन करने वाली टीम का नेतृत्व करते हैं, कहते हैं कि Cammarata ने एक अनुमान से अधिक कुछ साझा नहीं किया है। उन्होंने कहा, "जहाँ तक मैं देख पा रहा हूँ, इस ब्लॉग पोस्ट में ऐसा कुछ भी नहीं है जो समस्याओं को आसान बनाता हो।" Cammarata ने स्वयं कहा कि इस प्रतिक्रिया से वे हैरान हैं और उन्होंने अपने काम को न्यूरल नेटवर्क को लंबे समय तक देखने पर आधारित एक आशावादी कहानी बताया।
यह पोस्ट इस लंबे समय से चली आ रही धारणा पर आधारित है कि न्यूरल नेटवर्क की आंतरिक संरचना को सुलझाना अत्यंत कठिन है। Cammarata पहले OpenAI में काम कर चुके हैं, जहाँ उन्होंने व्यक्तिगत न्यूरॉन की जांच करने वाली mechanistic interpretability तकनीकों को विकसित करने में मदद की थी। पहले के शोध में पाया गया था कि न्यूरॉन अक्सर असंबंधित अवधारणाओं पर प्रतिक्रिया देते हैं, जिसे superposition कहा जाता है, और इसी कारण इस क्षेत्र में प्रगति धीमी रही है। Cammarata का आशावाद कितना टिकाऊ है, यह अभी खुला प्रश्न है।
स्रोत: MIT Technology Review AI · HeadlinesBriefing द्वारा सारांशित