HeadlinesBriefing favicon HeadlinesBriefing.com

Anthropic का J-स्पेस: गणितीय प्राइमर

Towards Data Science •
×

Anthropic के पेपर "Verbalizable Representations Form a Global Workspace in Language Models" में, शोधकर्ता J-स्पेस प्रस्तुत करते हैं, जो मानव कॉर्टेक्स में वैश्विक वर्कस्पेस का एक LLM समानांतर (Claude Opus 4.6 पर प्रदर्शित) है। लेखक व्यापक अनुभवजन्य साक्ष्य प्रस्तुत करते हैं और LLM संरेखण के लिए एक ऑडिटिंग उपकरण के रूप में J-स्पेस का प्रदर्शन करते हैं।

हम J-स्पेस की औपचारिक परिभाषा और गणितीय गुणों की पुनः जाँच करते हैं, Anthropic के सर्जिकल हस्तक्षेपों के लिए सटीक औचित्य प्रदान करते हुए। मूल पेपर की संक्षिप्त शैली प्रमुख यांत्रिकी को अंतर्निहित छोड़ सकती है; हम अनुप्रयुक्त गणित के दृष्टिकोण से एक स्पष्ट, चरण-दर-चरण विवरण प्रदान करते हैं।

अवशिष्ट धारा में परत 𝓁 में स्थिति t पर एक टोकन का अर्थपूर्ण प्रतिनिधित्व परिभाषित किया गया है। अंतिम परत L पर औसत कारणात्मक प्रभाव प्रॉम्प्ट, स्थितियों और भविष्य के संदर्भों पर एक अपेक्षा है। अनएम्बेडिंग मैट्रिक्स से गुणा करने पर J-लेंस वेक्टर प्राप्त होते हैं। ये एक अति-पूर्ण फ्रेम बनाते हैं; J-स्पेस इन वेक्टरों के k-विरल गैर-ऋणात्मक रैखिक संयोजनों का समुच्चय है—शंकुओं का एक संघ।

मौखिकीकरण योग्य घटक J-स्पेस पर लंबकोणीय प्रक्षेपण है, एक अनुमानित k-विरल विस्तार। गैर-मौखिकीकरण योग्य घटक अवशेष है।

मुख्य संस्थाएँ: कंपनियाँ: Anthropic, Towards Data Science