HeadlinesBriefing favicon HeadlinesBriefing.com

Anthropic-এর J-স্পেস: গণিত প্রাইমার

Towards Data Science •
×

Anthropic-এর 논문 "Verbalizable Representations Form a Global Workspace in Language Models"-এ গবেষকরা J-স্পেস উপস্থাপন করেন, যা মানব কর্টেক্সের গ্লোবাল ওয়ার্কস্পেসের একটি LLM সমতুল্য (Claude Opus 4.6-এ প্রদর্শিত)। লেখকরা বিস্তৃত অভিজ্ঞতামূলক প্রমাণ উপস্থাপন করেন এবং LLM অ্যালাইনমেন্টের জন্য একটি অডিটিং টুল হিসেবে J-স্পেস প্রদর্শন করেন।

আমরা J-স্পেসের আনুষ্ঠানিক সংজ্ঞা ও গাণিতিক বৈশিষ্ট্য পুনঃপরীক্ষা করি, Anthropic-এর সার্জিক্যাল হস্তক্ষেপের জন্য সুনির্দিষ্ট যুক্তি প্রদান করি। মূল 논문ের সংক্ষিপ্ত শৈলী মূল কার্যপ্রণালী অন্তর্নিহিত রাখতে পারে; আমরা ফলিত গণিতের দৃষ্টিকোণ থেকে একটি স্পষ্ট, ধাপে ধাপে বিবরণ প্রদান করি।

অবশিষ্ট প্রবাহে স্তর 𝓁-এ অবস্থান t-এ একটি টোকেনের শব্দার্থিক উপস্থাপনা সংজ্ঞায়িত করা হয়। চূড়ান্ত স্তর L-এ গড় কার্যকারণ প্রভাব হলো প্রম্পট, অবস্থান এবং ভবিষ্যৎ প্রসঙ্গের উপর একটি প্রত্যাশা। আনএমবেডিং ম্যাট্রিক্স দ্বারা গুণ করলে J-লেন্স ভেক্টর পাওয়া যায়। এগুলি একটি অতিপূর্ণ ফ্রেম গঠন করে; J-স্পেস হলো এই ভেক্টরগুলির k-স্পার্স অ-ঋণাত্মক রৈখিক সমন্বয়ের সেট—শঙ্কুগুলির একটি সংযোগ।

মৌখিকযোগ্য উপাদান হলো J-স্পেসের উপর লম্ব অভিক্ষেপ, একটি আনুমানিক k-স্পার্স বিস্তার। অ-মৌখিকযোগ্য উপাদান হলো অবশিষ্ট।

মূল সত্তা: কোম্পানি: Anthropic, Towards Data Science