पुनरापरामीकरण तकनीक वह है जो वेरिएशनल ऑटोएनकोडर (VAEs) को मानक स्टोचस्टिक ग्रेडिएंट डिसेंट से प्रशिक्षण योग्य बनाती है। यह गणना ग्राफ के बाहर यादृच्छिकता को स्थानांतरित करके काम करती है और एक अप्रत्याशित अपेक्षा के ग्रेडिएंट को एक सामान्य श्रृंखला नियम अवकलज में बदल देती है। एक VAE एक जनरेटिव मॉडल है। एक एनकोडर इनपुट डेटा x को एक लेटेंट चर z के वितरण पर मैप करता है, जबकि एक डिकोडर एक नमूना की गई z को वापस x के पुनर्निर्माण पर मैप करता है। इसे प्रशिक्षण योग्य बनाने वाला इसका उद्देश्य है, ELBO (साक्ष्य निचली सीमा), अर्थात् सच्ची डेटा संभाव्यता का एक व्यवस्थित विकल्प, जो एक पुनर्निर्माण पद और एक लेटेंट वितरण को एक सरल पूर्वाग्रह की ओर नियमित करने वाले पद से बना होता है। एक VAE को प्रशिक्षित करने के लिए इस ELBO को ग्रेडिएंट डिसेंट का उपयोग करके अधिकतम करना आवश्यक है, और इसे करने के लिए एक अपेक्षा का ग्रेडिएंट की गणना करनी होगी; अधिक सटीक रूप से, यादृच्छिक रूप से नमूना की गई लेटेंट चर z के सापेक्ष अपेक्षित पुनर्निर्माण गुणवत्ता का ग्रेडिएंट की गणना करनी होगी। यह लेख उस समस्या के माध्यम से चलता है, उसे हल करने के लिए उपयोग किए जाने वाले दो मुख्य ग्रेडिएंट आकलनकर्ता परिवारों के बारे में, और यह क्यों है कि पुनरापरामीकरण के माध्यम से प्राप्त पथवे ग्रेडिएंट की प्रसरण तीव्र रूप से कम होने की प्रवृत्ति होती है। एक कम-प्रसरण ग्रेडिएंट आकलनकर्ता केवल एक सैद्धांतिक सुविधा नहीं है। व्यावहार में, यह सीधे अधिक स्थिर प्रशिक्षण वक्रों, हानि में कम अराजक उतार-चढ़ाव, तेज़ अभिसरण और बेहतर अंतिम मॉडल में परिवर्तित होता है। यह VAEs, बेय्सियन न्यूरल नेटवर्क और निरंतर-नियंत्रण रीइन्फोर्समेंट लर्निंग एजेंट जैसे जटिल मॉडल के लिए विशेष रूप से महत्वपूर्ण है, जहाँ प्रशिक्षण संकेत अन्यथा उपयोगी होने के लिए बहुत शोर भरा हो सकता है। समस्या: अपेक्षाओं के ग्रेडिएंट — क्यों सैंपलिंग बैकप्रोप को तोड़ती है। यदि हम θ के सापेक्ष अनुकूलित करना चाहते हैं। यदि θ केवल f के अंदर दिखाई देता, यह एक मानक बैकप्रोप समस्या होती। जटिलता यह है कि θ वह वितरण पैरामीट्राइज़ करता है जिससे z खींचा जाता है — नमूना लेने की प्रक्रिया स्वयं θ पर निर्भर करती है — इसलिए हम एक स्थिर गणना ग्राफ के माध्यम से ग्रेडिएंट को बस धकेल नहीं सकते। L(θ) के मोंटे कार्लो अनुमान आसान हैं (नमूने खींचें, f(z) का औसत लें), लेकिन θ L(θ) के मोंटे कार्लो अनुमान स्वचालित नहीं हैं, क्योंकि एक नमूना लेने की संक्रिया के माध्यम से अवकलन अच्छी तरह से परिभाषित नहीं है। इससे बाहर निकलने के दो सामान्य तरीके हैं: स्कोर फ़ंक्शन आकलनकर्ता (REINFORCE) और पथवे / पुनरापरामीकरण आकलनकर्ता। दोनों बेजहेज़ हैं। वे प्रसरण में भयंकर भिन्न होते हैं। स्कोर फ़ंक्शन आकलनकर्ता (REINFORCE): लचीला लेकिन उच्च प्रसरण। यहाँ की क्लासिक तकनीक लॉग-अवकलज पहचान है: इसे अपेक्षा के ग्रेडिएंट में प्रतिस्थापित करने से मिलता है जो अब फिर से एक अपेक्षा है, इसलिए इसे z ~ p_θ नमूना करके और f(z)·∂log p_θ(z)/∂θ का औसत लेकर अनुमानित किया जा सकता है। यह पॉलिसी-ग्रेडिएंट रीइन्फोर्समेंट लर्निंग में REINFORCE के पीछे का आकलनकर्ता है, और यह वास्तव में बहुमुखी है। यह असतत z के लिए काम करता है और वितरण को पुनरापरामीट्राइज़ करने की आवश्यकता नहीं है। प्रमुख इकाइयाँ: कंपनियाँ: Towards Data Science। FAQ Q: पुनरापरामीकरण तकनीक क्या है और यह ग्रेडिएंट प्रसरण क्यों कम करती है? FAQ A: पुनरापरामीकरण तकनीक गणना ग्राफ के बाहर यादृच्छिकता को स्थानांतरित करती है, एक अपेक्षा के ग्रेडिएंट को एक मानक श्रृंखला नियम अवकलज में बदल देती है। यह पथवे ग्रेडिएंट की अनुमति देता है जिनकी REINFORCE जैसे स्कोर फ़ंक्शन आकलनकर्ताओं की तुलना में तीव्र रूप से कम प्रसरण होती है, जिससे VAE और निरंतर-नियंत्रण रीइन्फोर्समेंट लर्निंग एजेंट जैसे मॉडल के लिए अधिक स्थिर प्रशिक्षण और तेज़ अभिसरण होता है।