HeadlinesBriefing favicon HeadlinesBriefing.com

MSE झूठ: भाग II

Towards Data Science •
×

पिछले लेख में, हमने देखा कि क्यों MSE के साथ प्रशिक्षण एक मॉडल को केवल सशर्त माध्य की रिपोर्ट करने के लिए मजबूर करता है, और कैसे गाऊसी NLL इसे एक ईमानदार प्रति-चरण अनिश्चितता σ भी सीखने देता है। वह एक-चरण की कहानी थी। यह पोस्ट वहीं से शुरू होता है जहाँ हमने छोड़ा था। हमने भाग I में जो कुछ भी बनाया — गाऊसी NLL, दो-अवधि हानि, प्रमाण कि मॉडल सशर्त माध्य और सशर्त विचरण दोनों सीखता है — वह एक-चरण-आगे की भविष्यवाणी के बारे में था: T देखे गए मानों की एक संदर्भ विंडो दिए जाने पर, अगले मान x_{T+1} के वितरण की भविष्यवाणी करना।

अनुमान के समय, किसी भी वास्तविक अनुप्रयोग में, यह शायद ही कभी पर्याप्त होता है। आप जानना चाहते हैं कि अगले 10, 100 या 1000 चरणों में क्या होता है। आप एक पूर्वानुमान चाहते हैं, एक एकल भविष्यवाणी नहीं। और यदि आपका मॉडल संभाव्य है, तो आप चाहते हैं कि वह पूर्वानुमान क्षितिज के अंत तक ईमानदार अनिश्चितता लेकर चले। यह पोस्ट इसे सही तरीके से करने के बारे में है।

कोई तुरंत भोले दृष्टिकोण के बारे में सोच सकता है, यानी मॉडल को बार-बार लागू करना, इसकी भविष्यवाणियों को इनपुट के रूप में वापस खिलाना गुप्त रूप से एक नियतात्मक संक्रिया है जो उस अनिश्चितता को त्याग देती है जिसे सीखने में मॉडल ने इतना प्रयास किया। इसे ठीक करने के लिए यह ध्यान से सोचने की आवश्यकता है कि भविष्य के मूल्यों पर एक संयुक्त वितरण वास्तव में क्या है, और मोंटे कार्लो नमूनाकरण के साथ इसका अनुमान कैसे लगाया जाए। यह सुधार भोले संस्करण की तुलना में मुश्किल से अधिक कोड है, लेकिन यह एक मौलिक रूप से भिन्न और मौलिक रूप से बेहतर पूर्वानुमान देता है।

यहाँ सब कुछ साथी नोटबुक में बनाया और जाँचा गया है: दो रोलआउट दृष्टिकोण, एक ही प्रशिक्षित मॉडल पर, एक ही संकेत पर, कवरेज और PIT निदान के साथ (इस पोस्ट में सभी समझाया गया है)।