HeadlinesBriefing favicon HeadlinesBriefing.com

MSE يكذب: الجزء الثاني

Towards Data Science •
×

في مقال سابق، رأينا لماذا يجبر التدريب باستخدام MSE النموذج على الإبلاغ فقط عن المتوسط الشرطي، وكيف تسمح له NLL الغاوسية بتعلم عدم يقين صادق لكل خطوة σ أيضًا. كانت تلك قصة خطوة واحدة. تستأنف هذه المقالة من حيث توقفنا. كل ما بنيناه في الجزء الأول — NLL الغاوسية، خسارة المصطلحين، الدليل على أن النموذج يتعلم كلاً من المتوسط الشرطي والتباين الشرطي — كان حول التنبؤ بخطوة واحدة للأمام: بالنظر إلى نافذة سياق من T قيم ملحوظة، توقع توزيع القيمة التالية x_{T+1}.

في وقت الاستدلال، في أي تطبيق حقيقي، نادرًا ما يكون هذا كافيًا. تريد معرفة ما يحدث خلال الخطوات العشر أو المائة أو الألف التالية. تريد توقعًا، وليس تنبؤًا واحدًا. وإذا كان نموذجك احتماليًا، فأنت تريد أن يحمل هذا التوقع عدم يقين صادق حتى نهاية الأفق. تدور هذه المقالة حول كيفية القيام بذلك بشكل صحيح.

قد يفكر المرء على الفور في النهج الساذج، أي تطبيق النموذج بشكل متكرر، وإعادة تغذية تنبؤاته كمدخلات هي سرًا عملية حتمية تتجاهل عدم اليقين الذي بذل النموذج الكثير من الجهد في تعلمه. يتطلب إصلاح هذا التفكير بعناية في ماهية التوزيع المشترك على القيم المستقبلية حقًا، وكيفية تقريبه بأخذ عينات مونت كارلو. الإصلاح بالكاد أكثر من كود من الإصدار الساذج، لكنه يعطي توقعًا مختلفًا جوهريًا وأفضل جوهريًا.

كل شيء هنا مبني ومتحقق منه في دفتر الملاحظات المصاحب: نهج التمدد، المطبقان على نفس النموذج المدرب، على نفس الإشارة، مع تشخيصات التغطية و PIT (كلها موضحة في هذه المقالة).