HeadlinesBriefing favicon HeadlinesBriefing.com

MSE Model Anda Sedang Berbohong

Towards Data Science •
×

Dua model, satu angka, realitas yang berlawanan. Bayangkan sebuah sensor merekam latar belakang seismik, beban listrik, atau regangan jembatan, dan Anda telah melatih model untuk meramalkan nilai berikutnya. Model memberikan satu angka: 0.5. Ambang τ=1.0 memicu alarm. Haruskah Anda khawatir? Anda tidak dapat menjawab karena model tidak memiliki cara untuk memberi tahu Anda apa yang diketahuinya.

Bayangkan dua model memprediksi x^=0.5 pada langkah waktu yang sama, dengan MSE identik hingga tiga tempat desimal. Menurut metrik standar, keduanya dapat dipertukarkan. Tetapi tidak. Model A melihat distribusi yang sempit: x ~ N(0.5, 0.01²). Ambang pada 1.0 berjarak 50 simpangan baku—alarm tidak akan berbunyi. Model B melihat distribusi yang lebar: x ~ N(0.5, 2.0²). Ambang hanya berjarak 0.25 simpangan baku—sekitar 40% kemungkinan melampaui.

Ramalan yang sama, MSE yang sama, set pengujian yang sama. Tetapi risikonya ≈0% versus ≈40%. Jika memutuskan untuk evakuasi, mengalihkan daya, atau menandai peristiwa detektor, itu adalah kesimpulan yang berlawanan. MSE tidak dapat membedakannya.

Masalahnya bukan model yang rusak; keduanya memprediksi rata-rata yang benar. Satu angka tidak dapat mengekspresikan "saya yakin" versus "saya menebak". Ini adalah konsekuensi langsung dari fungsi kerugian. Kami akan mengurai mengapa MSE memberi Anda rata-rata dan membuang segalanya, apa yang harus menggantikannya, dan biayanya.