Regresi linear populer karena kesederhanaan, kecepatan, dan kemudahan interpretasinya, tetapi hubungan di dunia nyata sering melengkung, mendatar, atau berubah antarwilayah. Jarak pengereman, respons hasil panen, daya turbin angin, dan efek Doppler satelit semuanya menunjukkan kelengkungan yang tidak dapat ditangkap oleh garis lurus.
Artikel sebelumnya dalam seri ini membandingkan OLS dengan regresi Huber, RANSAC, GNC-GM, GNC-TLS, dan ASOR untuk melihat bagaimana kecocokan garis lurus bereaksi ketika observasi yang terkontaminasi menariknya menjauh dari hubungan nominal. Edisi ini mempertahankan masalah ketangguhan yang sama, tetapi memberi model fleksibilitas yang lebih besar.
Dua pertanyaan mendorong pendekatan ini. Estimator mengontrol observasi mana yang dipercaya, sedangkan basis mengontrol bentuk apa yang dapat direpresentasikan model. Fitur polinomial merupakan langkah pertama yang alami, tetapi fleksibilitasnya bersifat global: mengubah satu koefisien membentuk ulang kurva di seluruh rentang. Spline memperkenalkan fleksibilitas secara lokal.
Artikel ini mengilustrasikan pertanyaan kepercayaan dengan contoh nonlinier. Dengan data bersih, OLS mengikuti hubungan yang mendasarinya dengan erat. Setelah 30% respons terkontaminasi, kecocokan OLS tertarik jauh dari kurva yang sebenarnya, sementara kecocokan tangguh tetap jauh lebih dekat. Regresi polinomial kemudian dijelaskan sebagai model linear dalam ruang fitur yang telah ditransformasi, dengan koefisien diestimasi melalui kuadrat terkecil pada matriks desain.
Sumber: Towards Data Science · Diringkas oleh HeadlinesBriefing