HeadlinesBriefing HeadlinesBriefing.com

Autoencoder vs PCA: linier menang

Towards Data Science •
×

Keunggulan teoretis yang tidak bertahan dalam kontak dengan tolok ukur nyata. Kasus teoretis untuk autoencoder jelas: latih jaringan hanya pada data normal, dan ia belajar merekonstruksi pola normal dengan baik. Tidak seperti PCA, yang hanya dapat menangkap hubungan linier, autoencoder dapat mempelajari hubungan nonlinier — sehingga seharusnya menangkap anomali yang melanggar struktur nonlinier. Saya membangun dua eksperimen — satu kasus mudah, dan satu lagi yang sengaja dirancang sebagai kesempatan terbaik autoencoder — dan mengukur apakah keunggulan teoretis benar-benar muncul.

Pengaturan: data sintetis, dilatih hanya pada sampel normal, dievaluasi pada campuran sampel normal dan anomali yang ditahan. Tiga metode dibandingkan: autoencoder (MLPRegressor dengan bottleneck 3 dimensi), kesalahan rekonstruksi PCA (juga direduksi menjadi 3 komponen), dan Isolation Forest. Eksperimen 1: data normal dari klaster Gaussian, anomali dengan mean bergeser dan varians lebih tinggi. PCA menyamai atau mengalahkan autoencoder — 0.885 F1 untuk keduanya, menangkap setiap anomali (recall = 1.0). Isolation Forest mencapai 0.870.

Eksperimen 2: mencurangi tes untuk menguntungkan autoencoder. Saya membangun anomali yang secara khusus tidak terlihat oleh metode linier: data normal di mana dua fitur mengikuti hubungan nonlinier (y = sin(3x) + noise), dan anomali yang mempertahankan rentang individu yang sama tetapi melanggar hubungan di antara keduanya. Ini mendekati skenario terbaik untuk autoencoder.

Entitas kunci: Perusahaan: Towards Data Science

FAQ T: Mengapa PCA menyamai autoencoder bahkan dalam uji deteksi anomali nonlinier?

FAQ J: Karena dalam Eksperimen 1, anomali pergeseran mean adalah fenomena linier, sehingga PCA tidak memiliki kerugian struktural. Dalam Eksperimen 2, meskipun autoencoder secara teoretis diunggulkan untuk hubungan nonlinier, pemisahan kesalahan rekonstruksi masih cukup besar sehingga presisi metode linier tidak terlalu penting.

Sumber: Towards Data Science · Diringkas oleh HeadlinesBriefing