Fungsi sigmoid, σ(x) = 1 / (1 + e^-x), adalah landasan dalam regresi logistik dan jaringan saraf, memetakan nilai riil apa pun ke rentang antara 0 dan 1. Transformasi ini memungkinkan keluaran ditafsirkan sebagai probabilitas, seperti memprediksi status lulus/gagal siswa berdasarkan jam belajar. Namun, asal usul sebenarnya dari fungsi ini terletak pada konstanta matematika 'e', sekitar 2,71828, yang muncul secara alami dari bunga majemuk kontinu.

Pertimbangkan bank yang menawarkan tingkat bunga tahunan 100%: dengan bunga majemuk tahunan, $100 tumbuh menjadi $200. Jika dimajemukkan setengah tahunan, jumlahnya menjadi $225, dan seiring frekuensi pemajemukan meningkat tanpa batas, faktor pertumbuhan mendekati 'e'. Batas ini mendefinisikan pertumbuhan eksponensial, dan fungsi sigmoid pada dasarnya adalah versi halus dari perilaku eksponensial ini, menjadikannya ideal untuk aktivasi dalam jaringan saraf.

Memahami derivasi ini menjelaskan mengapa sigmoid digunakan dan menyoroti perannya dalam mengurangi gradien yang hilang, tantangan umum dalam pembelajaran mendalam.