Sigmoid函数，σ(x) = 1 / (1 + e^-x)，是逻辑回归和神经网络的基石，将任何实数值映射到0到1之间。这种转换使得输出可以被解释为概率，例如根据学习时间预测学生是否通过考试。然而，该函数的真正起源在于数学常数'e'，约等于2.71828，它自然地从连续复利中产生。考虑一家银行提供100%的年利率：按年复利，100美元增长到200美元。如果按半年复利，金额变为225美元，随着复利频率无限增加，增长因子趋近于'e'。这个极限定义了指数增长，而Sigmoid函数本质上是指数行为的平滑版本，使其成为神经网络中理想的激活函数。理解这一推导过程有助于阐明为什么使用Sigmoid函数，并突出其在缓解梯度消失问题中的作用，这是深度学习中的一个常见挑战。