A função sigmóide, σ(x) = 1 / (1 + e^-x), é uma pedra angular na regressão logística e em redes neurais, mapeando qualquer valor real para um intervalo entre 0 e 1. Essa transformação permite que as saídas sejam interpretadas como probabilidades, como prever se um aluno passa ou falha com base nas horas de estudo. No entanto, a verdadeira origem da função reside na constante matemática 'e', aproximadamente 2,71828, que surge naturalmente dos juros compostos contínuos.

Considere um banco que oferece uma taxa de juros anual de 100%: com capitalização anual, $100 crescem para $200. Se capitalizado semestralmente, o valor se torna $225, e à medida que a frequência de capitalização aumenta infinitamente, o fator de crescimento se aproxima de 'e'. Esse limite define o crescimento exponencial, e a função sigmóide é essencialmente uma versão suavizada desse comportamento exponencial, tornando-a ideal para ativação em redes neurais.

Compreender essa derivação esclarece por que a sigmóide é usada e destaca seu papel na mitigação de gradientes que desaparecem, um desafio comum no aprendizado profundo.