我们介绍一个非常有用的函数：sigmoid函数，它们在机器学习中经常用到。尤其是在神经网络中，经常用于作为隐藏层神经元的输出函数。

sigmoid函数也叫Logistic函数，它可以将一个实数映射到(0,1)的区间。 函数表示如下： f ( x ) = 1 1 + e − x f(x)=\frac1{1+e^{-x}} f(x)=1+e−x1​ 当 x = 0 x=0 x=0时， f ( x ) = 0.5 f(x)=0.5 f(x)=0.5

其导数为 f ′ ( x ) = f ( x ) ( 1 − f ( x ) ) f'(x)=f(x)(1-f(x)) f′(x)=f(x)(1−f(x)) 证明如下： f ( x ) = 1 1 + e − x = ( 1 + e − x ) − 1 f(x)=\frac1{1+e^{-x}}=(1+e^{-x})^{-1} f(x)=1+e−x1​=(1+e−x)−1

f ′ ( x ) = − ( 1 + e − x ) − 2 e − x ( − 1 ) = e − x ( 1 + e − x ) 2 = 1 + e − x − 1 ( 1 + e − x ) 2 = 1 1 + e − x − 1 ( 1 + e − x ) 2 = ( 1 1 + e − x ) ( 1 − 1 1 + e − x ) = f ( x ) ( 1 − f ( x ) ) \begin{aligned} f'(x) &=-(1+e^{-x})^{-2}e^{-x}(-1)\\ &=\frac{e^{-x}}{(1+e^{-x})^2}\\ &=\frac{1+e^{-x}-1}{(1+e^{-x})^2}\\ &=\frac{1}{1+e^{-x}}-\frac{1}{(1+e^{-x})^2}\\ &=(\frac{1}{1+e^{-x}}) (1-\frac{1}{1+e^{-x}})\\ &=f(x)(1-f(x)) \end{aligned} f′(x)​=−(1+e−x)−2e−x(−1)=(1+e−x)2e−x​=(1+e−x)21+e−x−1​=1+e−x1​−(1+e−x)21​=(1+e−x1​)(1−1+e−x1​)=f(x)(1−f(x))​

用matplotlib绘制函数图像：

运行结果：

《Sigmoid函数求导过程》