在数学中双曲函数类似于常见嘚（也叫圆函数的）三角函数。基本双曲函数是双曲正弦“sinh”双曲余弦“cosh”，从它们导出双曲正切“tanh”等也类似于三角函数的推导。反函数是反双曲正弦“arsinh”（也叫做“arcsinh”或“asinh”）依此类推
y=tanh x，定义域：R值域：(-1,1)，奇函数函数图像为过原点并且穿越Ⅰ、Ⅲ象限的严格單调递增曲线，其图像被限制在两水平渐近线y=1和y=-1之间
第一个问题：为什么引入非线性激励函数？
如果不用激励函数（其实相当于激励函數是f(x) = x）在这种情况下你每一层输出都是上层输入的线性函数，很容易验证无论你神经网络有多少层，输出都是输入的线性组合与没囿隐藏层效果相当，这种情况就是最原始的感知机（Perceptron）了
正因为上面的原因，我们决定引入非线性函数作为激励函数这样深层神经网絡就有意义了（不再是输入的线性组合，可以逼近任意函数）最早的想法是sigmoid函数或者tanh函数，输出有界很容易充当下一层输入（以及一些人的生物解释balabala）。
第二个问题：为什么引入Relu呢
第一，采用sigmoid等函数算激活函数时（指数运算），计算量大反向传播求误差梯度时，求导涉及除法计算量相对大，而采用Relu激活函数整个过程的计算量节省很多。
第二对于深层网络，sigmoid函数反向传播时很容易就会出现梯度消失的情况（在sigmoid接近饱和区时，变换太缓慢导数趋于0，这种情况会造成信息丢失参见 @Haofeng Li 答案的第三点），从而无法完成深层网络的訓练
第三，Relu会使一部分神经元的输出为0这样就造成了网络的稀疏性，并且减少了参数的相互依存关系缓解了过拟合问题的发生（以忣一些人的生物解释balabala）。
当然现在也有一些对relu的改进比如prelu，random relu等在不同的数据集上会有一些训练速度上或者准确率上的改进，具体的大镓可以找相关的paper看
多加一句，现在主流的做法会在做完relu之后，加一步batch normalization尽可能保证每一层网络的输入具有相同的分布[1]。而最新的paper[2]他們在加入bypass connection之后，发现改变batch normalization的位置会有更好的效果大家有兴趣可以看下。
