可参考 https://www.cnblogs.com/adong7639/p/9213038.html
TensorFlow常用激活函数及其特点和用法（6种）详解
详细解决方案
相关解决方案
- plt画图（sigmoid、relu、softmax）
- 深入理解ReLU、Leaky ReLU、 PReLU、ELU、Softplus
- model.train()与model.eval()的用法、Dropout原理、relu,sigmiod,tanh激活函数、nn.Linear浅析
- tensorflow的tf.nn.relu()函数
- 深度学习的激活函数 ：sigmoid、tanh、ReLU 、Leaky Relu、RReLU、softsign 、softplus、GELU
- 【论文复现】Dynamic ReLU（2020）
- 【论文复现】ReLU、Leaky ReLU、PReLU、RReLU实验对比（2015）
- 【论文复现】ReLU Activation（2011）
- ReLU的种类，如： ReLU、Leaky ReLU
- 也谈激活函数Sigmoid,Tanh,ReLu,softplus,softmax
- 激活函数(ReLU, Swish, Maxout)
- 激活函数详解（ReLU/Leaky ReLU/ELU/SELU/Swish/Maxout/Sigmoid/tanh）
- 激活函数 sigmoid、tanh、ReLu、Leaky ReLu、ELU、Maxout
- 论文阅读：Sharp Representation Theorems for ReLU Networkswith Precise Dependence on Depth
- 机器学习最常用的3种激活函数：Sigmoid、Tanh、Relu
- ReLU——Deep Sparse Rectifier Neural Networks
- [转载] ReLu(Rectified Linear Units)激活函数
- 几类常见的激活函数——$ReLU$函数、$sigmiod$ 函数、$tanh$ 函数