深度学习算法的激活函数研究 |
| |
引用本文: | 张有健,陈晨,王再见.深度学习算法的激活函数研究[J].无线电通信技术,2021(1):115-120. |
| |
作者姓名: | 张有健 陈晨 王再见 |
| |
作者单位: | 1.安徽师范大学物理与电子信息学院;2.安徽省智能机器人信息融合与控制工程实验室 |
| |
摘 要: | 作为深度学习算法中重要的环节,激活函数可以为神经网络引入非线性因素.大量学者通过提出或改进激活函数的方法在一定程度上提高了算法的优化及泛化能力.研究了现阶段的激活函数,将激活函数大致分为S系激活函数和ReLU系激活函数,从不同激活函数的功能特点和存在的饱和性、零点对称和梯度消失及梯度爆炸的现象进行研究分析,针对Sigm...
|
关 键 词: | 激活函数 卷积神经网络 循环神经网络 深度学习 |
Research on Activation Function of Deep Learnimg Algorithm |
| |
Abstract: | |
| |
Keywords: | |
|
|