| 基于惩罚函数泛化的神经网络剪枝算法研究 |
| |
| 引用本文： | 熊俊,王士同,潘永惠,包芳.基于惩罚函数泛化的神经网络剪枝算法研究[J].计算机工程,2014(11):149-154. |
| |
| 作者姓名： | 熊俊 王士同 潘永惠 包芳 |
| |
| 作者单位： | 1. 江南大学数字媒体学院,江苏 无锡,214122
2. 江阴职业技术学院计算机科学系,江苏 江阴,214405 |
| |
| 摘 要： | 神经网络的隐层数和隐层节点数决定了网络规模,并对网络性能造成较大影响。在满足网络所需最少隐层节点数的前提下,利用剪枝算法删除某些冗余节点,减少隐层节点数,得到更加精简的网络结构。基于惩罚函数的剪枝算法是在目标函数后加入一个惩罚函数项,该惩罚函数项是一个变量为网络权值的函数。由于惩罚函数中的网络权值变量可以附加一个可调参数,将单一惩罚函数项泛化为一类随参数规律变化的新的惩罚函数,初始惩罚函数可看作泛化后惩罚函数的参数取定值的特殊情况。实验利用基于标准BP神经网络的XOR数据进行测试,得到隐层节点剪枝效果和网络权值随惩罚函数的泛化而发生变化,并从数据分析中得出具有更好剪枝效果及更优网络结构的惩罚函数泛化参数。
|
| 关 键 词： | 隐层节点 神经网络 剪枝算法 惩罚函数 泛化 XOR数据 |
Study of Neural Network Pruning Algorithm Based on Generalization of Penalty Function |
| |
| XIONG Jun
,
WANG Shitong
,
PAN Yonghui
,
BAO Fang.Study of Neural Network Pruning Algorithm Based on Generalization of Penalty Function[J].Computer Engineering,2014(11):149-154. |
| |
| Authors: | XIONG Jun WANG Shitong PAN Yonghui BAO Fang |
| |
| Abstract: | |
| |
| Keywords: | hidden layer node neural network pruning algorithm penalty function generalization XOR data |
| 本文献已被 CNKI 万方数据 等数据库收录！ |
|
