| 基于熵的前馈网络修剪算法 |
| |
| 引用本文： | 郭伟,张昭昭.基于熵的前馈网络修剪算法[J].通信技术,2009,42(5):272-274. |
| |
| 作者姓名： | 郭伟 张昭昭 |
| |
| 作者单位： | 1. 辽宁工程技术大学,电信学院,辽宁,葫芦岛,125105
2. 辽宁工程技术大学,电信学院,辽宁,葫芦岛,125105;北京工业大学,智能系统研究所,北京,100022 |
| |
| 摘 要： | 剪枝算法是一种通过简化网络结构来避免过拟合的有效方法之一。文章依据Shannon熵原理定义了神经网络隐层节点输出的拟熵，该熵与Shannon熵对不确定性的描述具有相同的效果，但克服了Shannon熵中无定义和零值的缺点。将交叉熵和隐节点输出拟熵作为目标函数，并采用熵周期的策略对网络参数进行寻优，通过删除合并隐层神经元达到简化网络结构的目的。仿真结果表明，此方法简单易行，对BP网络的泛化性能有较好的改善。
|
| 关 键 词： | 交叉熵 拟熵 前馈网络 剪枝算法 |
Pruning Algorithm for Feed-forward Neural Network Based on Entropy |
| |
| GUO Wei,ZHANG Zhao-zhao.Pruning Algorithm for Feed-forward Neural Network Based on Entropy[J].Communications Technology,2009,42(5):272-274. |
| |
| Authors: | GUO Wei ZHANG Zhao-zhao |
| |
| Affiliation: | GUO Wei, ZHANG Zhao-zhao (①Institute of Electronic and Information Engineering, Liaoning Technical University, Huludao Liaoning 125105, China ;②Intelligent Systems Research Institute ,Beijing University of Technology, Beijing 100022, China) |
| |
| Abstract: | |
| |
| Keywords: | cross-entropy pseudo-entropy feed-forward network： pruning algorithm |
| 本文献已被 维普 万方数据 等数据库收录！ |
|
