改进的深度置信网络分类算法研究 |
| |
引用本文: | 徐毅,李蓓蓓,宋威. 改进的深度置信网络分类算法研究[J]. 计算机科学与探索, 2019, 13(4): 596-607 |
| |
作者姓名: | 徐毅 李蓓蓓 宋威 |
| |
作者单位: | 江南大学 物联网工程学院,江苏 无锡,214122;江南大学 物联网工程学院,江苏 无锡,214122;江南大学 物联网工程学院,江苏 无锡,214122 |
| |
基金项目: | The National Natural Science Foundation of China under Grant;the Fundamental Research Funds for the Central Universities of China under Grant Nos. JUSRP51635B, JUSRP51510;the Natural Science Foundation of Jiangsu Province under Grant;the Postdoctoral Science Foundation of China under Grant |
| |
摘 要: | 深度置信网络(deep belief network,DBN)通过逐层无监督学习进行训练,但训练过程中易产生大量冗余特征,进而影响特征提取能力。为了使模型更具有解释和辨别能力,基于对灵长类视觉皮层分析的启发,在无监督学习阶段的似然函数中引入惩罚正则项,使用CD(contrastive divergence)训练最大化目标函数的同时,通过稀疏约束获得训练集的稀疏分布,可以使无标签数据学习到直观的特征表示。其次,针对稀疏正则项中存在的不变性问题,提出一种改进的稀疏深度置信网络,使用拉普拉斯函数的分布诱导隐含层节点的稀疏状态,同时将该分布中的位置参数用来控制稀疏的力度,即根据隐藏单元的激活概率与给定稀疏值的偏差程度而具有不同的稀疏水平。通过在MNIST和Pendigits手写体数据集上进行验证分析,并与多种现有方法相比,该方法始终达到最好识别准确度,并且具有良好的稀疏性能。
|
关 键 词: | 深度置信网络(DBN) 似然函数 稀疏约束 拉普拉斯分布 位置参数 |
Research on Improved Deep Belief Network Classification Algorithm |
| |
Abstract: | |
| |
Keywords: | |
本文献已被 万方数据 等数据库收录! |
|