| 基于动量方法的受限玻尔兹曼机的一种有效算法 |
| |
| 作者姓名： | 沈卉卉 李宏伟 |
| |
| 作者单位： | 中国地质大学数理学院,湖北武汉430074;湖北经济学院信息管理与统计学院,湖北武汉430205;中国地质大学(武汉)地球内部多尺度成像湖北省重点实验室,湖北武汉430074;中国地质大学数理学院,湖北武汉430074;中国地质大学(武汉)地球内部多尺度成像湖北省重点实验室,湖北武汉430074 |
| |
| 基金项目： | 湖北省教育厅科技处重点项目;湖北省高等学校优秀中青年科技创新团队项目 |
| |
| 摘 要： | 深度学习给模式识别与机器学习带来了巨大的变化,已成功应用于语言处理、图像处理、信号处理、商业经济等方面.受限玻尔兹曼机（Restricted Boltzmann Machine,RBM）是一个表示能力强、很好的生成模型,多个RBM堆叠而构成的深度信念网络模型（Deep Belief Nets,DBN）的学习时间会较长.为加快整个DBN网络的学习时间和提高分类效果,本文提出基于动量方法RBM的一种有效算法.该算法在RBM预训练阶段,结合梯度上升算法特点采取快速上升的动量方式;以及BP算法微调阶段,为了能精确的找到最优点,结合梯度下降算法特点,相应的引入缓慢下降式的动量项,即在梯度上升和梯度下降过程中都使用不同的动量方式.本文算法在MNIST手写数字体和CMU-PIE人脸数据库上进行了实验,结果表明,提出的改进算法能够有效地增强图像特征的表达能力,提高图像的分类效果和实验效率.
|
| 关 键 词： | 深度学习 受限玻尔兹曼机 Kullback-Leibler (KL)距离 蒙特卡罗思想 动量 |
| 收稿时间： | 2018-01-23 |
| 本文献已被 万方数据 等数据库收录！ |
| 点击此处可从《电子学报》浏览原始摘要信息 |
|
点击此处可从《电子学报》下载全文 |
|
