深度信念网络研究进展

深度信念网络（Deep Belief Networks,DBN）作为深度学习（Deep Learning,DL）中的重要模型,目前已被成功应用于人脸识别、手写字体识别、医学图像分析处理等诸多领域。从深度信念网络出发,主要做了四个方面的工作：第一,从受限玻尔兹曼机以及深度信念网络的网络结构和学习过程两个方面阐述了深度信念网络的基本原理;第二,从网络结构和学习算法两个方面总结了深度信念网络的研究进展：在网络结构方面,从网络深度、RBM结构和DBN级联三个角度进行归纳;在学习算法方面,从基本算法、优化算法和融合方法三个方面进行梳理;第三,对深度信念网络在医学图像分析领域中的应用进行了总结;第四,总结了目前DBN存在的问题。     

基于TPLBP/HOG特征与DBN深度模型的人脸识别研究

针对传统人脸识别方法所提取的人脸信息特征较为单一,且分类算法存在局限性的问题,在多特征信息融合的基础上结合深度信念网络(DBN)对人脸进行深度训练并进行识别。首先采取对比度受限自适应均衡化对人脸图像进行预处理,从而削弱光照对人脸识别的影响;然后,将提取到的人脸图像的TPLBP纹理特征和HOG结构特征进行特征融合,得到信息互补的融合特征;最后,将降维后的融合特征作为DBN的输入,通过对DBN深度模型的参数的动态搜索确定最佳值后,基于训练好的深度信念网络实现人脸图像样本的识别。以ORL、AR和Yale-B人脸数据库为基础进行试验,试验结果表明本文方法相较于传统的SVM、KNN和DBN算法准确率有很大提高,鲁棒性强。     

基于特征选择和深度信念网络的文本情感分类算法

由于人类语言的复杂性，文本情感分类算法大多都存在因为冗余而造成的词汇量过大的问题。深度信念网络（DBN）通过学习输入语料中的有用信息以及它的几个隐藏层来解决这个问题。然而对于大型应用程序来说，DBN是一个耗时且计算代价昂贵的算法。针对这个问题，提出了一种半监督的情感分类算法，即基于特征选择和深度信念网络的文本情感分类算法（FSDBN）。首先使用特征选择方法（文档频率（DF）、信息增益（IG）、卡方统计（CHI）、互信息（MI））过滤掉一些不相关的特征从而使词汇表的复杂性降低；然后将特征选择的结果输入到DBN中，使得DBN的学习阶段更加高效。将所提算法应用到中文以及维吾尔语中，实验结果表明在酒店评论数据集上，FSDBN在准确率方面比DBN提高了1.6%，在训练时间上比DBN缩短一半。     

利用改进深度信念网络的人脸表情识别

针对人脸表情识别过程中,误差逆向传播算法(back propagation,BP)对深度信念网络(deep belief network,DBN)微调时容易陷入极值点局部极小和收敛时间过长的问题,提出基于BP算法微调DBN的改进方法.对表情进行多特征提取并降维,利用所提方法对降维后特征进行学习,采用共轭梯度算法解决BP算法和DBN结合存在的问题.实例仿真计算结果表明,所提方法精度高于支持向量机、基于Wasserstein生成式对抗网和基于图形信号处理的方法.所提方法比卷积类方法络训练时间更短,内存消耗更小.     

融合MLP和DBN的光伏发电预测算法

精确的光伏发电预测对提高电力系统稳定性、保证电能质量、优化电网运行具有重大意义。为了解决现存光伏预测算法精度较低、性能较差的问题,同时为了综合利用多层感知器（MLP）解决非线性问题的能力以及深度信念网络（DBN）有效处理大量复杂数据的优势,构建了一种融合MLP和DBN的光伏预测算法（MLP-DBN）,其基本思想是先利用MLP模型进行初步预测,再将观测值与预测值的残差输入DBN预测模型进行预测,最后用残差预测值对MLP模型的预测值进行修正。利用光伏发电实测数据仿真,探究了不同学习率下模型的预测性能,并对模型的各参数进行了寻找优化设置。使用均方根误差、平均绝对误差以及决定系数等性能指标评估结果表明,与传统的预测算法支持向量机（SVM）以及具有较高预测精度的深度学习算法长短期记忆网络（LSTM）相比,MLP-DBN算法性能有明显的提升,为光伏发电提供了一种高精度高性能的预测算法,可以有效解决光伏发电预测问题。     

基于深度学习的数据融合方法研究综述

数据融合是最大程度发挥大数据价值的关键,深度学习是挖掘数据深层特征信息的技术利器,基于深度学习的数据融合能够充分挖掘大数据潜在价值,从新的深度和广度拓展对世界的探索和认识。综述了近几年基于深度学习的数据融合方法的相关文献,以此了解深度学习在数据融合中应用所具有的优势。分类阐述常见的数据融合方法,同时指出这些方法的优点和不足。从基于深度学习特征提取的数据融合方法、基于深度学习融合的数据融合方法、基于深度学习全过程的数据融合方法三个方面对基于深度学习的数据融合方法进行分析,并做了对比研究与总结。总结全文并讨论了深度学习在数据融合中应用的难点和未来需要进一步研究的问题。     

基于多新息理论的深度信念网络算法

针对深度信念网络（DBN）算法在采用反向传播修正网络的连接权值和偏置的过程中,容易产生梯度小、学习率低、误差收敛速度慢等问题,提出一种结合多新息理论对标准DBN算法进行改进的算法,即多新息DBN（MI-DBN）。MI-DBN算法是对标准DBN算法中反向传播的过程重新建模,使得算法在原先只利用单个新息的情况下,扩展为能够充分利用之前多个周期的新息,从而大幅提高误差收敛速度。通过实验对MI-DBN算法和其他分类算法进行了数据集分类的比较,实验结果表明,MI-DBN算法相较其他分类算法,其误差收敛速度较快,而且最终对MNIST数据集和Caltech101数据集的识别中误差结果相对更小。     

基于DBN-KELM的入侵检测算法

传统机器学习算法需要人工构建样本特征,处理海量多源异构网络入侵数据时分类效果较差。针对该问题,结合深度信念网络(DBN)和核极限学习机(KELM),提出一种混合深度学习入侵检测算法DBN-KELM。利用DBN提取高维网络历史数据的抽象特征,获得原始数据的低维表示形式。在此基础上,通过KELM对低维表示的数据做监督学习,达到准确识别网络攻击的目的。在NSL-KDD数据集上进行仿真,实验结果表明,DBN-KELM算法能够提高分类准确率,降低对小样本攻击的误报率,同时缩短分类器的训练时间。     

基于DBN深度学习的期货市场价格预测建模与决策

深度学习通过学习深层非线性网络结构即可实现复杂函数的逼近,可以从大量无标注样本集中学习数据集的本质特征。而深度信念网络(DBN)是由多层随机隐变量组成的贝叶斯概率生成模型,可以作为深度神经网络的预训练环节,为该网络提供初始权重。基于该模型的一个高效学习算法不仅解决了模型训练速度慢的问题,还能产生非常好的参数初始值,极大地提升了模型的建模能力。金融市场是一个多变量非线性系统,通过运用DBN模型进行分析预测可以很好地解决其他预测方法初始权重难以确定的问题。文中以原油期货市场价格预测为例,说明了运用DBN模型进行预测和决策的可行性及有效性。     

基于建模的深度学习

深度学习是通过对人脑神经系统结构及功能的模拟.本文结合建模的思想,首先对深度学习进行了概述,并且研究了深度置信网络DBN模型.以及探讨了深度学习的应用及在建模方面的前景和挑战.深度学习可以对数据间潜在的特征因素进行提取分析.算法的不断更迭和完善,使深度学习对数据的处理更加快速准确,适应多项领域.     

基于空间复用的信号检测算法研究

为了在接收端恢复出发送端的原始数据,需要在接收端进行信号检测。对几种经典的传统信号检测算法进行了详细阐述和分析,并对各种算法进行了Matlab仿真和性能比较。由此得出,改进型的V-BLAST算法可以用于TD-LTE无线综合测试仪的开发。     

浅谈几种智能优化算法

该文首先介绍介绍了几种典型的群体智能算法,具体包括遗传算法、蚁群算法和粒子群算法,并对它们进行了详细的分析。     

覆盖聚类算法的应用研究

聚类算法是数据挖掘的核心技术。介绍了几类主要的传统聚类算法,给出了每类算法的基本概念、基本原理、各类表示聚类的算法以及这些算法的特征。然后再提出了一种新的聚类算法———覆盖聚类算法,给出了该算法的具体步骤,并对模糊聚类算法和该算法用实验的方式进行比较,证明了覆盖聚类算法的可行性和有效性。最后分析了当前聚类算法存在的问题和发展方向。     

一种基于小波理论的LMS算法研究

基于LMS算法原理和MALLAT算法,提出了小波自适应算法,并对算法进行了理论分析和仿真研究,仿真结果表明,小波自适应算法在非线性系统辩识中表现出了良好的性能。     

基于遗传神经网络的MADA

宏观质量决策方案的评价与选择,需要能准确给出各影响因素的权重系数,文中在分析了多属性决策问题及现有方法之后,提出子用遗传神经网络建立权重分配模型,从而改进多属性决策的方法,使权重的确定较为客观准确,并具有自学习功能,实践表明,效果良好。     

基于仿生理论的几种优化算法综述

简要介绍了目前比较流行的三种新型仿生优化算法,即人工鱼群算法、免疫算法和禁忌搜索算法,就这些算法的特点和异同进行了分析,并对它们的发展进行了进一步的阐述,提出了今后的研究方向。     

遗传算法的收敛性研究

遗传算法的收敛性分析是遗传算法研究中的重要问题,直接关系到遗传算法的实际应用价值。给出遗传算法全局收敛性的定义,描述当前遗传算法收敛性分析的主要模型,对自适应遗传算法、并行遗传算法、小生境遗传算法等典型遗传算法的收敛性进行分析,给出相关的研究结果,并指出遗传算法收敛性研究的未来发展方向。研究结果对提高遗传算法收敛性具有参考价值。     

基于遗传蚁群算法的QoS路由算法研究

利用遗传算法的快速全局搜索能力和蚁群算法的正反馈收敛机制,引入遗传蚁群算法（Genetic Algorithm Ant Colony algorithm）GAAC来解决QoS路由问题。算法设计的基本思想是首先由遗传算法产生较优解,较优的路径留下信息素,其他路径不改变,然后在有一定初始信息素分布的情况下,用蚁群算法求精解。仿真表明算法比单一采用遗传算法和蚁群算法进行路由选择具有更好的性能,且更适合于动态网络环境下的QoS路由选择。     

支持向量机与AdaBoost的结合算法研究*

将支持向量机与AdaBoost算法相结合,称其为Boost-SVM。从提升泛化性能和预测精度等方面对支持向量机的学习算法进行了研究与比较。Boost-SVM实验结果表明,该算法提高了支持向量机的预测精度并优化了学习机的性能。     

基于算法图的并行计算优化

研究基于算法图的并行计算优化设计方法。通过引入算法图，从数学机理上算法的并行结构进行描述，针对不同要求提出了对计算网络的并行优化设计方法，为设计并行算法提供了新的有途途径。