QPSO算法的改进及其在DBN参数优化中应用

为了提升标准量子粒子群算法（Quantum Particle Swarm Optimization,QPSO）的收敛精度,提出了基于粒子势阱长度变化率的粒子平均最优位置权重计算方法,通过平均最优位置的调节,来提升粒子的寻优能力,并将改进后的QPSO算法应用于深度置信网络（Depth Belief Network,DBN）模型的学习率参数寻优中,以便找到最优的DBN模型参数,来提升DBN模型的识别准确率。将通过改进后QPSO算法进行参数寻优的DBN网络（LQ_DBN）应用于蛋黄形状检测中,与现有典型的DBN网络模型对比表明,LQ_DBN模型在蛋黄形状检测实验中的识别准确率比CC-PSO-DBN、PSO_MDBN和标准DBN模型都要高,且检测识别准确率的稳定性也是四种对比模型中最高的,表明基于改进的QPSO算法的DBN网络模型取得了较好的优化效果。     

基于改进的深度置信网络的电离层F2层临界频率预测

随着深度学习理论的日趋成熟,针对各种场合的实际应用逐渐成为研究的焦点。本文提出一种基于深度置信网络（Deep Belief Network,DBN）对本区域未来24h的电离层临界频率foF2进行预测的方法。首先,对选取的数据集进行处理,生成用于训练和测试的数据集,其次改进DBN网络基本单元的结构,以适应对连续型数据特征的提取与学习,再通过试验的方式确定DBN网络基本结构,最后利用训练数据集对改进后的网络进行训练,实现对 foF2值的预测。与实测值相比较,改进的DBN网络具有极佳的预测准确性,与浅层结构BP网络和SVM网络相比,改进的DBN网络不但克服了浅层结构所固有的问题,而且也表现出更加优异的对于连续型数据的预测性能,尤其是当预测值受到高维复杂因素影响时改进的DBN模型依旧能表现出很好的预测性能。     

基于优化数据处理的深度信念网络模型的入侵检测方法

针对目前网络中存在的对已知攻击类型的入侵检测具有较高的检测率,但对新出现的攻击类型难以识别的缺陷问题,提出了一种基于优化数据处理的深度信念网络（DBN）模型的入侵检测方法。该方法在不破坏已学习过的知识和不严重影响检测实时性的基础上,分别对数据处理和方法模型进行改进,以解决上述问题。首先,将经过概率质量函数（PMF）编码和MaxMin归一化处理的数据应用于DBN模型中;然后,通过固定其他参数不变而变化一种参数和交叉验证的方式选择相对最优的DBN结构对未知攻击类型进行检测;最后,在NSL-KDD数据集上进行了验证。实验结果表明,数据的优化处理能够使DBN模型提高分类精度,基于DBN的入侵检测方法具有良好的自适应性,对未知样本具有较高的识别能力。在检测实时性上,所提方法与支持向量机（SVM）算法和反向传播（BP）网络算法相当。     

融合深度置信网络与与核极限学习机算法的核磁共振测井储层渗透率预测方法

由于低孔低渗储层孔隙结构较为复杂,现有核磁共振（NMR）测井渗透率模型对于低孔低渗储层预测精度不高。为此,提出一种融合深度置信网络（DBN）算法与核极限学习机（KELM）算法的渗透率预测方法。该方法首先对DBN模型进行预训练,然后将KELM模型作为预测器放置在训练好DBN模型后,利用训练数据进行有监督的训练,最终形成深度置信-核极限学习机（DBKELMN）模型。考虑到该模型需充分利用反映孔隙结构的横向弛豫时间谱信息,将离散化后的核磁共振测井横向弛豫时间谱作为输入,渗透率作为输出,确定NMR测井横向弛豫时间谱与渗透率的函数关系,并基于该函数关系对储层渗透率进行预测。实例应用表明,融合DBN算法与KELM算法的渗透率预测方法是有效的,预测样本的平均绝对误差（MAE）较斯伦贝谢道尔研究中心（SDR）模型降低了0.34。融合DBN算法与KELM算法的渗透率预测方法可提高低孔渗储层渗透率预测精度,可应用于油气田勘探开发。     

基于机器学习与DBN网络的网络入侵检测方法研究

随着计算机网络的发展,网络入侵的情况也越来越严重。传统网络入侵检测方法存在检测效率低、误判率高的情况,为了解决这些问题,提出了一种基于支持向量机的深度置信网络（SVM-DBN）的入侵检测方法。通过对支持向量机（SVM）进行优化,将支持向量机与深度信念网络（DBN）融合,利用SVM、DBN与SVM-DBN在网络入侵数据集中进行对比。结果表明,SVM-DBN算法的误差率最低,比DBN和SVM的误差率平均值分别低了8.95%,12.70%,且SVM-DBN算法在训练次数为140次时最大绝对百分比误差为4.8%,均优于对比方法。这说明SVM-DBN网络能够有效地提高网络入侵检测的精度和效率。     

基于灰狼算法优化DBN的医院网络异常流量识别

为了提高医院网络异常流量识别的精度,提出一种基于灰狼算法优化DBN的医院网络异常流量识别方法。针对DBN模型性能受权值和偏置参数的影响,运用灰狼算法对DBN模型的权值和偏置进行优化选择,将医院网络流量特征数据作为DBN模型的输入向量,网络异常流量的类型作为DBN模型的输出向量,建立GWO-DBN的医院网络异常流量识别模型。研究结果表明,GWO-DBN进行医院网络异常流量识别具有更高的准确率、检测率和更低的误报率。     

基于深度残差网络的人脸表情识别

针对深度卷积神经网络随着卷积层数增加而导致网络模型难以训练和性能退化等问题,提出了一种基于深度残差网络的人脸表情识别方法。该方法利用残差学习单元来改善深度卷积神经网络模型训练寻优的过程,减少模型收敛的时间开销。此外,为了提高网络模型的泛化能力,从KDEF和CK+两种表情数据集上选取表情图像样本组成混合数据集用以训练网络。在混合数据集上采用十折（10-fold）交叉验证方法进行了实验,比较了不同深度的带有残差学习单元的残差网络与不带残差学习单元的常规卷积神经网络的表情识别准确率。当采用74层的深度残差网络时,可以获得90.79%的平均识别准确率。实验结果表明采用残差学习单元构建的深度残差网络可以解决网络深度和模型收敛性之间的矛盾,并能提升表情识别的准确率。     

一种改进的深度置信网络在交通流预测中的应用

针对现有交通流预测方法忽视对交通流数据自身特征的有效利用以及不能模拟更复杂的数学运算,提出了一种改进深度置信网络（deep belief network,DBN）的交通流预测方法。该方法结合深度置信网络模型与Softmax回归作为预测模型,利用连续受限玻尔兹曼机（continuous restricted Boltzmann machines,CRBM）处理输入特征向量,利用自适应学习步长（adaptive learning step,ALS）减少RBM训练网络模型时重建误差所需的时间,用改进的深度置信网络模型进行交通流特征学习,在网络顶层连接Softmax回归模型进行流量预测。实验结果表明,在实际的交通流数据预测中,改进的DBN模型的预测准确率以及时间复杂度相比传统预测模型都得到了较好的改善。     

基于气象因素充分挖掘的BiLSTM光伏发电短期功率预测

传统光伏发电功率预测存在因气象因素特征提取不综合不精确而导致预测精度不高的问题. 为了充分挖掘气象因素对光伏出力的影响, 并有效利用深度学习技术在非线性拟合方面的优势, 本文提出了一种基于气象因素充分挖掘的双向长短期记忆(Bi-directional Long Short Term Memory, BiLSTM)网络光伏发电短期功率预测方法. 在对原始数据进行异常值及标准化处理的基础上, 采用K近邻算法(K-Nearest Neighbor, KNN)在外界温度、湿度、压强等诸多气象因素中充分挖掘影响光伏出力的关键因素, 重构多元数据序列, 并在探索输入层时间步长、模型层数及每层维数等超参数的合理设置方案的基础上, 构建BiLSTM网络模型, 实现光伏发电短期功率的高精度预测. 仿真结果表明, 与KNN、深度信念网络(DBN)、BiLSTM、PCA-LSTM等经典方法比较, 所提KNN-BiLSTM方法具有更高的预测精度.     

基于DBN深度学习的期货市场价格预测建模与决策

深度学习通过学习深层非线性网络结构即可实现复杂函数的逼近,可以从大量无标注样本集中学习数据集的本质特征。而深度信念网络(DBN)是由多层随机隐变量组成的贝叶斯概率生成模型,可以作为深度神经网络的预训练环节,为该网络提供初始权重。基于该模型的一个高效学习算法不仅解决了模型训练速度慢的问题,还能产生非常好的参数初始值,极大地提升了模型的建模能力。金融市场是一个多变量非线性系统,通过运用DBN模型进行分析预测可以很好地解决其他预测方法初始权重难以确定的问题。文中以原油期货市场价格预测为例,说明了运用DBN模型进行预测和决策的可行性及有效性。     

基于进化MCMC的DBN学习算法

提出利用进化MCMC算法进行动态贝叶斯网络(DBN)学习的方法。在数据缺省情况下利用EM算法进行贝叶斯网络参数学习,结构学习部分生成多条备选的贝叶斯网络染色体,对染色体进行变异操作和交叉操作,在遗传操作中根据温度参数和贝叶斯网络及贝叶斯信息准则来构造MCMC函数,并利用MCMC函数进行贝叶斯网络学习。每一代进化后,将贝叶斯信息评分最大的贝叶斯网络作为结构学习的结果。实验结果验证了该方法性能的稳定性。     

改进的支持向量机算法及其应用

支持向量机（SVM）算法应用于具有小样本特征的实际问题时是否能获得到良好的预测效果,取决于能否成功地设置该算法的关键参数,这一瓶颈问题一直阻碍着SVM在具有小样本特性的实际工程中的应用。在分析SVM回归估计方法参数性能的基础上,提出了以自适应粒子群算法（APSO）优化SVM关键参数的改进SVM算法,并以变电工程为背景给出了相应的工程造价预测模型。运用此模型,对某实际变电工程实例进行了造价预测仿真分析,并与传统的支持向量机算法进行比较,结果说明改进的支持向量机算法具有良好的变电工程造价预测精度,且速度较快。     

基于最小均方误差的串扰消除多用户检测算法

在存在强多址干扰的直接序列扩频码分多址(DS-CDMA)系统中对传统串行干扰消除检测器的优点及缺陷进行分析,提出一种基于最小均方误差的串行干扰消除多用户检测算法。该算法能够对时变信道环境进行有效跟踪,避免判决误差扩散。仿真结果表明,在加性高斯白噪声环境中一个同步DS-CDMA系统中对于信号功率弱的用户,该算法相比传统串行干扰消除算法及迫零算法的检测性能有较大的改善,在消除原有检测算法检测精度不稳定的同时能提高算法的误码性能。     

一种降低OFDM/OQAM系统峰均比的C-OSLM联合算法

针对正交频分复用/交错正交幅度调制（OFDM/OQAM）系统由多个子信道叠加而引起高峰均比的问题,提出了一种基于OFDM/OQAM系统的重叠选择映射与限幅联合算法（C-OSLM）。该算法基于改进型重叠选择映射法（IOSLM）以两种方式引入限幅法,同时对码字数、限幅率（CR）进行优化以保证在误码率不变的条件下提升峰均比抑制性能。仿真结果表明,C-OSLM算法在保证OFDM/OQAM系统误码性能的同时,大幅降低了峰均比。     

基于差分演化的自适应参数控制蚁群算法

蚁群算法存在对参数的依赖、早熟和停滞等缺点但具有与其他算法容易结合的特点,据此,将差分演化算法应用到蚁群算法的参数选取中,提出一种改进的蚁群算法。将蚁群算法的参数作为差分演化算法解空间的向量元素,在自适应地寻找蚁群算法最优参数组合的同时求解问题的最优解。改进算法对蚁群算法中的参数进行自适应调整,可避免大量盲目的测试,扩大蚁群算法的搜索空间,提高全局搜索能力。在典型的旅行商问题上进行对比实验,结果验证了改进算法的优化性能高于传统的蚁群算法。     

改进的粒子群算法优化TSFNN的交通流预测

为提高T-S模糊神经网络在交通流量预测的准确性,提出了一种改进的粒子群算法优化T-S 模糊神经网络预测交通流量的算法。该算法利用改进粒子群算法通过群体极值进行[t]分布变异,使算法跳出局部收敛,使用改进的粒子群算法优化T-S模糊神经网络,能够优化网络参数配置,进而提高网络的预测精度。利用优化后的T-S模糊神经网络对实测交通流量进行预测,实验仿真表明优化的T-S模糊神经网络可有效提高交通流量预测精度,减小预测误差。     

基于PSO和朴素贝叶斯的软件缺陷预测模型

为了设计高效的软件缺陷预测模型,提出一种将粒子群优化算法与朴素贝叶斯(NB)相结合的方法。该方法对历史数据进行离散化后,以NB分类的错误率作为粒子适应值函数,构建软件缺陷预测模型。通过对美国国家航天局软件工程项目的JM1数据进行仿真实验,证明该模型在预测性能方面优于同类方法,预测效果良好。     

随机样本遗传MLP模型算法

提出的SSGAMLP（Small Set Genetic Algorithm Multilayer Perceptron）模型,是针对MLP模型易陷入局部最优,且模型泛化性不好,而遗传算法可以跳出局部最优,但是种群个体数较多,却带来运算复杂度的提高,目的是为了克服以上不足,将遗传算法与MLP模型相结合,将MLP模型节点的向下连接权值看成是低层向高层的映射,因此每个节点（包括权值和阈值）可以看成是一个特征表达,即遗传算法的基因表达,同时个体MLP模型训练使用的随机样本子集以及算法的交叉变异,相当于引入随机因子,存在获得未知特征表达的可能性。实验基于MNIST数据集,印证了SSGAMLP模型在性能上的优势。模型降低了个体运算复杂度,提高了泛化性,在一定程度上克服了过拟合性。     

基于MCC的鲁棒高阶CKF在组合导航中的应用

针对高阶容积卡尔曼滤波器在非高斯噪声情况下滤波精度下降的问题,提出了一种新的基于Maximum Correntropy Criterion（MCC）的鲁棒高阶容积卡尔曼滤波算法。考虑到高阶容积规则可以较好地解决非线性问题,在高阶容积滤波的基础上,结合统计线性回归模型对量测更新过程进行重构,利用MCC估计算法实现状态的量测更新,同时解决了系统的非线性和非高斯问题。将所提算法应用到SINS/GPS组合导航系统中,仿真结果表明,核宽的选取对算法的滤波性能有较大的影响,在高斯混合噪声条件下,所提算法相比传统高阶容积卡尔曼滤波算法具有更强的鲁棒性和更高的滤波精度。