提高BP神经网络训练时间的研究

BP网络是广泛应用的神经网络之一,但其收敛速度慢、易陷入局部最小。针对BP神经网络这些问题,本文提出了归一化输出误差的方法,引入了网络输出对权值的影响,有效地提高了网络的训练时间。仿真结果表明此种方法对改善网络的收敛速度效果明显,且对于其它的BP网络改进算法也有较好的改善作用。     

BP神经网络的改进

BP神经网络易于陷入局部最小点以及收敛速度较慢,为了克服这些缺陷,本文对BP神经网络进行改进。通过对BP神经网络的样本进行采样分析,得到训练目标函数与输入向量之间的相关系数,依据此相关系数得到网络训练时的初始权重,再给待训练的BP神经网络进行初始权重的赋值,通过对初始权重的科学赋值从而达到避免网络在训练过程中陷入局部最小点与加快收敛速度的目的。本文通过实际验证,确实达到预期目的。     

基于回归神经网络自适应快速BP算法

动态递归网络Elman网络结构简单,运算量少,适合于实时系统辨识。以Elman网络结构推导了在线学习算法。针对于传统BP算法会产生局部收敛和收敛速度慢等缺点,提出了一种改进的自适应BP算法,运用到回归神经网络,提高了在线学习的速度与收敛速度,仿真实验表明了此算法的有效性和快速性。     

基于改进的BP神经网络的车牌字符识别方法

借助于计算机控制技术中PID增量式控制算法中“加速对给定值变化的响应”思想来改进传统的BP神经网络算法。经过网络训练之后,应用其进行车牌字符识别。实验表明改进后的神经网络收敛速度和精度方面都有所提高,能提高字符识别的速度与精度。     

基于参数选取影响BP神经网络训练结果的分析

模式识别包含了两个方面的内容：样本训练和样本识别。而样本识别的前提则是样本训练,当然训练样本多并具有代表性当然好,但并非越多越优。重要的是在训练神经网络的过程中,权值、阈值等各个参数应如何确定才有利于训练的效率。正是针对使用一组简单样本对神经网络进行训练,并且采用变化参数值的方法观察其训练效果,从而得出不同的输出结果,以及曲线分析图。进而进行对比总结,找出最优的参数设置。而且实验方法和结论有利于应用于其他识别系统的开发。     

基于Matlab改进BP神经网络算法

本文针对标准BP算法的不足给出了改进算法—Scaled Conjugate Gradien(tSCG算法),利用Matlab语言编制了BP网络的应用实例仿真程序。结果表明SCG算法的学习收敛速度大大地优于标准BP算法。     

基于参数选取影响BP神经网络训练结果的分析

模式识别包含了两个方面的内容:样本训练和样本识别。而样本识别的前提则是样本训练,当然训练样本多并具有代表性当然好,但并非越多越优。重要的是在训练神经网络的过程中,权值、阈值等各个参数应如何确定才有利于训练的效率。正是针对使用一组简单样本对神经网络进行训练,并且采用变化参数值的方法观察其训练效果,从而得出不同的输出结果,以及曲线分析图。进而进行对比总结,找出最优的参数设置。而且实验方法和结论有利于应用于其他识别系统的开发。     

BP算法改进的研究

BP算法是神经网络中最常用的算法之一.分析传统的BP算法思想,发现它存在着诸如易于陷入局部极小、收敛速度慢等问题.针对BP算法的这些问题,分3个着手点,即:相关参数、激励函数和误差函数,归纳一些行之有效的改进方法,论述这些方法的主要思想,并分析它们的改进效果.     

一种改进的BP算法及其MatLab仿真

基于最优化理论,提出了基于新拟牛顿方程的改进拟牛顿算法训练BP神经网络.改进算法使用了一组新型的Hesse矩阵校正方程,使得改进拟牛顿算法具有全局收敛性和局部超线性收敛性.该文将改进的拟牛顿算法与BP神经网络权值的训练结合,得到一种新的BP神经网络权值的训练算法.与传统的神经网络权值学习的拟牛顿算法比较而言,采用改进算法的神经网络的收敛速度明显加快.改进算法能有效解决BP神经网络收敛速度慢的缺陷,显著提高了BP神经网络的学习训练收敛速度和学习精度.     

基于局部收敛权阵进化的BP神经网络MapReduce训练

为提高大样本集情况下BP神经网络的训练效率,提出了一种基于局部收敛权阵进化的BP神经网络MapReduce训练方法,以各Map任务基于其输入数据分片训练产生的局部收敛权阵作为初始种群,在Reduce任务中通过种群进化,选取适应度最高的权阵作为Map任务下一轮训练的初始权阵,直至该权阵对所有输入数据分片收敛。实验结果表明,与现有方法相比,该方法可有效避免MapReduce训练BP神经网络时容易陷入局部收敛的问题,并大大减少训练时间。     

基于样本噪声检测的AdaBoost算法改进

针对传统的AdaBoost算法中,存在的噪声样本造成的过拟合问题,提出了一种基于噪声检测的AdaBoost改进算法,本文称为NAdaBoost（nois-detection AdaBoost）. NAdaBoost算法创新点在于针对传统的AdaBoost算法在错误分类的样本中,噪声样本在某些属性上存在很大差异,根据这一特性来确定噪声样本,再重新使用算法对两类样本进行分类,最终达到提高分类准确率的目的. 本文对二分类问题进行实验结果表明,本文提出的算法和传统的AdaBoost算法,以及相关改进的算法相比,有较高的分类准确率.     

基于分层自适应学习率的改进BP算法

在自适应学习率算法的基础上提出一种新的BP网络改进算法——分层自适应学习率附加动量项算法。仿真结果表明该算法较之自适应学习率算法能进一步提高网络的学习速度。     

遗传算法优化的BP神经网络拷贝数变异检测

拷贝数变异是一种主要的基因组结构变异形式,会导致基因组区域中出现大小不等的扩增或缺失。针对现有拷贝数变异检测算法受GC含量偏差、测序误差等因素影响而导致检测能力低的问题,提出了一种基于遗传算法优化的BP神经网络拷贝数变异检测算法。该算法充分考虑基因组相邻位置之间的内在相关性,融合多个特征,并使用BP神经网络解决各个特征之间的联合作用以预测CNV;针对现有的BP神经网络模型存在的问题,利用遗传算法优化BP神经网络的权值和阈值,以提高该算法的CNV检测性能。实验结果表明,该算法对不同测序覆盖深度和肿瘤纯度共300个样本的平均检测灵敏度、平均检测精度和平均[F1]评分分别为97.27%、97.78%和97.53%,均优于其他几种算法,且能够显著降低样本边界偏差值。     

基于样本分布相似度的期望分布鉴别分析

主分量分析(PCA)和线性鉴别分析(LDA)是模式识别领域使用广泛的两种特征抽取方法.本文针对两种方法的不足之处,并从样本分布相似度出发提出一种期望分布鉴别分析(EDDA)方法,抽取到的鉴别特征的总体分布和设定的期望分布最为相近.即通过EDDA得到的投影向量可以抽取出最接近理想分布的鉴别特征.EDDA在投影向量的求解问题上不存在小样本问题,抽取的鉴别特征维数小,并且整体识别性能得到增强.在ORL、Yale人脸库上的实验结果证明本文方法在人脸识别精度上优于PCA和LDA方法.     

BP算法收敛性分析及改进

在标准BP神经网络的训练中,将误差函数作为权值调整的依据,使用固定学习率计算权值,这样的结果往往使网络的学习速度过慢甚至无法收敛。对此,从网络收敛的稳定性和速度的角度出发,分析了误差函数和权值修改函数,对算法中学习率的作用进行了具体的讨论,提出了一种根据误差变化对学习率进行动态调整的方法。该方法简单实用,能有效防止网络训练时出现发散,提高网络的收敛速度和稳定性。     

基于云模型的BP算法改进

云模型是定性定量间的不确定转换模型 ,它将概念的模糊性和随机性集成在一起。文中提出一种利用云模型来有效避免BP算法陷入局部极小的方法 ,该方法通过基于云模型和输入参数区间划分的学习因子自适应调整算法来实现。该算法在复杂非线性分类 (阴阳图 )情况下进行了计算机仿真     

一种改进型快速BP训练算法

本文以自适应步长调整代替ＤＦＰ优化方法中的一维搜索，并将它应用于前馈神经网络训练中。同时对步长的衰减因子和增长因子进行动态自适应调整，提高了ＢＰ训练算法的收敛速度和摆脱局部极小的能力，实验结果证明了该算法的有效性。     

利用遗传算法改进BP学习算法

首先介绍了遗传算法和标准BP算法及其改进形式,并指出遗传算法和BP算法各自的优缺点,然后着重讨论了如何采用遗传算法和梯度BP算法相结合的方法来训练前馈神经网络,从而提高神经网络的收敛速度和收敛质量。最后进行了仿真实验,结果表明,该方法不仅收敛速度快,而且易达到最优解,具有一定的实用价值。     

BP神经网络的样本拓展及旅游人数预测

城市旅游人数预测是一个城市建设规划中的重要决策因素,神经网络恰能描述其非线性的特点.为了使算法在对不同城市的预测上具有通用性,只根据往年旅游人数这一单一指标进行预测,有效地避开了其他因素对其的影响.同时,通过对网络的样本拓展,增加了预测数据的有效性.实验结果表明,该预测模型可以解决城市旅游人数的预测问题,验证了模型的可行性和通用性.     

人工神经网络BP算法的改进及其在无损检测中的应用

采用多层感知器（MLP）与误差反向传播算法（er-ror back-propagation algorithm)构造与监督训练人工祖辈 经网络,采用了改进的非线性激励函数与学习率的误差反向传播算法,超声无损检测的计算机模拟与实验结果表明,改进的BP算法收敛速度较之BP算法明显加快。