一种改进BP网络学习算法

针对BP神经网络的原始算法收敛速率慢、学习精度低、训练过程易陷入局部极小值问题,为解决上述问题,提出一种以变学习率BP算法为基础的改进算法,通过区分隐层和输出层的学习率,并用交叉熵作性能函数,提高算法的学习精度和训练速度,并经过数学推导,得到改进箅法的实现公式.将改进算法应用于奇偶数判别问题进行仿真,仿真实验结果与其它类似的方法进行比较后,发现改进算法大大降低了网络迭代次数,缩短了网络的训练时间,提高了训练精度,验证了该算法的有效性.     

一种改进的BP神经网络算法及其应用

BP算法是目前应用最为广泛的神经网络学习算法,但原始算法收敛速率慢,训练过程易陷入局部极小值以及隐层节点数选择困难.针对这些问题提出了不少改进措施,文中提出了一种改进的BP神经网络算法,在BP算法基础上,从训练算法着手,通过误差的变化趋势,动态调整权值以提高网络的收敛速率;通过数学推导,从理论上验证了该算法的有效性.用MATLAB软件对文中的改进算法进行仿真,并且与其它方法进行比较,结果表明,改进后的算法在收敛速率和抑制噪声等方面有很好的效果,从实验上验证了该算法的有效性.     

基于样本期望训练数的BP神经网络改进研究

BP算法是神经网络中最常用的算法之一.标准BP算法存在的最主要问题就是易于陷入局部极小、收敛速度慢等问题.针对BP算法的这些问题,出现了许多改进的措施,如引入变步长法、加动量项法等.提出了一种基于样本期望训练数的改进BP算法,仿真实验说明了该算法可以明显提高BP网络学习速度,并且具有简单通用性,可以和其他方法结合,进一步提高算法的收敛速度.     

BP算法在数据挖掘中应用研究

探讨了数据挖掘数据技术的准备工作,由于神经网络方法的特殊性,数据准备更显得尤为重要.对标准的BP算法进行了研究,针对现有人工神经网络中BP算法效率较低、容易陷入局部极小等存在的问题,提出了一种改进的BP算法,并针对这种算法进行了"与"和"异或"问题中的分析测试.测试结果表明了改进的BP算法缩短了学习时间,提高了学习效率,并在一定程度上避免了学习中的局部极小问题.     

基于改进BP网络算法的故障诊断分析

介绍BP神经网络结构和学习方法,针对误差反向传播神经网络模型学习收敛速度慢、容易陷入局部极小点等缺点,本文对BP网络模型进行了改进。对原始数据采用非线性的归一化函数,提出一种更加有效的学习率改进算法,提高了网络的收敛速度,采用了一种新的权值及阈值初始化方法,以避免训练时误差陷入局部极小解,并对改进BP算法与传统的BP算法进行比较,验证了该算法的优越性。     

STM32的四旋翼无人机故障诊断仿真研究

提出了基于BP神经网络的四旋翼无人机故障诊断方法,但考虑到经典BP神经网络算法误差收敛速率慢,训练学习容易陷入局部最优值等缺陷,设计了一种基于改进型遗传算法(Genetic Algorithm)优化BP神经网络.改进型GA算法对编码方式和选择算子进行了优化,同时对交叉和变异算子等参数进行了调整.Matlab仿真表明,改进后的BP神经网络算法的检测性能有了明显的增强,避免了经典BP算法容易陷入局部最优值的问题.     

智能油漆配色系统的改进BP算法

BP算法具有数学意义明确、学习规则简单等优点,是前向多次神经网络的典型学习算法。但是,BP算法在学习过程中容易陷入局部最小问题。针对这一问题,提出一种修正Sigmoid函数的改进BP算法。实验证明,改进BP算法可以有效克服局部最小,显著提高收敛速度。     

基于启发式BP算法的软件缺陷预测模型

针对软件缺陷预测时缺陷数据集中存在的类别分布不平衡问题，结合上采样算法SMOTE与Edited Nearest Neighbor (ENN) 数据清洗策略，提出了一种基于启发式BP神经网络算法的软件缺陷预测模型。模型中采用上采样算法SMOTE增加少数类样本以改善项目中的数据不平衡状况，并针对采样后数据噪声问题进行ENN数据清洗，结合基于启发式学习的模拟退火算法改进四层BP神经网络后建立分类预测模型，在AEEEM数据库上使用交叉验证对提出的方案进行性能评估，结果表明所提出的算法能够有效提高模型在预测类不平衡数据时的分类准确度。     

基于神经网络的多源融合室内定位算法

针对WiFi信号在室内复杂环境下不稳定以及建筑物对地磁场的扭曲作用造成单一定位源定位精度不高的问题, 本文采用多源信息融合定位技术, 有效利用WiFi和地磁场的指纹数据来进行定位, 提出了一种改进的自适应差分进化算法来优化BP神经网络(improved differential evolution BP, IDEBP). 该方法通过改进差分进化算法的变异、交叉和选择操作来优化BP神经网络的权值和偏差, 有助于BP模型更好地学习WiFi和地磁场指纹数据的特征. 仿真结果表明, IDEBP算法能大大提高室内指纹定位的精度.     

BP神经网络的联合优化算法

针对BP神经网络存在收敛速度慢、易陷入局部极小等缺陷,提出了一种自适应调节学习率和动态调整S型激励函数相结合的改进BP算法。该算法将学习率与误差函数相关联,再对每个隐单元和输出单元的激励函数的斜率进行自动调整。通过实例仿真,将改进算法与标准BP算法、加动量项法和自适应学习率法进行比较,来验证所提出方法的有效性。实验结果表明,联合优化的BP算法能有效加快网络的收敛过程,并具有较强的泛化能力。     

Weights and structure determination of multiple-input feed-forward neural network activated by Chebyshev polynomials of Class 2 via cross-validation

Differing from conventional improvements on backpropagation (BP) neural network, a novel neural network is proposed and investigated in this paper to overcome the BP neural-network weaknesses, which is called the multiple-input feed-forward neural network activated by Chebyshev polynomials of Class 2 (MINN-CP2). In addition, to obtain the optimal number of hidden-layer neurons and the optimal linking weights of the MINN-CP2, the paper develops an algorithm of weights and structure determination (WASD) via cross-validation. Numerical studies show the effectiveness and superior abilities (in terms of approximation and generalization) of the MINN-CP2 equipped with the algorithm of WASD via cross-validation. Moreover, an application to gray image denoising demonstrates the effective implementation and application prospect of the proposed MINN-CP2 equipped with the algorithm of WASD via cross-validation.     

交叉验证的BP神经网络恒星光谱分类

LAMOST作为国家重大科学工程项目,目前在世界上对光谱的观测、获取率最高,为天文学的研究与发展提供大量的数据和信息资源.根据LAMOST发布的恒星光谱数据文件,从中提取出关于恒星光谱波长的数据信息,对数据进行噪声剔除、数据降维、数据规范化、数据降维处理.利用BP神经网络算法对数据进行分类处理,根据分类结果正确率来判断BP神经网络模型的优劣.但是BP神经网络对测试集数据的测试效果并不代表对其他数据具有同样的测试效果而且易产生过拟合,所以采用交叉验证与BP神经网络相结合的方法,BP神经网络算法可对多组不同的数据进行测试,得到多组测试结果并求得平均值,可得到BP神经网络模型相对稳定的测试结果并降低结果的随机性.     

一种模糊规则动态调整BP算法中参数的方法

文中首先对标准的ＢＰ算法进行了分析。然后在此基础上提出了通过模糊规则推理动态调整学习率和动量因子的改进的方法，并通过模糊推理系统实现了ＢＰ算法的模糊控制。最后通过实例将该算法与标准ＢＰ算法和Ｖｏｇｌ改进的算法进行了比较，实验结果表明通过模糊推理来改善神经网络的ＢＰ算法性能是一种很有前途的方法。     

神经网络BP学习算法动力学分析

研究神经网络BP学习算法与微分动力系统的关系.指出BP学习算法的迭代式与相 应的微分动力系统数值解Euler方法在一定条件下等价,且二者在解的渐近性方面是一致的. 给出了神经网络BP学习算法与相应的微分动力系统解的存在性、唯一性定理和微分动力系统 的零解稳定性定理.从理论上证明了神经网络的学习在一定条件下与微分动力系统的数值方法 所得的数值解在渐近意义下是等价的,从而借助于微分动力系统的数值方法可以解决神经网络 的学习问题.最后给出了用改进Euler方法训练BP网的例子.     

神经网络稳定性的交叉验证模型

根据Skutin提出的交叉验证理论,针对神经网络学习算法提出了神经网络稳定性的交叉验证模型,并选择4种应用广泛、具有代表性的神经网络作为研究对象,通过随机数据集和UCI数据集上的数据实验结果得出了BP、RBF、GRNN、ELM等4种神经网络的稳定性排序,并用统计检验方法对排序结果进行了检验。     

改进BP网络在煤矿通风系统故障检测中的应用

针对BP神经网络传统学习算法步长难以确定的问题,提出了采用基于RLS算法的BP神经网络检测煤矿通风系统故障的方法;简要介绍了BP神经网络的结构,详细介绍了RLS学习算法和仿真过程。仿真结果表明,采用RLS算法的BP神经网络能够满足煤矿通风系统故障检测的要求。     

鲁棒性的极大似然前馈神经网络及其应用研究

提出了一种新的基于极大似然法的BP神经网络算法,该算法定义了一种新的误差函数。与传统BP算法相比,其优点在于不仅考虑了噪声对网络学习的影响,而且能够从全局的角度对网络参数进行学习,从而使网络的鲁棒性增强。实验结果说明了本方法的可行性与优越性。     

基于粒子群优化算法的BP网络学习研究

文章提出了基于粒子群优化的BP网络学习算法。在该算法中,用粒子群优化算法替代了传统BP算法中的梯度下降法,使得改进后的算法具有不易陷入局部极小、泛化性能好等特点。并将该算法应用在了高速公路动态称重系统的设计中,实验证明:这种算法能够明显减少迭代次数、提高收敛精度,其泛化性能也优于传统BP算法。     

一种改进的BP算法在实际应用中的研究

该文在应用BP网络诊断电厂制粉系统故障的研究中，采用一种改进的学习算法，即对BP网络权值的优化方法上进行了改进，并经制粉系统故障诊断的仿真试验证明，这种改进的BP算法能有效地解决网络学习时易陷入局部极小值的问题，提高网络的学习速度和诊断精度。