基于放大误差信号的BP算法

提出了一种基于放大误差信号的改进BP算法,构造了一个新的函数修改激励函数的导数,通过放大误差信号,加大网络权值调整力度,避免BP算法易于陷入饱和区域来加快收敛速度。仿真结果表明,该算法在收敛速度等方面大大优于其他一些算法。     

一种基于误差放大的快速BP学习算法

针对目前使用梯度下降原则的BP学习算法，受饱和区域影响容易出现收敛速度趋缓的问题，提出一种新的基于误差放大的快速BP学习算法以消除饱和区域对后期训练的影响．该算法通过对权值修正函数中误差项的自适应放大，使权值的修正过程不会因饱和区域的影响而趋于停滞，从而使BP学习算法能很快地收敛到期望的精度值．对3-parity问题和Soybean分类问题的仿真实验表明，与目前常用的Delta-bar-Delta方法、加入动量项方法、Prime Offset等方法相比，该方法在不增加算法的复杂度和额外的CPU机时的情况下能更快地收敛到目标精度值．     

基于自适应误差反向传播信号调整的BP网络研究与应用

基于误差反馈对BP神经网络的影响,设计了一种反向传播的自适应误差反馈函数来增加BP网络权值的调整力度,避免网络过早进入饱和区域.将改进后的BP算法引入纱线质量预测模型中,并通过实例验证了改进后的BP神经网络算法预测结果精度较高.     

一种放大误差信号的BP算法

针对BP神经网络学习算法收敛速度慢、易陷入假饱和状态的问题,提出了一种快速收敛的BP算法。该算法通过修改激励函数的导数,放大误差信号来提高收敛性。给出了改进算法的收敛性分析并在实验仿真中将改进算法同时与标准BP算法和NG等人的改进算法进行比较。仿真结果表明,该算法在收敛速度方面大大优于另外两种算法,有效地提高了BP算法的全局收敛能力。     

基于BP改进算法的自由曲面重建

针对BP基本算法应用于曲面重建的缺点,提出自调整S型函数方法,并利用共轭梯度法同时调整权值系数和S型函数的形状参数,使得收敛曲线能够迅速摆脱平缓的区域,加速了收敛进程。将这一改进的算法应用于BP网重建自由曲面中,仿真结果表明,同BP基本算法相比,在收敛速度和重建精度上均有较大程度的提高。     

改进的人工蜂群算法在神经网络中的应用

人工蜂群算法是模拟蜜蜂采蜜行为而提出的一种新的启发式仿生算法,属于典型的群体智能算法。提出了一种改进的人工蜂群算法,并利用改进后的人工蜂群算法来优化传统BP算法（神经网络算法中的误差方向传播算法）中网络参数的权值。实验结果证明该优化算法提高了BP神经网络收敛解的精度,加快了BP神经网络收敛速度。     

模拟退火算法改进BP算法的区域物流中心选址

合理的区域物流中心选址是加速区域物流网络升级优化,促进经济持续、健康、稳定发展的基础。文中运用模拟退火算法改进BP学习算法构成一种新的优化算法,通过学习和迭代求出问题的解。首先,运用精确的数学模型描述BP学习算法,并通过图形阐明模拟退火算法改进BP算法的流程;然后,针对改进后的算法规划了6个选址步骤;最后,通过具体选址实例,验证改进算法和步骤的有效性。文中研究的算法在收敛稳定性、收敛速度、初值敏感性等方面具有良好的效果,表现出高效、实用、简洁的特性。     

采用BP 神经网络及其改进算法改善传感器特

本文采用BP多层前馈神经网络及其改进算法对传感器特性进行补偿 .提出附加动量法、自适应参数变化法为主要内容的BP神经网络改进算法 ,有效地改善了BP网络传统算法收敛慢、容易收敛到局部最小点的缺陷 ,并编制了训练程序 .结果表明 ,经BP改进算法处理后 ,传感器性能大幅度改善 ,改进的BP算法拟合精度更高 ,计算时间更短     

一种改进的BP神经网络算法与应用

针对传统BP算法存在的收敛速度过慢、易陷入局部极小、缺乏统一的理论指导网络结构设计的缺点,分析了一般的改进算法在神经网络优化过程中存在的问题,从蚁群算法和BP算法融合的角度上,并引入了放大因子,提出一种综合改进的BP算法。该算法引入放大因子改善BP算法易陷入局部极小的情况,结合蚁群算法用于指导网络结构设计,并极大地改善了收敛速度过慢的问题。最后,将改进的BP算法与传统BP算法进行应用于煤矿瓦斯预测。通过对实验结果的分析,从时间和正确率上都表明改进的BP算法要优于传统的BP算法。     

一种基于BP神经网络的数字识别新方法

针对标准BP神经网络收敛速度慢、易陷入局部极小点的缺点,提出了一种新的BP神经网络改进算法。该算法通过变步长法和牛顿法来改进BP算法,加快了网络的收敛速度,且收敛速度快于其他的改进算法。在此基础上将BP神经网络应用于数字识别中,为其网络建立识别模型。利用仿真实验观察BP网络的泛化能力以及识别准确性,比较BP算法及其改进方案,提出改进方案中分别需要注意的地方。     

一种新的无刷直流电机控制系统的设计

为解决无刷直流电机的非线性、变参数、负载扰动影响的问题,提出利用一种新型BP神经网络学习算法优化其逆控制系统。该算法设计了包括隐层饱和度的总误差函数,采用了自适应调节的放大误差信号方法,改善了算法的收敛速度并且避免了局部收敛。从而实现无刷直流电机的直接自适应逆控制。仿真结果表明该控制系统响应速度快、无超调、抗干扰、鲁棒性强。     

Forecasting foreign exchange rates with an improved back-propagation learning algorithm with adaptive smoothing momentum terms

The slow convergence of back-propagation neural network (BPNN) has become a challenge in data-mining and knowledge discovery applications due to the drawbacks of the gradient descent (GD) optimization method, which is widely adopted in BPNN learning. To solve this problem, some standard optimization techniques such as conjugate-gradient and Newton method have been proposed to improve the convergence rate of BP learning algorithm. This paper presents a heuristic method that adds an adaptive smoothing momentum term to original BP learning algorithm to speedup the convergence. In this improved BP learning algorithm, adaptive smoothing technique is used to adjust the momentums of weight updating formula automatically in terms of “3 σ limits theory.” Using the adaptive smoothing momentum terms, the improved BP learning algorithm can make the network training and convergence process faster, and the network’s generalization performance stronger than the standard BP learning algorithm can do. In order to verify the effectiveness of the proposed BP learning algorithm, three typical foreign exchange rates, British pound (GBP), Euro (EUR), and Japanese yen (JPY), are chosen as the forecasting targets for illustration purpose. Experimental results from homogeneous algorithm comparisons reveal that the proposed BP learning algorithm outperforms the other comparable BP algorithms in performance and convergence rate. Furthermore, empirical results from heterogeneous model comparisons also show the effectiveness of the proposed BP learning algorithm.     

变共轭梯度算法及其在农产品总产量预测中的应用

为克服BP算法收敛速度慢，易陷入局部极小值等的缺点，提高BP预测精度等性能，提出了变共轭梯度法(VCG)。从激活函数和学习规则两方面修正网络，并对其收敛性作了分析及简要证明。将其应用于我国主要农产品总产量的预测，证实了该算法的有效性。     

基于人工蜂群的 BP 神经网络算法

传统BP神经网络存在容易陷入局部极小点、收敛速度慢等缺点。人工蜂群算法是基于蜜蜂群体的觅食行为而提出的一种新的启发式仿生算法,属于典型的群体智能算法。它为全局优化算法,该算法简单、实现方便、鲁棒性强。针对BP神经网络算法的不足,提出利用人工蜂群算法交叉优化BP网络参数的权值和阈值,实验证明该优化算法确实提高了解的精度,加快了网络收敛速度。     

A novel multilayer neural networks training algorithm thatminimizes the probability of classification error

A multilayer neural networks training algorithm that minimizes the probability of classification error is proposed. The claim is made that such an algorithm possesses some clear advantages over the standard backpropagation (BP) algorithm. The convergence analysis of the proposed procedure is performed and convergence of the sequence of criterion realizations with probability of one is proven. An experimental comparison with the BP algorithm on three artificial pattern recognition problems is given.     

基于L-M算法的反向传播网络的湿度传感器输出误差补偿研究

针对湿度传感器的输出非线性问题,提出了基于L-M算法建立BP神经网络进行补偿校正,实现电阻型湿度传感器的输入与输出非线性补偿,并与共轭梯度算法、拟牛顿算法所建立的神经网路模型进行对比,重点比较了模型迭代性能、标准偏差;最后发现当神经网络用L-M算法进行训练模拟时在迭代性能、标准偏差等方面具有更优异的表现,更适合湿度传感器的非线性特性的补偿校正。     

基于二维结构熵的置信传播算法收敛性分析

为了对置信传播(BP)算法在结构比较复杂的命题公式上有时会失效,常常表现为不收敛的现象给予理论解释,提出了基于警示传播的社区发现算法(WPLPA).依据BP算法在因子图上的信息迭代策略,利用WPLPA算法对命题公式所对应因子图的社区结构进行划分.借助二维结构熵的相关理论技术,建立了命题公式的二维结构熵度量模型,通过该模型分析了BP算法的收敛性与二维结构熵之间的关系,给出BP算法的收敛性判定条件,对BP算法的收敛性进行系统分析.实验分析证明该方法有效可行,能为信息传播算法的后续研究提供理论支持.     

基于拟牛顿法的前向神经元网络学习算法

针对前向神经网络现有BP学习算法的不足,结合非线性最优化方法,提出一种基于拟牛顿法的神经元网络学习算法。该算法有效地改进了神经元网络的学习收敛速度,取得了比常规BP算法更好的收敛性能和学习速度。     

一种回归神经网络的快速在线学习算法

针对回归神经网络BP学习算法收敛慢的缺陷,提出了一种新的快速在线递推学 习算法.本算法在目标函数中引入了遗忘因子,并借助于非线性系统的最大似然估计原理成 功地解决了动态非线性系统回归神经网络模型权系数学习的实时性和快速性问题.仿真结果 表明,该算法比传统的回归BP学习算法具有更快的收敛速度.