一种基于放大误差信号的自适应BP算法

针对标准BP算法受饱和区域影响而导致收敛速度慢的问题,提出一种基于放大误差信号的自适应BP算法,该算法通过修改激励函数的导数,使权值的修正过程不会因饱和区域而趋于停滞,并分析了改进算法的收敛性。仿真结果表明,改进的BP算法加快了收敛速度,并在一定程度上提高了全局收敛能力。     

一种放大误差信号的BP算法

针对BP神经网络学习算法收敛速度慢、易陷入假饱和状态的问题,提出了一种快速收敛的BP算法。该算法通过修改激励函数的导数,放大误差信号来提高收敛性。给出了改进算法的收敛性分析并在实验仿真中将改进算法同时与标准BP算法和NG等人的改进算法进行比较。仿真结果表明,该算法在收敛速度方面大大优于另外两种算法,有效地提高了BP算法的全局收敛能力。     

一种新的无刷直流电机控制系统的设计

为解决无刷直流电机的非线性、变参数、负载扰动影响的问题,提出利用一种新型BP神经网络学习算法优化其逆控制系统。该算法设计了包括隐层饱和度的总误差函数,采用了自适应调节的放大误差信号方法,改善了算法的收敛速度并且避免了局部收敛。从而实现无刷直流电机的直接自适应逆控制。仿真结果表明该控制系统响应速度快、无超调、抗干扰、鲁棒性强。     

基于回归神经网络误差配准算法的仿真实现

在网络系统优化问题的研究中,目前广泛使用的BP网络模型不能保证收敛到全局最小点,这给网络传输带来误差.为消除网络误差,提高收敛速度,在BP网络加入反馈信号生成内部递归神经网络的误差配准算法.算法在内部递归神经网络引入上次输出的结果,加入先验知识,提高了收敛速度.同时文中对有偏差单元的递归神经网络的误差反向传播学习规则进行了推导,使得网络的累积误差不大于要求值.通过民用航空领域雷达网系统仿真数据仿真表明,算法在消除雷达网系统误差、提高目标精度,对网络系统优化可以取得较好的效果.     

一种改进的BP神经网络算法与应用

针对传统BP算法存在的收敛速度过慢、易陷入局部极小、缺乏统一的理论指导网络结构设计的缺点,分析了一般的改进算法在神经网络优化过程中存在的问题,从蚁群算法和BP算法融合的角度上,并引入了放大因子,提出一种综合改进的BP算法。该算法引入放大因子改善BP算法易陷入局部极小的情况,结合蚁群算法用于指导网络结构设计,并极大地改善了收敛速度过慢的问题。最后,将改进的BP算法与传统BP算法进行应用于煤矿瓦斯预测。通过对实验结果的分析,从时间和正确率上都表明改进的BP算法要优于传统的BP算法。     

一种基于误差放大的快速BP学习算法

针对目前使用梯度下降原则的BP学习算法，受饱和区域影响容易出现收敛速度趋缓的问题，提出一种新的基于误差放大的快速BP学习算法以消除饱和区域对后期训练的影响．该算法通过对权值修正函数中误差项的自适应放大，使权值的修正过程不会因饱和区域的影响而趋于停滞，从而使BP学习算法能很快地收敛到期望的精度值．对3-parity问题和Soybean分类问题的仿真实验表明，与目前常用的Delta-bar-Delta方法、加入动量项方法、Prime Offset等方法相比，该方法在不增加算法的复杂度和额外的CPU机时的情况下能更快地收敛到目标精度值．     

一种改进的 BP 神经网络算法与应用

针对传统 BP 算法存在的收敛速度过慢、易陷入局部极小、缺乏统一的理论指导网络结构设计的缺点,分析了一般的改进算法在神经网络优化过程中存在的问题,从蚁群算法和 BP 算法融合的角度上,并引入了放大因子,提出一种综合改进的 BP 算法.该算法引入放大因子改善 BP 算法易陷入局部极小的情况,结合蚁群算法用于指导网络结构设计,并极大地改善了收敛速度过慢的问题.最后,将改进的 BP 算法与传统 BP 算法进行应用于煤矿瓦斯预测.通过对实验结果的分析,从时间和正确率上都表明改进的 BP 算法要优于传统的 BP 算法     

基于遗传BP网络的快速分类算法的构建

为获取能快速分类的智能算法,在分析BP算法原理与缺陷的基础上,首先对标准的BP算法进行了改进,然后利用已改进的BPX算法优化遗传算法选优过程,提出了GA＆BP混合算法,该算法兼顾了GA算法的全局收敛特性和BP算法快速的局部收敛能力,使算法既有较快的收敛速度又不易陷入局部解。仿真结果表明GA＆BP混合算法的收敛速度、误差精度等主要性能指标有明显改善。     

基于指数型多延迟误差信号自相关的变步长常模算法

为了进一步提高指数型变步长常数模算法收敛速度,在分析误差信号自相关性的基础上,利用多延迟误差信号的自相关函数来控制步长,提出一种基于指数型多延迟误差信号自相关的变步长常模算法。该算法与无延迟及单位延迟相比,多延迟误差信号的自相关函数可以为训练轨迹提供简单且更为准确的信息,使得算法的收敛速度更快,同时使收敛过程更加平滑稳定。水声信道仿真实验进一步说明了该算法在收敛速度上的优越性。     

基于改进BP网络算法的故障诊断分析

介绍BP神经网络结构和学习方法,针对误差反向传播神经网络模型学习收敛速度慢、容易陷入局部极小点等缺点,本文对BP网络模型进行了改进。对原始数据采用非线性的归一化函数,提出一种更加有效的学习率改进算法,提高了网络的收敛速度,采用了一种新的权值及阈值初始化方法,以避免训练时误差陷入局部极小解,并对改进BP算法与传统的BP算法进行比较,验证了该算法的优越性。     

Fast Convergent Generalized Back-Propagation Algorithm with Constant Learning Rate

The conventional back-propagation algorithm is basically a gradient-descent method, it has the problems of local minima and slow convergence. A new generalized back-propagation algorithm which can effectively speed up the convergence rate and reduce the chance of being trapped in local minima is introduced. The new back-propagation algorithm is to change the derivative of the activation function so as to magnify the backward propagated error signal, thus the convergence rate can be accelerated and the local minimum can be escaped. In this letter, we also investigate the convergence of the generalized back-propagation algorithm with constant learning rate. The weight sequences in generalized back-propagation algorithm can be approximated by a certain ordinary differential equation (ODE). When the learning rate tends to zero, the interpolated weight sequences of generalized back-propagation converge weakly to the solution of associated ODE.     

基于混沌系统的正交小波变换盲均衡算法

针对常数模盲均衡算法(CMA)收敛速度慢、稳态误差大和局部收敛的缺点,将正交小波变换与混沌通信理论相结合,提出了一种基于混沌通信系统的正交小波变换盲均衡算法(CS-WT-CMA)。该算法充分利用了混沌映射的伪随机性、遍历性、相关性以及无限宽带功率谱等特点,将混沌调制系统用于产生宽带混沌信号,使用混沌信号作为载波,在调制的同时直接对发射信号进行扩频,从而降低了信道输入信号的自相关性,更好地抑制了码间干扰和多径衰落;同时对均衡器输入信号进行正交小波变换,并作能量归一化处理,降低了信号的自相关性,从而有效地加快了收敛速度。水声信道仿真结果表明,与正交小波变换盲均衡算法(WT-CMA)相比,该算法收敛速度更快、稳态误差更小。     

Boundedness and Convergence of Split-Complex Back-Propagation Algorithm with Momentum and Penalty

This paper investigates the split-complex back-propagation algorithm with momentum and penalty for training complex-valued neural networks. Here the momentum are used to accelerate the convergence of the algorithm and the penalty are used to control the magnitude of the network weights. The sufficient conditions for the learning rate, the momentum factor, the penalty coefficient, and the activation functions are proposed to establish the theoretical results of the algorithm. We theoretically prove the boundedness of the network weights during the training process, which is usually used as a precondition for convergence analysis in literatures. The monotonicity of the error function and the convergence of the algorithm are also guaranteed.     

Control of robotic manipulators—a neural network approach

A neural-network-based scheme is used for the control of a robotic manipulator. The main idea is that, by using a neural network to learn the characteristics of the robot system (or specifically its inverse dynamics), accurate trajectory following and good performance results are obtained. However, the traditional back-propagation algorithm commonly used for control and identification of nonlinear systems suffers from a slow rate of convergence. We investigate the effect of adusting the slope of the activation function (the node nonlinearity) on the performance of a back-propagation algorithm. It is shown that learning speed is increased significantly by making the slope of non-linearity adaptive. The results demonstrate that the proposed method gives better error minimization and faster convergence. The suggested method is applied to a two-link robotic manipulator. The resulting controller is sufficiently robust with respect to the changing conditions.     

水声信道盲均衡的最小平方峭度恒模算法

用误差信号峭度定义了平方峭度代价函数，提出了盲均衡器权系数更新的最小平方峭度恒模算法，该算法更新方程中含有的误差信号峰度因子有效地消除了高斯性误差信号的影响，加快了收敛，减小了收敛后的均方误差和码间干扰。用负声速梯度水声信道，对算法的性能进行了仿真研究。结果表明：该算法在收敛速度，收敛后的均方误差及码间干扰等方面的性能优于常数模算法与最小平均峭度恒模算法。     

一种改进BP神经网络的算法

传统的神经网络BP算法存在收敛速度慢、存在局部极小点等问题,这种算法收敛慢的主要原因是它利用的是性能函数的一阶信息,递推最小二乘算法利用了二阶信息,但是需要计算输入信号的自相关矩阵的逆,计算量大,不易实现。本文提出一种梯度递推BP算法,它基于最小二乘准则,利用改进的梯度来实现BP算法,这种算法不用计算输入信号的自相关矩阵,并通过仿真证明了该算法的有效性。     

一种快速收敛的改进BP算法的研究

在分析普通BP算法的基础上提出了一种改进的BP算法(MBP),用以克服普通BP算法收敛速度慢、易陷入局部最小点的缺点.算法的核心是改变Sigmoid函数的微分表达式,加入幂因子S和R,用以提高网络输出误差项在整个目标函数中的相对影响.收敛性分析表明,MBP算法保持了普通BP算法的梯度下降特性,但具有更快收敛速度和更好的收敛精度,并且可跳出局部最小点.通过对一个非线性系统的模型辨识仿真实验,直观上证明了该算法的有效性和可行性.     

一种新的基于多模误差切换的盲均衡算法

为了克服传统常模量算法(Constant module algorithm，CMA)和基于误差切换的盲均衡算法(Error switch algorithm，ESA)的缺点，本文利用MQAM(Multiple quadrature amplitude modulation)信号的分布特点，给出了适于数字通信系统的一种新的基于多模误差切换的盲均衡算法。理论分析和计算机仿真结果表明，新算法误差函数切换点明确，减小了计算量和剩余误差，收敛性能也令人满意。