前馈神经网络中的反向传播算法及其改进：进展与展望

ＢＰ网络和算法是使用最广泛的神经网络模型之一，但由于它使用梯度算法，因而存在固有的局部极小及收敛速度慢等问题。本文首先回顾了ＢＰ算法的产生和发展过程，之后对ＢＰ算法因有的特点进行了阐述，最后针对原基本ＢＰ算法的缺陷对各种改进方法进行了全面并指出了这一研究中的有关问题。     

一种模糊规则动态调整BP算法中参数的方法

文中首先对标准的ＢＰ算法进行了分析。然后在此基础上提出了通过模糊规则推理动态调整学习率和动量因子的改进的方法，并通过模糊推理系统实现了ＢＰ算法的模糊控制。最后通过实例将该算法与标准ＢＰ算法和Ｖｏｇｌ改进的算法进行了比较，实验结果表明通过模糊推理来改善神经网络的ＢＰ算法性能是一种很有前途的方法。     

BP网络用于心电数据压缩的算法的改进

本文针对ＢＰ网络进行心电数据压缩学习速度慢的问题提出了几项改进措施，形成了新的ＴＰ－ＩＢＰ数据压缩算法，有效改善了ＢＰ网络用于压缩学习速度慢的问题。     

关于BP算法的初步研究

本文提出了两种改进ＢＰ学习算法的方法：常系数法和变系数法，加快了网络的收敛速度，增强了ＢＰ算法的可用性与实用性。     

神经网络分类器的快速构造算法

使用ＢＰ算法训练多层网络的速度很慢而且事先难于确定隐节点和隐层的适当数目。本文提出一个有效的算法，先构造决策树，然后将构造的决策树转换为神经网。文中使用一个全局准则函数控制决策树的增长，它较好地匹配了树的复杂性和训练样本量及错分率界。实验结果，本文的算法比用ＢＰ算法训练多层网络要快，而其分类精度不低于用ＢＰ算法训练的多层神经网。     

自寻优OBP学习算法

本文针对多层前馈神经网络中反向误差传播ＢＰ算法的固有缺点，提出了一种新的十分有效的自寻优ＯＢＰ学习算法。ＯＢＰ在每次迭代中都自动选择一个使目标函数函数全局最小的步长，从而极大地改善了网络的收敛速度和收敛稳定性。．     

BP算法的模拟程序

本文根据ＢＰ算法的基本理论，以二值异或问题为例给出了ＢＰ算法的流程图，同时编写了该问题的运行程序。该程序只稍做改动就可适应各种需要。     

提高BP神经网络学习速度的算法研究

本文在深入分析ＢＰ人工神经网络学习算法的基础上，研究了采用增加动量项，成批训练及综合法来提高ＢＰ网络的学习速度，取得了显著效果。     

BP算法的改进及用模拟电路实现的神经网络分类器

基于用模拟电路实现神经网络分类器的目的，对多层静态前馈神经网络的ＢＰ算法做了改进，采用线性限幅函数代替Ｓｉｇｍｏｉｄ函数作为神经元的激活函数，给出了改进的ＢＰ算法。对该算法性能的实验研究表明：这种改进算法不但方便了用线性模拟集成运算放大电路实现神经网络，而且具有学习速度快，映射能力强等优点。根据本文算法设计的神经网络分类器，无论是计算机仿真，还是模拟电路实现，都得到了比较高的识别率。     

多层神经网络BP算法的研究

影响多层神经网络ＢＰ算法学习效率的因素不少。但ＢＰ算法中误差函数不能有效地表征样本学习精度是其中主要的因素之一。本文对ＢＰ算法中的误差函数进行了修正。计算机模拟结果表明这种修正有助于提高学习精度和学习效率。     

前馈网络的一种超线性收敛BP学习算法

分析传统BP算法存在的缺点,并针对这些缺点提出一种改进的BP学习算法.证明该算法在一定 条件下是超线性收敛的,并且该算法能够克服传统BP算法的某些弊端,算法的计算复杂度与简 单BP算法是同阶的.实验结果说明这种改进的BP算法是高效的、可行的.     

基于MPSO的BP网络及其在入侵检测中的应用

提出一种基于变异粒子群优化(MPSO)的BP网络学习算法,该算法用PSO算法替代了传统BP算法,且在学习过程中,引入变异操作,克服传统BP算法易陷入局部极小和PSO算法早熟的不足。并把该算法应用于入侵检测中,通过KDD99 CUP数据集分别对基于不同算法的BP神经网络进行了仿真实验比较,结果表明,该算法的收敛速度快,迭代次数较少,而且测试平均准确率高达96.5%。     

基于神经网络的优化算法在异常入侵检测中的应用

本文描述了一种采用人工神经网络技术的高效异常入侵检测模型,对网络流量处理、神经网络的训练及其算法、神经网络的检测及其算法进行了详细的论述,利用Levenberg-Marquardt算法对传统BP算法进行改进,改进的BP算法较传统BP算法具有收敛速度快、正确检测率高的优点。     

基于粒子群优化算法的BP网络学习研究

文章提出了基于粒子群优化的BP网络学习算法。在该算法中,用粒子群优化算法替代了传统BP算法中的梯度下降法,使得改进后的算法具有不易陷入局部极小、泛化性能好等特点。并将该算法应用在了高速公路动态称重系统的设计中,实验证明:这种算法能够明显减少迭代次数、提高收敛精度,其泛化性能也优于传统BP算法。     

提高BP网络收敛速率的又一种算法

提高BP网络的训练速率是改善BP网络性能的一项重要任务。该文在误差反向传播算法(BP算法)的基础上提出了一种新的训练算法，该算法对BP网络的传统动量法进行了修改，采用动态权值调整以减少训练时间。文章提供了改进算法的仿真实例，仿真结果表明用该方法解决某些问题时，其相对于BP网络传统算法的优越性。     

基于BP神经网络的高速公路交通事件检测

回顾了几种传统的交通事件检测算法，提出基于多层前向人工神经网络的检测模型，并运用BP算法予以实现。在将BP算法与传统算法进行比较之后，发现BP算法具有检测率高、误报率低、平均检测时间短的优点，同时也存在不足之处，指出了今后进一步研究的方向。     

基于BP神经网络算法的数据挖掘方法研究

详细介绍了数据挖掘技术的相关概念、任务以及神经网络原理,指出了传统的BP算法在数据挖掘过程中的不足之处,提出了一种变异的BP神经网络算法,大大提高了BP神经网路算法的收敛速度.     

AFSA＋PSO混合算法在BP网络故障诊断中的应用

提出一种基于人工鱼群算法和粒子群算法混合训练BP网络的故障诊断系统.采用人工鱼群算法和粒子群算法结合算法训练神经网络权值,局部搜索速度快且保证全局收敛,有效克服了传统的BP神经网络收敛速度慢且容易陷入局部极值的缺点.将该网络用于齿轮箱故障诊断,并与传统BP模型用于故障诊断结果进行了比较,取得了较好的效果.     

改进粒子群算法对BP神经网络的优化

介绍一种基于改进粒子群算法优化BP网络的权值调整综合方法。该算法在传统BP算法的误差反传调整权值的基础上,引入粒子群算法的权值修正,并且在训练神经网络权值的同时优化其连接结构,删除冗余连接,从而建立了基于粒子群算法优化的BP网络新模型。结果表明,改进算法不仅可以克服传统BP算法收敛速度慢和易陷入局部权值的局限,而且很大程度地提高了结果精度和BP网络学习能力。     

基于结构简化的BP网络的多类形状识别

BP算法是目前应用极为广泛的神经网络算法,但它也存在一些不足。文中提出了一种使BP网络结构简化的改进的BP算法,它使得网络的速度得到了提高,减少了迭代次数。最后将传统的BP算法和改进的BP算法进行了比较,仿真结果表明改进的算法在学习次数和收敛速度上比传统的算法有很大的改善。