BP算法在数据挖掘中应用研究

探讨了数据挖掘数据技术的准备工作,由于神经网络方法的特殊性,数据准备更显得尤为重要.对标准的BP算法进行了研究,针对现有人工神经网络中BP算法效率较低、容易陷入局部极小等存在的问题,提出了一种改进的BP算法,并针对这种算法进行了"与"和"异或"问题中的分析测试.测试结果表明了改进的BP算法缩短了学习时间,提高了学习效率,并在一定程度上避免了学习中的局部极小问题.     

一种改进的BP算法在实际应用中的研究

该文在应用BP网络诊断电厂制粉系统故障的研究中，采用一种改进的学习算法，即对BP网络权值的优化方法上进行了改进，并经制粉系统故障诊断的仿真试验证明，这种改进的BP算法能有效地解决网络学习时易陷入局部极小值的问题，提高网络的学习速度和诊断精度。     

基于改进BP网络算法的故障诊断分析

介绍BP神经网络结构和学习方法,针对误差反向传播神经网络模型学习收敛速度慢、容易陷入局部极小点等缺点,本文对BP网络模型进行了改进。对原始数据采用非线性的归一化函数,提出一种更加有效的学习率改进算法,提高了网络的收敛速度,采用了一种新的权值及阈值初始化方法,以避免训练时误差陷入局部极小解,并对改进BP算法与传统的BP算法进行比较,验证了该算法的优越性。     

一种随机学习速率的BP神经网络算法

在基本的BP算法及VLBP算法的基础上,根据遗传算法中变异的思想.提出了一种随机学习速率的BP算法.该算法在避免陷入局部最小的问题上有了一定的改善,并明显地加快了收敛速度.     

神经网络中克服局部最小的BP—EP混合算法

人工神经网络在很多领域有着成功的应用,神经网络有许多学习算法,BP算法是前向多层神经网络的典型算法,但BP算法有时会陷入局部最小解,进化规划（EP）是一种随机优化技术,它可以发现全局成解,当网络学习过程陷入局部最小时,利用EP确定BP算法中的学习速率,使学习过程逸出局部最小,结合具体例子给出了算法实现的具体操作步骤和实验结果。     

改进BP算法用于液体发动机涡轮泵故障诊断

涡轮泵是液体火箭发动机系统的核心设备,工作环境十分恶劣,极易出现故障,所以对涡轮泵进行准确、快速的故障诊断显得尤为重要。因此提出了利用BP神经网络对其进行故障诊断。而常规BP算法存在收敛速度慢、易陷入局部最小等缺点,运用一种改进算法—自适应率BP算法,通过对液体火箭发动机涡轮泵的常见故障进行诊断。诊断结果表明,该改进算法具有收敛速度快,学习记忆稳定,诊断准确等特点。     

基于PSO的BP训练算法

在BP训练算法中,关于变权值、学习速率、步长的问题已被广泛地研究,几种基于启发式改进的技术也表明具有改善训练时间以及避免陷入局部最小的明显效果.这里BP训练过程由基于PSO同时优化log-Sigmoid函数与网络权值的新算法(PSO-GainBP)实现.实验结果表明,PSO-GainBP比传统基于PSO的BP算法在网络训练方面具有更好的性能.     

具有混沌学习率的BP算法

针对BP算法在训练过程中容易陷入局部极小值,导致收敛速率慢的问题,探讨一种利用混沌的遍历特性改进学习效率的算法,用Matlab软件对改进算法进行仿真。实验结果表明,该算法能够提高神经网络的学习效率和收敛精度,较好地避免网络陷入局部极小点。     

基于交叉验证的BP算法的改进与实现

针对BP算法存在的收敛速度慢等问题提出改进方案,修改其相关参数并且提出如何选择合适的隐藏层节点个数.同时针对学习样本数据的有限性、BP算法易陷入局部最小值和容易出现过拟合等问题进行了研究,提出了采用多重交叉验证的再改进BP算法.仿真结果表明,交叉验证BP算法提高了网络学习的效率.     

基于样本期望训练数的BP神经网络改进研究

BP算法是神经网络中最常用的算法之一.标准BP算法存在的最主要问题就是易于陷入局部极小、收敛速度慢等问题.针对BP算法的这些问题,出现了许多改进的措施,如引入变步长法、加动量项法等.提出了一种基于样本期望训练数的改进BP算法,仿真实验说明了该算法可以明显提高BP网络学习速度,并且具有简单通用性,可以和其他方法结合,进一步提高算法的收敛速度.     

一种快速逃离局部极小点的BP算法

针对反向传播(BP)算法容易陷入局部极小点的问题,提出了一种改进价值函数,使其快速收敛到全局最小点的方法。对扩展的异或问题正弦函数模拟进行了仿真实验,结果对比表明,改进的BP算法能快速逃离局部极小点,收敛到全局最小点,达到了期望的效果。     

一种实用的克服局部极小的BP算法研究

ＢＰ算法由于基神经元输出函数为Ｓｉｇｍｏｉｄ函数，因此是一个非线性优化问题，不可避免地会出现局部极小。本文提供了一种改进的学习算法，提出判断局部极小的规则，然后引入冲量函数，使ＢＰ网络能够通过判断输出节点的输出误差来修改学习率，使误差函数在其梯度方向上出现大的跳跃，从而跳出局部极小。     

一种改进的BP神经网络算法与应用

针对传统BP算法存在的收敛速度过慢、易陷入局部极小、缺乏统一的理论指导网络结构设计的缺点,分析了一般的改进算法在神经网络优化过程中存在的问题,从蚁群算法和BP算法融合的角度上,并引入了放大因子,提出一种综合改进的BP算法。该算法引入放大因子改善BP算法易陷入局部极小的情况,结合蚁群算法用于指导网络结构设计,并极大地改善了收敛速度过慢的问题。最后,将改进的BP算法与传统BP算法进行应用于煤矿瓦斯预测。通过对实验结果的分析,从时间和正确率上都表明改进的BP算法要优于传统的BP算法。     

基于遗传模拟退火算法优化的BP神经网络

在研究标准BP神经网络的基础上,针对其存在的收敛速度慢、且容易陷入局部极小值等问题进行分析,设计实现一种采用数值优化的方法来改进BP网络性能的新的混合神经网络模型.通过引入遗传模拟退火算法扩大了网络的权值更新空间,把得到最优权值赋予BP神经网络,从而使优化后的神经网络具有泛化性好,不易陷入局部极小值等优点.与标准BP神...     

Back-propagation with diversive curiosity: An automatic conversion from search stagnation to exploration

This paper proposes a novel approach, namely, the Back-propagation with diversive curiosity (DCPROP) algorithm, for solving the “flat spot” problem and for escaping from local minima. Representing the diversive curiosity, an internal indicator is designed for BP algorithm, which detects the phenomenon of being trapped in local minima and the occurrence of premature convergence. Upon such detection, the neural network is activated again to explore optimal solution in search space and escape form local minima by means of stochastic disturbance. The proposed DCPROP algorithm is implemented and applied to two well-known face recognition problems, and the results are compared with Standard Back-propagation (SBP).     

基于小波变换的双并联神经网络在混合气体浓度预测中的应用

BP神经网络在混合气体浓度预测中得到广泛应用。针对BP神经网络收敛速度慢的特点,提出了一种新的基于小波变换的并列隐层双并联神经网络结构,这种网络首先对输入数据进行二维离散小波变换,然后用双并联神经网络对变换后两组数据进行训练,确定神经网络的权值和阈值。实验结果证明,相对传统的BP及双并联神经网络,基于小波变换的双并联神经网络的收敛速度加快2～3倍;对混合气体浓度的预测精度也有明显提高。     

零代价函数的前馈神经网络新算法

文章提出一种全新的三层前馈神经网络算法,它比BP算法优越得多.新算法不再采用误差反向传播原理,而是选择一层自由权,通过求解线性方程组求得另一层待求权.新算法选择很广一类的隐层神经元函数,可以直接求得全局最小点,不存在BP算法的局部极小、收敛速度慢等问题.新算法较BP算法快得多.     

基于MPSO的BP网络及其在入侵检测中的应用

提出一种基于变异粒子群优化(MPSO)的BP网络学习算法,该算法用PSO算法替代了传统BP算法,且在学习过程中,引入变异操作,克服传统BP算法易陷入局部极小和PSO算法早熟的不足。并把该算法应用于入侵检测中,通过KDD99 CUP数据集分别对基于不同算法的BP神经网络进行了仿真实验比较,结果表明,该算法的收敛速度快,迭代次数较少,而且测试平均准确率高达96.5%。     

基于PSO-BP神经网络的股市预测模型

为解决股市短期预测中BP神经网络法对初始权值敏感、易陷入局部极小值和收敛速度慢等问题,基于全局随机优化思想的粒子群优化(PSO)算法,对BP神经网络的初始权值进行了优化,建立了PSO-BP神经网络股市预测模型.并通过实例分析与传统BP神经网络预测法进行对比,结果表明该方法收敛速度明显提高,有效降低了训练误差,避免了陷入局部极小值,达到了较高的预测精度,在股市短期预测中具一定的实用价值.     

一种基于模拟退火的自适应算法

针对常规BP算法收敛速度慢和易陷入局部极小的问题,文章提出了一种新的BP算法———SASSFBP算法。该算法根据训练中最近两个梯度的符号及其相对大小来动态地改变权步因子,提高了神经网络的收敛速度,并同时结合模拟退火算法来避免陷入局部极小。仿真实验结果表明:SASSFBP算法在收敛速度与运算精度,以及避免陷入局部极小的能力等方面均明显优于常规的BP算法。