基于粒子群与BP混合算法的神经网络学习方法

针对标准BP算法收敛速度慢及易陷入局部极值等问题,提出一种基于粒子群优化与BP混合算法的神经网络学习方法。该方法在网络的训练过程中,同时利用粒子群算法与BP算法进行最优网络权值的搜索,从而既充分利用了粒子群算法的全局搜索性又较好地保持了BP算法本身的反向传播特点。将该混合学习算法应用于复杂函数的拟合仿真,并与标准BP算法以及传统的粒子群优化BP神经网络学习算法进行比较。实验结果表明所提的混合学习算法具有较高的收敛精度,且收敛速度更快。     

改进混沌PSO算法的BP网络优化

提出了一种改进混沌粒子群算法(MCPSO)与BP算法的混合算法(MCPSO—BP),该算法综合了改进粒子群算法全局寻优的高效性,混沌算法局部搜索的遍历性和BP算法快速的局部搜索能力。仿真结果表明,MCPSO—BP算法网络结构简单,收敛速度快,并具有良好的逼近能力和泛化能力。     

一种自适应遗传BP神经网络模型研究及应用

如何更有效地提高神经网络的收敛速度和收敛质量。基于遗传算法的全局搜索和BP神经网络局部精确搜索的特性，提出一种自适应遗传BP神经网络模型，该模型的主要算法是先采用一种自适应遗传算法优化BP网络初始权重。而后再进行BP网络的训练过程。最后并研究如何利用该模型进行三级跳远成绩预测。实验结果表明该方法优于传统BP算法。有利于提高网络的收敛性以及学习能力，可在一定程度上提高三级跳远成绩预测的准确率，具有一定的实用价值。     

一种优化多层前向网络的IA-BP混合算法

该文针对免疫算法(IA)在优化较大规模的多层前向神经网络时收敛速度慢的缺点,给出了一种综合免疫算法和BP算法优点的IA-BP混合算法,它首先采用免疫算法进行全局搜索,然后调用BP算法进行局部搜索,从而加快收敛速度。实验结果表明该算法在训练较大规模的前向神经网络时性能要优于免疫算法和BP算法。     

基于改进AFSA算法的BP神经网络的研究

针对BP神经网络收敛速度慢、易陷入局部极小的缺点,提出将改进的人工鱼群算法与BP算法相结合的混合算法训练人工神经网络,建立了相应的优化训练模型及训练过程.通过基于生物免疫机制改进的人工鱼群算法优化训练多层前向神经网络,使神经网络对训练初值和参数要求不高,扩大了权值的搜索空间,提高了收敛速度和学习精度,有效地协调全局和局部搜索能力.仿真结果表明,该算法性能优于其它算法,具有均方误差值小,收敛速度快和计算精度高等特点,是一种更有效的神经网络训练算法.     

基于混合智能学习算法的函数优化研究

为了改善人工神经网络在优化计算中的一些缺陷和提高遗传算法的局部搜索能力及收敛性能,提出了一种混合智能学习算法,采用遗传算法和误差反向传播算法(BP算法)相结合,将BP算法以一个算子的形式插入到遗传算法中,以提高利用人工神经网络和遗传算法进行优化计算的搜索能力和收敛性能;通过对实例函数的优化计算,对插入BP算子的遗传算法和传统遗传算法的优化结果进行了比较分析,结果表明BP算子的插入对遗传算法的优化性能、收敛速度和收敛精度有较大改善.     

基于和声蚁群耦合算法的风电机组齿轮箱故障诊断

基于和声搜索和蚁群算法优化后的BP神经网络,提出一种风电机组齿轮箱故障诊断方法。将蚁群算法的信息素更新机制用于和声搜索算法中,提高和声搜索算法的收敛速度,并利用和声搜索算法的个体扰动策略和随机搜索机制改善蚁群算法过早收敛的问题。利用该方法对BP神经网络的权值和阈值进行优化,克服BP神经网络算法易陷入局部最优解的缺点,提高神经网络的训练效率和收敛速度。测试结果表明,该方法诊断结果正确且精度高,将经和声蚁群耦合算法优化后的BP神经网络用于风电机组齿轮箱故障诊断是有效的。     

基于PSO和BP复合算法的模糊神经网络控制器

为了克服单独应用粒子群算法（PSO）或BP算法训练模糊神经网络控制器参数时存在的缺陷,提出了一种训练模糊神经网络参数的PSO＋BP算法。该算法将二者相结合,即在PSO算法中加入一个BP算子,以充分利用PSO算法的全局寻优能力和BP算法的局部搜索能力,从而更有效地提高其收敛速度、训练效率和提高该模糊神经网络控制器的控制效果。最后的仿真实验结果验证了该基于PSO＋BP复合算法的模糊神经网络控制器的有效性和可行性。     

基于改进免疫克隆算法的BP网络权值优化

在简单分析了BP网络的缺陷以及应用遗传算法来优化网络权值存在的不足之后,采用了一种免疫克隆算法对BP网络的权值进行优化,并对算法的变异算子进行了改进,改进后的变异算子把高斯变异与柯西变异有效地结合在一起,兼顾了精确的局部搜索与大范围搜索的优点,在扩大算法搜索范围的同时也保证了算法搜索的精细度.仿真实验结果表明,改进后的免疫克隆算法不仅有效地提高了BP网络学习的速度,还很好地改善了算法收敛性能,克服了遗传算法收敛速度慢,易陷入局部极优的缺点,可以成功地应用于BP网络的权值优化.     

受粒子群和差分进化启发的人工蜂群算法

针对基本人工蜂群算法搜索策略探索能力强而开发能力弱的特点,受粒子群和差分进化思想的启发,提出了两种新的搜索策略：PSO-DE-PABC和PSO-DE-GABC。前者在随机个体附近产生新的候选位置以提高算法的多样性;后者在最优解附近产生新的候选位置以提高算法的收敛速度,并加入差分进化中的差异向量来增加种群的多样性。在此基础上,引入维度因子来控制算法的收敛速度,并且使用一种利用当前种群信息的侦查策略来增强算法的局部搜索能力。通过对10组标准测试函数的实验仿真并与基本ABC、GABC和ABC/best算法相比,结果表明PSO-DE-GABC和PSO-DE-PABC对数值优化具有更高的收敛速度和收敛精度。     

基于BP神经网络的SCL译码研究

现存极化码译码算法仍然遭受非常高的复杂度.针对此问题,提出一种基于BP神经网络的SCL译码算法,该算法通过离线收集数据来搭建并训练一个合适的BP神经网络;借助已完成训练的BP神经网络,通过在线操作来寻找列表大小L的最优初始值;在此基础上,通过设计一种改进的SCL译码算法来降低复杂度.实验结果表明,与现存算法相比,新算法在低信噪比下能够显著降低平均译码复杂度.     

基于BP神经网络的人脸检测AbaBoost算法

人脸检测在日常生产和应用非常重要。本文提出了一种基于BP神经网络的AdaBoost人脸检测算法。首先,使用BP神经网络代替YCbCr高斯模型建立肤色模型。同时,针对AdaBoost算法提出了一种新的权值更新方法。在权值更新中引入阈值与样本之间的距离。另外权重有一个边界值。最后,利用BP神经网络提取图像中的肤色候选区域,并采用改进的AdaBoost算法对图像中的人脸进行精确检测。实验结果表明,利用BP神经网络和改进的AdaBoost算法的新的解决方案比现有的方法具有更高的精度。     

结合白名单过滤和神经网络的工业控制网络入侵检测方法

工控网络异常中存在部分已知通信异常行为和部分未知通信异常行为,白名单方法能够有效地检测规则库内的已知异常行为,但对未知通信异常行为检测率低。为了在充分挖掘有效信息的基础上提升检测率,提出一种结合白名单过滤和神经网络无监督学习算法的入侵检测方法AMPSO-BP,并应用在管理网络与工业网络服务器间的路由器上。首先,利用白名单技术一次过滤不符合白名单规则库的通信行为;其次,通过神经网络无监督离线方式样本训练学习的结果二次过滤白名单信任通信行为中的异常通信。利用神经网络提升在信息不完备情况下的检测率,且根据神经网络检测结果不断完善白名单规则库,提高跨网异常通信检测率;利用自适应变异粒子群优化（AMPSO）算法作为BP神经网络的训练函数,在粒子群优化（PSO）算法基础上加入了自适应变异过程,避免了训练过程中过早陷入局部最优解。实验利用两组数据集训练和测试,实验结果表明,AMPSO-BP与白名单结合的检测方法比PSO-BP与白名单结合检测方法的准确率更高。     

A New Adaptive Backpropagation Algorithm Based on Lyapunov Stability Theory for Neural Networks

A new adaptive backpropagation (BP) algorithm based on Lyapunov stability theory for neural networks is developed in this paper. It is shown that the candidate of a Lyapunov function V(k) of the tracking error between the output of a neural network and the desired reference signal is chosen first, and the weights of the neural network are then updated, from the output layer to the input layer, in the sense that DeltaV(k)=V(k)-V(k-1)<0. The output tracking error can then asymptotically converge to zero according to Lyapunov stability theory. Unlike gradient-based BP training algorithms, the new Lyapunov adaptive BP algorithm in this paper is not used for searching the global minimum point along the cost-function surface in the weight space, but it is aimed at constructing an energy surface with a single global minimum point through the adaptive adjustment of the weights as the time goes to infinity. Although a neural network may have bounded input disturbances, the effects of the disturbances can be eliminated, and asymptotic error convergence can be obtained. The new Lyapunov adaptive BP algorithm is then applied to the design of an adaptive filter in the simulation example to show the fast error convergence and strong robustness with respect to large bounded input disturbances     

免疫优化神经网络对倒立摆的控制

人工免疫算法是基于生物免疫系统机理和特点发展而来的一种新型智能算法。针对BP神经网络传统训练算法的学习效率低、收敛速度慢且容易陷入局部最优等不足,采用免疫算法对BP神经网络权值进行优化,以实现对倒立摆的控制。实验结果表明,用免疫算法训练神经网络收敛速度快,并能有效避免陷入局部最优。优化后的神经网络能对实际的倒立摆装置进行控制,并取得了满意的效果。     

基于粒子群神经网络集成的肿瘤分型研究

针对肿瘤基表达谱样本少、维数高的特点,提出一种用于肿瘤分型的粒子群神经网络集成算法。根据相似性度量函数滤出分类无关基因,形成候选特征子集。采用基于灵敏度分析的BP神经网络模型作为基分类器,进一步剔除冗余基因。改进的粒子群优化算法全局搜索BP神经网络的权值和阈值。实验结果表明,该算法对肿瘤分型具有良好的识别率,且特征集合中仅包含54个特征基因。     

神经网络BP学习算法动力学分析

研究神经网络BP学习算法与微分动力系统的关系.指出BP学习算法的迭代式与相 应的微分动力系统数值解Euler方法在一定条件下等价,且二者在解的渐近性方面是一致的. 给出了神经网络BP学习算法与相应的微分动力系统解的存在性、唯一性定理和微分动力系统 的零解稳定性定理.从理论上证明了神经网络的学习在一定条件下与微分动力系统的数值方法 所得的数值解在渐近意义下是等价的,从而借助于微分动力系统的数值方法可以解决神经网络 的学习问题.最后给出了用改进Euler方法训练BP网的例子.     

基于遗传神经网络的图像分割

提出一种基于遗传神经网络的图像分割方法.该方法利用遗传算法对BP神经网络的权值和阈值进行优化,设计出误差最小的神经网络,然后用神经网络算法迭代实现图像的分割.通过实验证明:该方法与传统的图像分割方法相比,具有更好的图像分割效果;与BP神经网络相比,训练速度得到很大的提高.     

一种基于BP神经网络的数字识别新方法

针对标准BP神经网络收敛速度慢、易陷入局部极小点的缺点,提出了一种新的BP神经网络改进算法。该算法通过变步长法和牛顿法来改进BP算法,加快了网络的收敛速度,且收敛速度快于其他的改进算法。在此基础上将BP神经网络应用于数字识别中,为其网络建立识别模型。利用仿真实验观察BP网络的泛化能力以及识别准确性,比较BP算法及其改进方案,提出改进方案中分别需要注意的地方。     

基于MPSO的BP网络及其在入侵检测中的应用

提出一种基于变异粒子群优化(MPSO)的BP网络学习算法,该算法用PSO算法替代了传统BP算法,且在学习过程中,引入变异操作,克服传统BP算法易陷入局部极小和PSO算法早熟的不足。并把该算法应用于入侵检测中,通过KDD99 CUP数据集分别对基于不同算法的BP神经网络进行了仿真实验比较,结果表明,该算法的收敛速度快,迭代次数较少,而且测试平均准确率高达96.5%。