基于改进BP网络算法的故障诊断分析

介绍BP神经网络结构和学习方法,针对误差反向传播神经网络模型学习收敛速度慢、容易陷入局部极小点等缺点,本文对BP网络模型进行了改进。对原始数据采用非线性的归一化函数,提出一种更加有效的学习率改进算法,提高了网络的收敛速度,采用了一种新的权值及阈值初始化方法,以避免训练时误差陷入局部极小解,并对改进BP算法与传统的BP算法进行比较,验证了该算法的优越性。     

基于BP神经网络的医学图像分割新方法

对于医学图像而言,其分割结果的准确性对医生诊断病情并给出正确的治疗方案至关重要。应用传统的BP神经网络对医学图像进行分割,存在对初始权重值敏感、学习速率固定、收敛速度慢和易陷入局部极小值等问题。因此,提出了一种基于改进的粒子群优化算法的BP 神经网络的医学图像分割方法。首先,应用粒子群优化算法与BP神经网络的映射关系,通过粒子群强大的搜索功能找到最佳适应函数,使对应的BP神经网络的均方误差达到最小值,克服了BP 神经网络产生多个局部最小值的可能;其次,确定粒子的最佳位置后,在BP神经网络学习中获得最合理的权值和偏置值,以提高网络的收敛速度;最后,BP神经网络经反复训练后,获得最佳输出值,并计算阈值,通过阈值来分割图像区域。实验结果表明,利用改进的算法能够得到更清晰的图像分割效果,提高了图像的分割精度,对临床的诊断也具有重要参考意义。     

基于相对误差平方和的BP算法

考虑到在很多情况下，人们更关心预报模型的预报值与实际值的相对误差情况，从而该文采用实际输出与希望输出的相对误差的平方和作为目标函数，给出了一种基于相对误差平方和为最小的BP算法。考虑到网络的实际输出值介于0到1之间，该文对实际问题的理想输出值给出了一种规范化处理方法。通过大量算例检验证实，在基于相对误差平方和为检验标准前提下，利用该文所给算法求得的拟合值或预报结果要优于传统的基于绝对误差乎方和作为目标函数的BP算法所得结果。     

BP神经网络的一种稳健改进算法

本文借鉴统计中的稳健估计方法的思想，对ＢＰ网络构造了新的误差平方和函数，在新的误差平方和函数下的ＢＰ算法，使ＢＰ网络能较好地用于观测值存在“异常点”的情况。     

BP神经网络的联合优化算法

针对BP神经网络存在收敛速度慢、易陷入局部极小等缺陷,提出了一种自适应调节学习率和动态调整S型激励函数相结合的改进BP算法。该算法将学习率与误差函数相关联,再对每个隐单元和输出单元的激励函数的斜率进行自动调整。通过实例仿真,将改进算法与标准BP算法、加动量项法和自适应学习率法进行比较,来验证所提出方法的有效性。实验结果表明,联合优化的BP算法能有效加快网络的收敛过程,并具有较强的泛化能力。     

基于粒子群优化与BP算法的协同神经网络学习方法

针对标准BP算法易陷入局部极值及收敛速度慢等问题,提出一种基于粒子群优化与BP算法的协同神经网络学习方法。该方法在网络的学习过程中,同时利用PSO优化算法与BP算法进行最优网络权值的协同搜索,从而充分利用粒子群算法的全局搜索性及BP算法的反向传播特点。将该算法应用于4个复杂函数的拟合仿真,并与标准BP算法以及传统的粒子群优化BP神经网络算法进行比较。实验结果表明所提的协同算法的性能优于传统的BP网络优化算法。     

改进的BP算法在路面裂缝分类中的应用

针对传统BP神经网络训练速度慢,误差大且易陷入局部极小值的缺点,设计了一种改进的复合误差函数来代替传统的全局均方误差函数以提高其学习率,同时采用了改进的分层动态调整不同学习率的新BP神经网络对路面裂缝图片进行分类。实验结果表明,与传统方法相比,改进后的算法在检测精度和速度上有了明显的提高。     

一种基于元启发式策略的迭代自学习K-Means算法

类内误差平方和最小化的聚类准则求解是NP难问题,K-Means采用的迭代重定位方法本质上是一种局部搜索的爬山算法,因此聚类结果对初始代表点的选择非常敏感,只能保证局部最优.为此,引入元启发式策略,通过建立评估函数对K-Means初始代表点和目标函数之间的依赖关系进行近似,然后利用近似评估函数指导新的初始代表点的选择,构成一种迭代自学习框架下的K-Means算法.实验表明算法可以很好地克服K-Means对初始代表点的依赖性,获得较高质量的聚类结果.     

基于粒子群与BP混合算法的神经网络学习方法

针对标准BP算法收敛速度慢及易陷入局部极值等问题,提出一种基于粒子群优化与BP混合算法的神经网络学习方法。该方法在网络的训练过程中,同时利用粒子群算法与BP算法进行最优网络权值的搜索,从而既充分利用了粒子群算法的全局搜索性又较好地保持了BP算法本身的反向传播特点。将该混合学习算法应用于复杂函数的拟合仿真,并与标准BP算法以及传统的粒子群优化BP神经网络学习算法进行比较。实验结果表明所提的混合学习算法具有较高的收敛精度,且收敛速度更快。     

一种新型模拟退火神经网络及其应用

针对训练神经网络权值的BP算法容易陷于局部最小值点的问题,提出了带自适应冷却进度表的模拟退火算法与lowell算法构成新型混合算法,用该算法训练网络的权值。冷却进度表中主要参数是模拟退火算法的控制参数T的初值T0和T的衰减函数。把整个迭代过程划分为若干阶段,在每个阶段结束时,依据网络模型误差自适应地修正下阶段的T0（回火温度）、T的衰减函数中的参数和迭代步长初值。仿真结果表明,上述混合算法具有很强的全局和局部搜索能力,其性能优于BP算法;该算法在油田系统建模问题中的成功应用也表明了该方案的有效性。     

An analysis of noise in recurrent neural networks: convergence andgeneralization

Concerns the effect of noise on the performance of feedforward neural nets. We introduce and analyze various methods of injecting synaptic noise into dynamically driven recurrent nets during training. Theoretical results show that applying a controlled amount of noise during training may improve convergence and generalization performance. We analyze the effects of various noise parameters and predict that best overall performance can be achieved by injecting additive noise at each time step. Noise contributes a second-order gradient term to the error function which can be viewed as an anticipatory agent to aid convergence. This term appears to find promising regions of weight space in the beginning stages of training when the training error is large and should improve convergence on error surfaces with local minima. The first-order term is a regularization term that can improve generalization. Specifically, it can encourage internal representations where the state nodes operate in the saturated regions of the sigmoid discriminant function. While this effect can improve performance on automata inference problems with binary inputs and target outputs, it is unclear what effect it will have on other types of problems. To substantiate these predictions, we present simulations on learning the dual parity grammar from temporal strings for all noise models, and present simulations on learning a randomly generated six-state grammar using the predicted best noise model.     

基于鱼群算法的独立成分分析算法研究

独立成分分析（ICA）只需要知道源信号较少的先验知识（如统计独立性等）,仅由观测信号便能恢复出源信号的特性,因而得到了广泛应用。ICA的目的是寻找变换矩阵,使输出信号经变换后各成分之间尽可能的统计独立,其关键是建立一个目标函数,使得最大化（或最小化）目标函数的解便是所要找的变换矩阵。首次将人工鱼群算法（AFSA）与ICA相结合,提出了基于AFSA的独立成分分析算法。以负熵极大化作为目标函数,通过人工鱼的觅食,聚群和追尾行为,更新人工鱼的位置,得到全局最优解,从而得到分离矩阵。与自然梯度法相比,鱼群算法精度更高,收敛速度更快,仿真实验表明了将鱼群算法应用于独立成分分析的可行性和有效性。     

基于VB的遗传算法演示系统

对基于VB的遗传算法进行了演示实验,通过对四例实验函数的优化,证明了遗传算法具有良好的收敛性和稳定性。实验对遗传算法控制参数的选取范围进行了验证,对优化结果进行了分析,结果表明遗传算法控制参数的选择对目标函数的优化性能和收敛速度有很大影响。     

带调控机制和SVM的IGA的在人脸图像检索的应用

在目标图像未知的情况下,人脸图像检索具有特殊性。用户要在人脸图像库中找出符合某些特征的图像,比如找出与记忆吻合或者吻合度高的某个图像,这就要求问题的解必须是全局最优的,并且不允许丢失最优解。本文提出一种带调控机制和支持向量机的交互式遗传算法来防止最优解丢失,加速算法收敛,减轻用户疲劳从而改善和提高检索性能。     

An Optimal Control Strategy for Multi-UAVs Target Tracking and Cooperative Competition

An optimal control strategy of winner-take-all (WTA) model is proposed for target tracking and cooperative competition of multi-UAVs (unmanned aerial vehicles). In this model, firstly, based on the artificial potential field method, the artificial potential field function is improved and the fuzzy control decision is designed to realize the trajectory tracking of dynamic targets. Secondly, according to the finite-time convergence high-order differentiator, a double closed-loop UAV speed tracking the controller is designed to realize the speed control and tracking of the target tracking trajectory. Numerical simulation results show that the designed speed tracking controller has the advantages of fast tracking, high precision, strong stability and avoiding chattering. Finally, a cooperative competition scheme of multiple UAVs based on WTA is designed to find the minimum control energy from multiple UAVs and realize the optimal control strategy. Theoretical analysis and numerical simulation results show that the model has the fast convergence, high control accuracy, strong stability and good robustness.      

双Q网络学习的迁移强化学习算法

深度强化学习在训练过程中会探索大量环境样本,造成算法收敛时间过长,而重用或传输来自先前任务(源任务)学习的知识,对算法在新任务(目标任务)的学习具有提高算法收敛速度的潜力.为了提高算法学习效率,提出一种双Q网络学习的迁移强化学习算法,其基于actor-critic框架迁移源任务最优值函数的知识,使目标任务中值函数网络对策略作出更准确的评价,引导策略快速向最优策略方向更新.将该算法用于Open AI Gym以及在三维空间机械臂到达目标物位置的实验中,相比于常规深度强化学习算法取得了更好的效果,实验证明提出的双Q网络学习的迁移强化学习算法具有较快的收敛速度,并且在训练过程中算法探索更加稳定.     

无线传感器网络生存期优化体系研究

提出了系统设计全生命周期的网络生存期优化体系模型,该模型利用先验统计信息将不同的应用与优化算法统一起来,并以评估结果作为反馈调节网络使之达到网络生存期最大限度的优化;构建了一种优化体系的具体评估模型,利用网络能耗分布量化具体应用服务需求,使用网络能量分布度量网络服务能力,并通过量化结果计算网络能量浪费的上限;给出了一种网络密度调节方法,用以发现有利于生存期优化的网络密度分布规律,并对该方法的收敛性以及解的有效性进行了理论证明.模拟实验结果表明该评估模型和密度调节方法可以有效控制网络能耗分布,发现有利于延长网络生存期的密度规律,从而验证了网络生存期优化体系的有效性.     

多模态优化问题的邻域低密度个体差分进化算法

针对多模态优化问题(MultiModal Optimization Problems, MMOPs)的求解,提出了一种基于邻域低密度个体的差分进化算法.该算法在每一代,首先使用密度峰值聚类的方法求得每一个个体的密度,然后,将当前个体邻域范围内密度更低的个体作为变异算子的基向量,随着种群的进化,算法将会自动从探索阶段转化为收敛阶段,进而平衡算法的探索与收敛能力.将提出的算法应用于CEC2013多模态基准测试函数并进行仿真实验,结果表明本文算法在评价指标峰值比和稳定性上与其它基于差分进化的多模态优化算法相比具有明显的优势,并随着测试函数的维度与复杂性的增大,优势就更加明显,其性能优于许多现有的基于差分进化的多模态优化算法.     

机器人全局路径规划的混合蚁群系统算法

针对蚁群算法易陷入局部最优的缺点以及收敛速度与局部最优的矛盾,提出一种求解移动机器人全局路径规划的改进混合蚁群系统算法。该算法由两部分组成：Dijkstra算法用于规划出一条次优路径;进一步用改进的蚁群系统算法优化次优路径以获得最优路径。在改进的蚁群系统算法中,首先定义了一种新的启发信息函数来增加种群多样性;然后给出改进的交叉算子避免算法陷入局部最优,并进一步提高解的质量。仿真结果表明：所提出的算法与参考文献中的算法相比搜索效率更高,解的质量更好,性能更优。即使在障碍物复杂的环境中,对于多目标点问题,该算法仍能规划出较好的目标遍历路径,且用时时间较少。     

基于平滑技术和一维搜索的全局优化进化算法及其收敛性

为了解决全局优化算法中的一个难点--算法易于陷入局部极小点,设计了一个平滑函数,该函数可以消除一些局部极小点,而在包含最优点的部分,函数保持不变.这样,通过对此平滑函数的优化,局部极小点的数目就会在迭代过程中大量地减少,使算法更易找出全局极小点;根据平滑函数的性质,设计了一个新的杂交算子,此算子能自适应地产生优质的后代;利用平滑函数的性质,巧妙地将一维搜索技术用于算法的设计之中,从而使算法的速度大大提高;在此基础上,设计了一个解全局优化问题的新的高效进化算法,并且证明了其全局收敛性.最后的数值实验也表明新算法十分有效.