一种克服粒子群早熟的混合优化算法

针对粒子群优化算法在寻优时容易出现早熟现象,提出在粒子群收敛停滞时,从种群中随机选择粒子进行共轭梯度法计算,通过引入共轭梯度算法计算的信息来影响粒子速度的更新,以保持群体的活性,从而打破群体信息陷入局部最优的状况.不同于传统的粒子群算法,该算法有机地结合了粒子群的全局搜索能力和共轭梯度法的强大局部搜索能力,从而在一定程度上有效地克服了粒子群早熟的缺点.仿真计算结果表明,该改进粒子群的方法对于不同维数的非线性函数具有很好的寻优效果.     

基于PSO和共轭梯度法的MIP路由优化方案

针对移动IP网络中三角路由算法效率不高,导致移动网络性能难以达到最优的问题,提出了一种基于PSO和共轭梯度法的移动IP路由优化方案。首先利用粒子来取代网络节点中的路由选择表,将IP网络和粒子群算法联系起来,研究将粒子群算法用于求解移动IP路由选择当中的最短路径,针对粒子群算法早熟收敛和局部搜索能力不足的缺陷,引入局部搜索能力强的共轭梯度算法对其进行优化,从而有效提高找出移动IP最短路由的速度;仿真结果表明了该算法的有效性。     

高维化工数据共轭粒子群算法处理

针对化工数据多为高维数据,而粒子群算法对求解高维优化问题易陷局部极值,提出将共轭方向法与粒子群算法相结合处理高维数据.当粒子群算法迭代了一定步数而陷入局部极值并得局部最优解χ*时,以χ*为初值,用共轭方向法对其求解,利用粒子群算法对低维优化问题的有效性,将得新的更优的当前最优解χ**,从而使算法跳出局部极值;在新极值的条件下,又用粒子群算法对原问题求解,如此反复直至结束.通过经典的测试函数对其测试,结果表明这一尝试是有效的.最后将算法用于SO2催化氧化反应动力学模型的非线性参数估计,获得满意效果.     

基于进食粒子群和共轭梯度的混合优化策略

传统粒子群算法初期搜索过程中,种群过快地向当前最优粒子飞行,易导致早熟收敛;而算法后期,粒子大量聚集,算法收敛速度慢。通过引入种群进食和二次飞行,提出一种全局性的进食粒子群算法(EPSO),使局部最优附近的粒子进食后快速飞离,以改善种群多样性。并将共轭梯度法(CG)与EPSO相结合形成一种混合优化策略,其中CG用于EPSO的局部搜索过程,以提高收敛速度和精度。利用高维标准测试函数进行寻优实验,并与近年文献方法进行对比,实验结果表明该算法能够克服局部最优的不足,同时继承了CG局部寻优精度高和收敛速度快的特点。     

新的全局-局部最优最小值粒子群优化算法

为了提高粒子群优化算法的收敛速度,克服陷入局部最优的缺点,在全局-局部最优粒子群优化算法的基础上,提出了一种新的改进粒子群优化算法——全局-局部最优最小值粒子群优化算法.该算法把惯性权重和学习因子分别通过结合全局和局部最优最小值来进行改写,速度更新公式也做了相应的简化.仿真实验表明该算法在收敛速度和寻优质量上都优于基于LDIW策略改进的粒子群算法和全局-局部最优粒子群算法.     

利用混沌搜索全局最优的一种混合算法

把共轭梯度法与混沌优化方法相结合，提出了一种混合优化算法，该算法能使共轭梯度法跳出局部最优，最终获得全局最优，算法的收敛性也进行证明，仿真表明算法是有效的。     

基于混合粒子群算法的烧结配料优化

在引入惩罚函数和对目标函数进行适当修改的前提下,充分利用粒子群优化算法的全局搜索能力和约束条件下共轭梯度法的局部搜索能力,设计了烧结配料优化算法．利用惩罚函数方法将约束条件优化问题转化为无约束条件优化问题,然后利用粒子群优化算法进行寻优．当群体最优信息陷入停滞时将目标函数进行适当变化,继续利用共轭梯度法进行寻优．计算结果表明,采用该方法能够在提高混合料中的有用成分、降低有害成分的前提下,更多地降低生产成本．     

嵌入共轭梯度法的混合蛙跳算法

针对基本蛙跳算法在处理复杂函数优化问题时求解精度低且易陷入局部最优的缺点,提出了一种嵌入共轭梯度法的混合蛙跳算法。该算法在基本蛙跳算法划分模因组的基础上引入共轭梯度法,由于基本蛙跳算法模因组的划分规则,使得排在最后的青蛙子群个体位置较差,严重影响着整个群体的寻优速度,因而选取排列在后面的一部分模因组使用共轭梯度法进行求解,这使得算法在进化中后期易跳出局部最优,提高了算法的收敛精度。所得混合蛙跳算法有效结合了基本蛙跳算法较强的全局搜索能力和共轭梯度法快速精确的局部搜索能力。数值实验结果表明,所提出的改进蛙跳算法较基本蛙跳算法具有更高的收敛精度,避免了陷入局部最优的缺点,且优化结果更加稳定。     

粒子带质量的粒子群算法

针对粒子群算法在陷入局部最优时难于跳出的缺陷提出了一种带有质量的粒子群算法。该算法受运动学原理启发,粒子位置的更新不仅受自身最优和种群最优的影响,还受到由粒子质量引起的梯度场的影响。当粒子群出现早熟现象时,用电磁学原理与动量守恒定理更新种群的最优位置,使群体能及时摆脱局部最优区域。仿真结果表明,该算法优化4种具有代表性的基准函数,无论是在优化精度方面还是在优化效率方面,均较以往提出的改进粒子群算法在性能上有所改进。     

基于共轭梯度法和Tent映射的拟态物理学算法

针对拟态物理学算法优化算法后期搜索精度差、陷入局部最优的问题,提出一种融合共轭梯度法和混沌扰动的改进拟态物理学算法。该算法是在拟态物理学算法后期难以精细搜寻时,采用高精度解析算法——共轭梯度法替代拟态物理学算法进行局部搜寻;在整个算法中加入混沌扰动,避免算法"早熟"。仿真结果表明该算法收敛速度快、精度高,在跳出局部最优解上有明显优势。因此该算法适应于高维的复杂函数的寻优。     

噪声对基于不同梯度算子的ICG算法的影响

反向合成梯度算法是一种基于局部指向性的反向合成图像对齐算法,能有效克服光照变化对匹配结果准确性的影响。局部指向性的计算在本质上是梯度的计算,可以用不同的梯度算子求解。该文采用4种梯度算子计算局部指向性,通过给输入图像和模板图像中加入噪声模拟实际图像,研究了噪声对基于4种梯度算子的反向合成梯度算法的影响。     

梯度算子对反向合成梯度算法的影响

反向合成梯度算法是一种基于局部指向性的反向合成图像对齐算法。与传统的反向合成图像对齐算法相比,该算法可有效地克服光照变化对匹配结果的影响[1]。由于局部指向性的计算在本质上是梯度的计算,而图像梯度的计算可以采用不同的梯度算子,因此采用4种不同的梯度算子（一阶差分算子,Roberts算子,Sobel算子和Prewitt算子）来计算局部指向性,并通过实验比较分析了4种梯度算子对反向合成梯度算法的影响。     

A new gradient based particle swarm optimization algorithm for accurate computation of global minimum

Stochastic optimization algorithms like genetic algorithms (GAs) and particle swarm optimization (PSO) algorithms perform global optimization but waste computational effort by doing a random search. On the other hand deterministic algorithms like gradient descent converge rapidly but may get stuck in local minima of multimodal functions. Thus, an approach that combines the strengths of stochastic and deterministic optimization schemes but avoids their weaknesses is of interest. This paper presents a new hybrid optimization algorithm that combines the PSO algorithm and gradient-based local search algorithms to achieve faster convergence and better accuracy of final solution without getting trapped in local minima. In the new gradient-based PSO algorithm, referred to as the GPSO algorithm, the PSO algorithm is used for global exploration and a gradient based scheme is used for accurate local exploration. The global minimum is located by a process of finding progressively better local minima. The GPSO algorithm avoids the use of inertial weights and constriction coefficients which can cause the PSO algorithm to converge to a local minimum if improperly chosen. The De Jong test suite of benchmark optimization problems was used to test the new algorithm and facilitate comparison with the classical PSO algorithm. The GPSO algorithm is compared to four different refinements of the PSO algorithm from the literature and shown to converge faster to a significantly more accurate final solution for a variety of benchmark test functions.     

边界局部搜索算法与应用

提出一种快速的边部检测算法,即边界局部搜索算法,并应用于冷轧带钢表面缺陷在线检测系统。它采用一种局部搜索的思想,在前一次搜索的基础上准确定位钢板边部,大大提高了算法的实现速度。对现场图像数据测试表明,边界局部搜索算法比传统的灰度梯度阈值算法的速度快 20200倍左右,并且检测的效果得到有效的提高。这种算法还可以用于其他图像边界的搜索。     

混沌梯度耦合优化算法及仿真研究

提出一种基于自适应混沌梯度下降的单目标耦合优化算法 .它采用变步长梯度下降法得到某个局部优化值 ,通过规则来判断其为局部极小值 ,然后利用一个由小到大变化的自适应尺度混沌遍历算法来获得一个更优值来代替局部极小值以跳出局部极小状态 ,全局优化值可以通过这种反复迭代来获得 .仿真结果表明 ,该算法能充分发挥梯度法寻优的快速性和混沌法寻优的全局搜索能力 ,有效地跳出局部极小 ,并快速找到最优值     

局部方向梯度幅值与相位差分的人脸识别算法

针对传统人脸识别算法在单训练样本下效果不佳,提出一种局部方向梯度幅值和相位差分相结合的方法（LDGMPD）,首先提取图像的梯度幅值与相位,梯度幅值图像与8个Kirsch模板卷积得到每个子邻域的8个边缘梯度值;然后对相位进行局部差分。局部方向梯度幅值与相位差分仅使用边缘梯度值与相位局部差分值中最大值的方向编码成一个二位八进制数,产生LDGMPD值。再选取结构对比信息对各LDGMPD人脸分块进行加权处理,提取人脸的LDGMPD直方图特征,最后利用最近邻分类器分类识别。在AR和CAS-PEAL-R1共享库上进行实验表明LDGMPD在单样本人脸识别具有较好的效果。     

基于EPSO-BP 的Elman 网络及其在飞行轨迹预测中的应用

针对BP 训练方式采用梯度法易导致局部收敛的不足, 提出一种融合进食粒子群算法(EPSO) 和梯度法的Elman 网络优化方法. 首先, 通过模拟鸟群进食行为得到一种EPSO 算法, 以改善标准PSO 的全局性能; 然后, 将EPSO 用于Elman 网络权值的全局优化, 同时将梯度法用于EPSO 的进食过程局部搜索, 以提高解的局部收敛性能; 最后, 将该网络优化方法用于飞行轨迹预测实验, 仿真结果表明了其有效性.

     

集合约束下多智能体系统分布式固定时间优化控制

本文研究一类具有状态约束的多智能体系统优化控制问题, 提出了一种具有固定时间收敛特性的分布式优化控制算法. 该控制算法由局部投影模块、一致性模块和梯度模块构成, 其中局部投影模块确保智能体的状态在固定时间内收敛到局部约束集合, 基于时变增益的一致性模块实现所有智能体的状态在固定时间内收敛到一致值, 基于时变增益的梯度模块实现智能体的状态在固定时间内收敛到最优解. 利用凸优化理论和固定时间李雅普诺夫理论, 分析了算法的固定时间收敛特性. 算法收敛时间的上界值不依赖系统的初始条件, 因而可以根据任务需求来预先设计收敛时间. 最后通过数值仿真验证了理论结果的有效性.     

用于二维源搜索的梯度自适应极值搜索算法

基于正弦扰动的二维源极值搜索算法存在着适应性差和快速性与准确性相互制约的缺点。针对这一问题,提出一种基于梯度估计的参数自适应极值搜索算法,该算法在传统极值搜索算法基础上,通过三个历史采样点估计当前区域的梯度,并依据当前区域梯度值自适应调整反馈增益参数。此外,利用平均值理论对所提算法进行了理论分析和收敛性证明。不同环境下的仿真对比表明本方法提高了源搜索效率和对复杂梯度环境的适应性。     

Simulated annealing and weight decay in adaptive learning: theSARPROP algorithm

A problem with gradient descent algorithms is that they can converge to poorly performing local minima. Global optimization algorithms address this problem, but at the cost of greatly increased training times. This work examines combining gradient descent with the global optimization technique of simulated annealing (SA). Simulated annealing in the form of noise and weight decay is added to resiliant backpropagation (RPROP), a powerful gradient descent algorithm for training feedforward neural networks. The resulting algorithm, SARPROP, is shown through various simulations not only to be able to escape local minima, but is also able to maintain, and often improve the training times of the RPROP algorithm. In addition, SARPROP may be used with a restart training phase which allows a more thorough search of the error surface and provides an automatic annealing schedule.