A meta optimisation analysis of particle swarm optimisation velocity update equations for watershed management learning

Particle swarm optimisation (PSO) is a general purpose optimisation algorithm used to address hard optimisation problems. The algorithm operates as a result of a number of particles converging on what is hoped to be the best solution. How the particles move through the problem space is therefore critical to the success of the algorithm. This study utilises meta optimisation to compare a number of velocity update equations to determine which features of each are of benefit to the algorithm. A number of hybrid velocity update equations are proposed based on other high performing velocity update equations. This research also presents a novel application of PSO to train a neural network function approximator to address the watershed management problem. It is found that the standard PSO with a linearly changing inertia, the proposed hybrid Attractive Repulsive PSO with avoidance of worst locations (AR PSOAWL) and Adaptive Velocity PSO (AV PSO) provide the best performance overall. The results presented in this paper also reveal that commonly used PSO parameters do not provide the best performance. Increasing and negative inertia values were found to perform better.     

融合隶属度函数的自适应惯性权重模式的粒子群优化算法

粒子群算法(Particle Swarm Optimization,PSO)的性能极大地依赖于其惯性权重参数的选择策略。当在一次迭代中更新粒子速度时,PSO忽略了粒子间的差异,在所有粒子上应用了相同的惯性权重。针对这一问题,提出一种自适应惯性权重的粒子群算法PSO-AIWA,有效合理地均衡PSO的全局搜索和局部搜索能力。根据当前粒子与全局最优粒子间的差异,算法可以通过基于粒子间距的隶属度函数动态调整粒子的惯性权重,使得每次迭代中,粒子可以根据当前状态在每个维度上的搜索空间内选择合适的惯性权重进行状态更新。在6种基准函数下进行了算法的性能测试,结果表明,与随机式惯性权重PSO算法与线性递减惯性权重PSO-LDIW算法相比,该算法可以获得更好的粒子分布和收敛性。     

Nonconvex/nonsmooth economic load dispatch using modified time‐varying particle swarm optimization

In this paper, a modified time‐varying particle swarm optimization (MTVPSO) is proposed for solving nonconvex economic load dispatch problems. It is a variant of the traditional particle swarm optimization (PSO) algorithm. In an MTVPSO, novel acceleration coefficients for cognitive and social components are presented as linear time‐varying parameters in the velocity update equation of the PSO algorithm. In the early stages of the optimization process, it improves the global search capability of particles and directs the global optima at the end stage. Additionally, a linearly decreased inertia weight is introduced in an MTVPSO, instead of a fixed constant value, which helps improve the diversity of the population. Through this modification mechanism in PSO, the proposed algorithm has a higher probability of avoiding local optima, and it is likely to find global optima more quickly. Six complex benchmark functions have been used to validate the effectiveness of the proposed algorithm. Furthermore, to demonstrate its efficiency, feasibility, and fastness, six different cases (3‐, 6‐, 13‐, 15‐, and 40‐unit systems and one large‐scale Korean power 140‐unit system) of the economic load dispatch problem are solved by an MTVPSO. The results of the proposed algorithm have been compared with state‐of‐the‐art algorithms. It was found that the proposed MTVPSO can deliver better results in terms of solution quality, convergence characteristics, and robustness.     

A modified particle swarm optimization with multiple subpopulations for multimodal function optimization problems

In this paper, a modified particle swarm optimization (PSO) algorithm is developed for solving multimodal function optimization problems. The difference between the proposed method and the general PSO is to split up the original single population into several subpopulations according to the order of particles. The best particle within each subpopulation is recorded and then applied into the velocity updating formula to replace the original global best particle in the whole population. To update all particles in each subpopulation, the modified velocity formula is utilized. Based on the idea of multiple subpopulations, for the multimodal function optimization the several optima including the global and local solutions may probably be found by these best particles separately. To show the efficiency of the proposed method, two kinds of function optimizations are provided, including a single modal function optimization and a complex multimodal function optimization. Simulation results will demonstrate the convergence behavior of particles by the number of iterations, and the global and local system solutions are solved by these best particles of subpopulations.     

基于自适应均值粒子群算法的SVM参数优化方法

针对传统粒子群算法(Particle Swarm Optimization,PSO)对支持向量机(Support Vector Machine,SVM)参数寻优时的低效问题,运用了自适应均值粒子群算法(Adaptive Mean Particle Swarm Optimization,MAPSO)对SVM参数进行优化(MAPSO-SVM算法).采用自适应策略,引入了余弦函数、非线性动态调整惯性因子,每次进化都根据种群中粒子的适应度值大小将粒子分为3个等级,对每个等级的粒子赋予相应的惯性因子,将PSO算法速度更新方程中的个体历史最优位置和全局最优位置用它们的线性组合代替.分别用SVM、PSO-SVM和MAPSO-SVM算法对UCI中不同数据集进行实验测试,结果表明MAPSO-SVM算法比SVM和PSO-SVM算法的分类效果更好,分类准确率比SVM和PSO-SVM算法分别平均提高了14.7290％和1.8347％,同时与PSO-SVM算法相比,算法的收敛精度和效率更高.     

基于粒子群优化算法的电力系统无功优化

针对粒子群优化算法在进化中随种群多样性降低易出现早熟收敛等问题,结合全局-局部最优模型,提出一种改进的全局-局部参数最优粒子群优化算法。利用全局-局部最优惯性权重及全局-局部最优加速度常数,简化速度更新方程,使算法性能得到改善。将该算法应用于电力系统无功优化中,仿真结果表明,网损平均值更低,寻优性能更好,优化的网损值集中在较小的区间。     

筛选和记忆相结合的粒子群算法*

针对粒子群算法优化高维复杂问题出现局部最优的缺陷,提出初始粒子筛选和最差粒子记忆相结合的粒子群算法。利用熵度量粒子分量分布的均匀性,只有各分量满足均匀性要求时,该粒子才被筛选为初始粒子,以控制粒子在解空间的分布。在速度更新过程中引入最差粒子,避免粒子重复搜索曾经找到的最差位置,以提高算法的搜索效率。根据粒子寻优的成功率动态调整权重,以有效平衡深度和广度搜索能力。用本文算法优化6个经典测试函数,与3种改进的PSO算法相比,本文提出的算法不仅可以平衡局部和全局的搜索能力,还可以提高算法的搜索效率和精度。     

基于高斯扰动和自然选择的改进粒子群优化算法

为了有效地平衡粒子群算法的全局与局部搜索性能,提出一种基于高斯扰动和自然选择的改进粒子群优化算法。该算法在采用简化粒子群优化算法的基础上,考虑到个体最优粒子间的相互影响,使用所有融入高斯扰动的个体最优的平均值代替每个粒子的个体最优值,并且借鉴自然选择中适者生存的进化机制提高算法优化性能;同时通过含有惯性权重停止阈值的自适应调节余弦函数递减策略来实现对惯性权重的非线性调整并采用异步变化调整策略来改善粒子的学习能力。仿真实验结果表明,所提算法在收敛速度和精度等方面均有提高,寻优性能优于近期文献中的几种改进的粒子群优化算法。     

On the improvements of the particle swarm optimization algorithm

Since a particle swarm optimization (PSO) algorithm uses a coordinated search to find the optimum solution, it has a better chance of finding the global solution. Despite this advantage, it is also observed that some parameters used in PSO may affect the solution significantly. Following this observation, this research tries to tune some of the parameters and to add mechanisms to the PSO algorithm in order to improve its robustness in finding the global solution. The main approaches include using uniform design to ensure uniform distribution of the initial particles in the design space, adding a mutation operation to increase the diversity of particles, decreasing the maximum velocity limitation and the velocity inertia automatically to balance the local and the global search efforts, reducing velocity when constraints are violated, and using Gaussian distribution based local searches to escape local minima. Besides these efforts, an algorithm is also developed to find multiple solutions in a single run. The results show that the overall effect of these approaches can yield better results for most test problems.     

基于粒距和动态区间的粒子群权值调整策略

由于标准粒子群优化(PSO)算法把惯性权值作为全局参数,因此很难适应复杂的非线性优化过程。针对这一问题,提出了一种基于粒距和动态区间的权值调整策略（PSSIW）,根据粒子的粒距大小在动态区间内选取不同的权值,并通过区间的动态变化来控制算法的收敛速度。设计了四种不同的动态区间,并采用三个常用的标准测试函数测试不同区间对算法性能的影响。通过与标准粒子群算法比较发现,该策略提高了算法摆脱局部极值的能力,是一种新型全局收敛粒子群算法。     

协同粒子群优化算法

为解决粒子群优化算法易陷入局部最优的问题,提出了两种新方法协同处理粒子群优化算法：对比平均适应度值差的粒子,用动态Zaslavskii混沌映射公式改进粒子惯性权重与速度矢量,在复杂多变的环境中逐步摆脱局部最优值,动态寻找全局最优值;对好于或等于适应度平均值的粒子,用动态非线性函数调整粒子惯性权重与速度矢量,在保存相对有利环境的基础上逐步向全局最优处收敛。两种方法相辅相成、动态协调,使两个动态种群相互协作、协同进化。实验表明该算法在多个标准测试函数下都超越了同类著名改进算法。     

基于动态P混沌与动态非线性的PSO算法

为解决粒子群优化算法易于陷入局部最优问题,提出2种方法并行改进惯性权重。对比平均值差的粒子,用所设计的动态P混沌映射公式调整惯性权重,在复杂多变的环境中逐步摆脱局部最优,动态寻找全局最优值。对好于或等于整体适应度平均值的粒子,用所提出的动态非线性方程调整惯性权重,在保存有利条件的基础上逐步向全局最优处收敛。2种方法前后相辅相成、动态协作。实验结果证实,该算法在不同情况下都超越了同类改进算法。     

粒子群优化算法中惯性权值调整的一种新策略

惯性权值的设置对粒子群优化（PSO）算法的性能起着关键作用,现有的基于惯性权值的改进算法提高了算法的性能,但都把惯性权值作为全局参数,很难控制算法的搜索能力。本文在充分分析惯性权值的关键作用基础上给出一种新的惯性权值调整策略及其相应的粒子群优化算法,使用不同的惯性权值更新同一代种群。测试结果表明,新算法提高了算算法的性能,并具有更快的收敛速度和跳出局部最优的能力。     

带粒子释放和速度限制的粒子群算法

针对粒子群算法存在的收敛性与多样性之间的矛盾,在惯性权重线性递减的基础上,提出了带粒子释放和速度限制的算法。用粒子释放来增加种群多样性,引导算法跳出局部最优;用速度限制来促使释放后的粒子快速收敛到全局最优,进而平衡粒子的释放速度和收敛速度,保证算法的收敛。通过五个测试函数的实验,证实了粒子释放和速度限制的综合应用显著提高了算法的寻优能力和收敛精度。     

基于种群多样性的自适应PSO算法求解VRPSPD问题

为有效求解逆向物流车辆路径(VRPSPD)模型,本文提出一种基于种群多样性的自适应PSO算法(SDAPSO)。在SDAPSO运行时,根据种群多样性,自适应地对种群中运行较差的粒子进行扰动操作,提升这些粒子向最优解收敛的能力;同时,对全局最优粒子进行概率扰动,以增加种群的多样性。标准检测函数的仿真结果表明SDAPSO算法是对基本PSO算法的有效改进。在对VRPSPD模型求解中,通过与其它粒子群算法相比,表明SDAPSO是求解该类问题的一种有效方法。     

一种动态调整惯性权重的粒子群优化算法

针对粒子收敛速度慢、搜索精度不高和算法性能在很大程度上依赖于参数的选取等缺点,提出了一种非线性指数惯性权重粒子群优化算法(Exponential Inertia Weight in Particle Swarm Optimization,EIW-PSO)。在每次迭代的过程中, 采用粒子最大适应值和最小适应值的指数函数来动态调整 算法中的惯性权重,更有利于算法在寻优过程中跳出局部最优;同时,引入随机因子以确保种群的多样性,使粒子更快地收敛到全局最优位置。为了验证该算法的寻优性能,通过8个基准测试函数将标准PSO、线性递减惯性权重LDIW-PSO、均值自适应惯性权重MAW-PSO在不同维度和种群规模下进行测试比较。实验结果表明,提出的EIW-PSO算法具有更快的收敛速度和更高的求解精度。     

改进正余弦算法优化特征选择及数据分类

针对传统正余弦算法（SCA）处理复杂优化问题时存在易得局部最优和收敛慢的不足,提出一种基于惯性权重与柯西混沌变异的改进正余弦算法IWCCSCA。首先设计了基于指数函数的曲线自适应振幅调整因子更新方法,用于均衡个体的全局搜索与局部开发能力;接着设计了自适应递减惯性权重更新机制,以改进个体位置更新方式,加快算法收敛;还设计了基于精英柯西混沌变异的个体扰动机制,以提升种群多样性,避免局部最优。利用8种基准函数寻优测试验证了IWCCSCA能够有效提升收敛速度和寻优精度。此外,将IWCCSCA应用于数据原始特征集中的特征子集选取问题,提出了基于IWCCSCA的特征选择算法IWCCSCA-FS。通过将正余弦函数的连续优化转换为特征选择的二进制优化,实现了个体位置与特征子集间的映射关系,以同步考虑特征选择量与分类准确率的适应度函数来评估候选解质量。UCI基准数据集的测试结果表明,IWCCSCA-FS算法可以有效选择最优特征子集,降低特征维度,提高数据分类准确率。     

基于群能量恒定的粒子群优化算法

针对标准粒子群优化(PSO)算法在寻优过程中容易出现早熟的情况,提出一种群能量恒定的粒子群优化(SEC-PSO)算法.算法根据粒子内能进行动态分群,对较优群体采取引入最差粒子的速度更新策略,对较差群体采取带有惩罚机制的速度更新策略,由其分担由于较优群体速度降低而产生的整群能量损失,从而有效地避免了PSO算法的早熟.典型优化问题的仿真结果表明,该算法具有较强的全局搜索能力和较快的收敛速度,优化性能得到显著的提高.     

基于距离的k最优粒子群优化算法

传统的粒子群优化算法（Particle Swarm Optimization,PSO）只考虑了最优粒子对整个进化过程的引导作用且在一次迭代中所有粒子采用相同的惯性权值。为了体现各粒子相对于已知最优解的差异,提出了一种基于距离度量的自适应（k,l）PSO算法。（k,l）PSO算法采用轮盘赌策略在k个最优的粒子中选择一个粒子作为全局最优粒子参与粒子的速度更新,同时,根据粒子间的平均距离l确定粒子与选中的最优粒子的距离,自适应调整粒子的惯性权值。通过基准测试函数对算法进行了实验,实验验证了（k,l）PSO算法的有效性。     

求解函数优化问题的改进布谷鸟搜索算法

在工程优化中,大多问题是连续优化问题,即函数优化问题。针对布谷鸟算法求解函数优化问题时存在的收敛速度慢、求解精度不高和易陷入局部最优等问题,文中提出非线性惯性权重对数递减和随机调整发现概率的布谷鸟搜索算法(Cuc-koo Search Algorithm with Logarithmic Decline of Nonlinear Inertial Weights and Random Adjustment Discovery Probability,DWCS)。首先,在布谷鸟寻窝的路径和位置更新公式中,设计一种随进化迭代次数非线性递减的惯性权重来改进鸟巢位置的更新方式,以协调布谷鸟算法的探索和开发能力;其次,引入随机调整发现概率代替固定值发现概率,使较大和较小的发现概率随机出现,从而有利于平衡算法的全局探索和局部开发能力,加快算法收敛速度,增加种群多样性;最后,分析对数递减参数和随机调整发现概率,选取对数递减最佳参数组合和随机调整发现概率的最佳取值范围,此时,函数的优化效果最好。与BA,CS,PSO,ICS算法相比,所提算法极大地提高了寻优精度,显著地减少了迭代次数,有效地提高了收敛速度和鲁棒性。在16个测试函数中,DWCS均能收敛到全局最优解,证明了DWCS在求解连续复杂函数优化问题上具有较强的竞争力。