Model selection for least squares support vector regressions based on small-world strategy

Model selection plays a key role in the application of support vector machine (SVM). In this paper, a method of model selection based on the small-world strategy is proposed for least squares support vector regression (LS-SVR). In this method, the model selection is treated as a single-objective global optimization problem in which generalization performance measure performs as fitness function. To get better optimization performance, the main idea of depending more heavily on dense local connections in small-world phenomenon is considered, and a new small-world optimization algorithm based on tabu search, called the tabu-based small-world optimization (TSWO), is proposed by employing tabu search to construct local search operator. Therefore, the hyper-parameters with best generalization performance can be chosen as the global optimum based on the powerful search ability of TSWO. Experiments on six complex multimodal functions are conducted, demonstrating that TSWO performs better in avoiding premature of the population in comparison with the genetic algorithm (GA) and particle swarm optimization (PSO). Moreover, the effectiveness of leave-one-out bound of LS-SVM on regression problems is tested on noisy sinc function and benchmark data sets, and the numerical results show that the model selection using TSWO can almost obtain smaller generalization errors than using GA and PSO with three generalization performance measures adopted.     

基于粒子群优化的最小二乘支持向量机税收预测模型研究

针对税收收入预测存在着非线性、不稳定性和多经济因素影响的复杂性,提出用最小二乘支持向量回归机的方法对广东省从化市的税收收入进行预测,并建立数学模型。由于模型中的参数C和σ²直接影响支持向量机的预测效果,因此巧妙地融合了粒子群优化算法的思想,采用粒子群算法对参数进行寻优来确保预测模型的精确性和稳定性。仿真实验结果表明,相对于各参比模型,用粒子群算法对参数进行寻优的最小二乘支持向量回归机的预测精度有了显著提高,从而说明了该模型的有效性和实用性。     

基于GEP的最小二乘支持向量机模型参数选择

针对最小二乘支持向量机的多参数寻优问题,提出了一种基于基因表达式编程的最小二乘支持向量机参数优选方法.该算法将最小二乘支持向量机参数(C,σ)样本作为GEP的基因,按其变异算子随着进化代数和染色体所含基因数目动态变化的机制执行,其收敛速度和精确度大大提高.并与基于粒子群算法和遗传算法参数优选方法比较,通过标准测试函数验证了该算法的拟合误差最低.最后用其建立氧化铝生产蒸发过程参数预测模型,应用工业生产数据进行验证,实验结果表明该方法有效且获得了满意的效果.     

广义粒子群优化模型

粒子群优化算法提出至今一直未能有效解决的离散及组合优化问题．针对这个问题,文中首先回顾了粒子群优化算法在整数规划问题的应用以及该算法的二进制离散优化模型,并分析了其缺陷．然后,基于传统算法的速度一位移更新操作,在分析粒子群优化机理的基础上提出了广义粒子群优化模型（GPSO）,使其适用于解决离散及组合优化问题．GPSO模型本质仍然符合粒子群优化机理,但是其粒子更新策略既可根据优化问题的特点设计,也可实现与已有方法的融合．该文以旅行商问题（TSP）为例,针对遗传算法（GA）解决该问题的成功经验,使用遗传操作作为GPSO模型中的更新算子,进一步提出基于遗传操作的粒子群优化模型,并以Inverover算子作为模型中具体的遗传操作设计了基于GPSO模型的TSP算法．与采用相同遗传操作的GA比较,基于GPSO模型的算法解的质量与收敛稳定性提高,同时计算费用显著降低．     

一种用于高光谱遥感影像分类的改进多类支持向量机

将支持向量机(SVM)用于高光谱遥感影像分类的研究,采用决策边界特征提取(DBFE)算法对高光谱影像进行维数约简,以径向基函数(RBF)作为SVM模型的核函数,把混沌优化搜索技术引入到PSO算法中,以基本PSO算法为主体流程,对种群中最好的粒子进行给定步数的混沌优化搜索,以改进基本PSO算法进化后期收敛速度慢、易陷入局部极小值的缺陷。利用改进的混合粒子群优化算法(PSO)来实现SVM模型参数的自动选择,继而构建了一种参数最优的粒子群优化支持向量机(PSO-SVM)多类分类模型。选用220波段的AVIRIS高光谱遥感影像进行了分类试验。结果表明,与采用基于留一法(LOO)网格搜索策略的传统SVM相比,改进后的PSO-SVM算法可以提高分类精度约8.8%。该方法对于小样本、非均衡条件下的遥感影像数据分类非常有效。     

基于GA-PSO的天基预警系统资源调度方法

为解决天基预警系统中的卫星资源调度问题,从预警任务特点出发,在对预警任务进行分解的基础上,建立了资源调度模型．结合传统遗传算法（GA）和粒子群算法（PSO）的优点,采用一种混合遗传粒子群（GA-PSO）算法来求解资源调度问题．该算法在解决粒子编解码问题的前提下,将遗传算法的遗传算子应用于粒子群算法,改善了粒子群算法的寻优能力．实验结果表明,提出的算法能有效解决多目标探测时天基预警系统的资源调度问题,调度结果优于传统粒子群算法和遗传算法．     

基于APSO-LSSVM的航空发动机轴承故障诊断及寿命预测

航空发动机轴承在高速、高温、高载荷等极端工况下易发生机械故障,为了提前预警,提出了一种基于自适应粒子群优化(Adaptive Particle Swarm Optimization, APSO)算法的最小二乘支持向量机(APSO Least Squares Support Vector Machine, APSO-LSSVM)对滑油系统中轴承磨屑进行在线监测的故障诊断及寿命预测。通过主成分分析法(Principal Components Analysis, PCA)对滑油磨屑信息进行降维处理,构建特征向量,并将特征向量输入APSO-LSSVM模型,对轴承故障状态进行分类并对轴承剩余寿命进行预测。结果表明：使用PCA可以保留数据样本99.9%的信息,同时还能极大地降低数据维度;与遗传算法(Genetic Algorithm, GA)、灰狼优化(Grey Wolf Optimization, GWO)算法、粒子群优化(Particle Swarm Optimization, PSO)算法的支持向量机相比,所提算法因采用了自适应调节粒子移动步幅,在进行轴承状态分类时准确率更高,分类正确率可达...     

基于混合的GA-PSO神经网络算法

粒子群优化(PSO)算法是一类随机全局优化的技术,它通过粒子间的相互作用发现复杂搜索空间中的最优区域。提出了一种基于GA和PSO混合的算法(GA-PSO)用于神经网络训练。算法在产生下一代时,结合了交叉、变异算子和粒子群算法中的速度—位移公式,充分利用了遗传算法的全局寻优和粒子群算法收敛速度快的优点。经GA-PSO训练的神经网络应用于三元奇偶问题和IRIS模式分类问题,与BP、GA和PSO算法相比,该算法在提高训练误差精度的同时加快收敛速度,并能有效避免早熟收敛。仿真结果表明,GA-PSO算法是有效的神经网络训练算法。     

微粒群优化算法在传感器非线性自校正中的应用

微粒群优化(PSO)算法是一种进化算法,包含的概念简单。介绍了不同于传统的传感器非线性校正方法,将PSO算法应用于传感器非线性校正的参数估计,并通过电涡流微位移传感器非线性校正进行PSO算法效果测试。实验研究表明:PSO算法简单、得到的传感器非线性校正曲线精度高。PSO算法为传感器的非线性校正提供了一种新方法。     

基于改进PSO算法的机器人路径规划及实验

针对粒子群优化（PSO）算法存在的优化精度低以及早熟的缺点,提出一种改进的PSO算法用于机器人路径规划．根据梯度下降法中变量沿负梯度方向变化的原则,提出了改进的粒子速度更新模型．为了提高粒子的搜寻效率及精度,增加了自适应粒子位置更新系数．引入ε贪心策略设计了改进的粒子群优化算法．在部分优化测试函数上的多次试验结果表明,所提算法较其他算法模型搜索精度至少提高2倍,收敛速度也有大幅度的提升．将所提算法和改进的DC-HPSO（动态聚类混合粒子群优化）算法应用于静态障碍物下的路径规划仿真和实际试验,结果表明所提模型具有高精度、高效率、高成功率的优点．     

考虑多种训练方式的自适应最有价值球员算法

最有价值球员算法（MVPA）是一种模拟体育比赛的新型智能优化算法,为解决其寻优精度低和收敛速度慢等问题，提出一种考虑多种训练方式的自适应最有价值球员算法（ACMTM-MVPA）。MVPA的初始化方式单一，随机性和盲目性强，降低了算法的收敛速度和寻求精度。为了增强初始化球员的水平，提高初始球队的整体实力，在MVPA的竞争阶段之前加入了训练阶段，并在训练阶段使用邻域搜索算法以及混沌序列和反向学习算法来训练和筛选球员；为了增强球员的自我探索能力以及向最佳球员学习的能力，使球员具有争夺最有价值球员奖杯的资格，在队伍竞争阶段加入了自适应的球员进化因子。对15个标准函数的测试结果表明，ACMTM-MVPA与MVPA、粒子群优化（PSO）算法和遗传算法（GA）相比，在寻优精度和收敛速度上更有优势。最后给出了ACMTM-MVPA在暴雨强度公式参数优化中的应用实例，结果显示，该算法法明显优于自适应光学优化算法、传统回归法与优选回归法。     

A comparative study of optimization algorithms for low NOx combustion modification at a coal-fired utility boiler

NOx emissions from power plants pose terrible threat to the surrounding environment. The aim of this work is to achieve low NOx emissions form a coal-fired utility boiler by using combustion optimization. Support vector regression (SVR) was proposed in the first stage to model the relation between NOx emissions and operational parameters of the utility boiler. The grid search method, by comparing with GA, was preferably chosen as the approach for the selection of SVR’s parameters. A mass of NOx emissions data from the utility boiler was employed to build the SVR model. The predicted NOx emissions from SVR model were in good agreement with the measured. In the second stage, two variants of ant colony optimization (ACO) as well as genetic algorithm (GA) and particle swarm optimization (PSO) were employed to find the optimum operating parameters to reduce the NOx emissions. The results show that the hybrid algorithm by combining SVR and optimization algorithms with the exception of PSO can effectively reduce NOx emissions of the coal-fired utility boiler below the legislation requirement of China. Comparison among various algorithms shows the performance of the well-designed ACO outperforms those of classical GA and PSO in terms of the quality of solution and the convergence rate.     

基于改进PSO和FCM的模糊辨识

为了提高T-S模糊模型的辨识精度和效率,本文提出了一种改进的粒子群算法和模糊C均值聚类算法相结合的模糊辨识新方法。在该方法中,针对粒子群算法在处理高维复杂函数时容易陷入局部极值的问题,提出了一种粒子群局部搜索和全局搜索动态调整的全新优化算法。模糊C均值聚类算法是模糊辨识最常用的方法之一,该算法简单,计算效率高,但是对初始化特别敏感,容易陷入局部最优。为了解决这一问题,利用改进粒子群算法的全局搜索能力优化聚类中心,显著地提高了算法的辨识精度和效率。最后,针对非线性系统进行建模仿真,仿真结果表明了本文方法的有效性和优越性。     

基于混合算法的降水集成预报研究

为进一步提高降水预报的准确性,针对预报产品的多样性及其预报结果的差异性,综合粒子群算法和遗传算法的优点,将基于粒子群算法和遗传算法的混合算法应用于降水集成预报。利用天津市气象局提供的实际测量数据,通过对各模式降水预报数据的筛选处理,结合基于粒子群算法和遗传算法的混合算法集成模型,实现了多种预报模式降水数据的集成处理,并与传统方法集成及单一粒子群算法和单一遗传算法集成进行了对比研究。实验表明,混合算法的集成结果优于传统集成方法及单一粒子群算法和单一遗传算法集成,并好于任意一个模式成员。     

粒子群优化的压缩跟踪算法

目的 针对基于压缩感知理论的跟踪算法跟踪效率不高和难以抗遮挡的问题,提出一种结合压缩感知和粒子群优化的跟踪算法。方法 将粒子群优化算法结合到压缩跟踪算法中,提出了采用粒子群优化的搜索方法替代在确定候选目标时,采用每隔一个像素选取一个候选目标的搜索策略;在目标发生遮挡时,采用粒子群优化的方法进行整幅图全局搜索。结果 20个视频序列数据库的目标跟踪结果表明,本文算法极大地提高了跟踪效率,并有很强的抗目标遮挡和形变的能力从而提高了跟踪的成功率。20个视频数据库进行了定量的分析,平均成功率达到了65.2%,平均中心位置偏差为33.4,平均每秒运行155.5帧。结论 提出的跟踪算法优化了搜索目标的计算次数,提高了算法的运行效率,当在目标发生遮挡时,采用粒子群优化进行全局搜索直到目标重新出现,从而提高了跟踪算法的跟踪成功率,本文算法能适用于不同场景,能够提高智能视频监控系统的智能监控性能。     

基于GEPSO模型的面向对象遥感图像分类

针对演化算法的寻优能力,提出了基于GEPSO(GEP Optimized by PSO)模型的面向对象遥感图像分类方法.先对遥感图像进行分割,选择特征集,然后利用GEPSO算法为每类图像对象构造一个类中心.构造类中心的过程先利用GEP搜索一个次优解,再根据这个次优解利用PSO搜索最优解.实验结果表明,基于GEPSO模型的面向对象遥感图像分类方法具有较高的分类精度.     

一种改进细菌觅食优化算法及其在软测量建模中的应用

针对软测量建模中模型参数的优化需求,在分析细菌觅食优化算法(BFOA)和粒子群优化(PSO)算法的基础上,将二者有机结合,提出了一种新型细菌觅食粒子群混合优化算法(BSOA)。该算法将PSO粒子移动的思想引入BFOA,有效解决了BFOA趋向性操作中细菌位置更新的盲目性。将其分别用于典型函数的寻优与成品油研究法辛烷值最小二乘支持向量机(LSSVM)模型参数的优化,仿真结果表明:该方法有效增强了算法的全局寻优能力与收敛速度,并在一定程度上改善了模型的预测精度与泛化能力。     

Bi-level programming enabled design of an intelligent maritime search and rescue system

This paper studies an intelligent maritime search and rescue (SAR) system problem. According to historical accidents and available SAR equipment information, a bi-level mixed-integer programming (MIP) model is proposed to determine the type and number of SAR equipment allocated to activated stations. Particle swarm optimization (PSO) algorithm and genetic algorithm (GA) algorithm are applied to solve the proposed mathematical model. Computational experiments based on real instances in the East Sea China not only validate the effectiveness of the bi-level MIP model in balancing two objectives during decision process, but also indicate that PSO algorithm is better than GA algorithm to solve the proposed model and generate reasonable equipment allocation plans. Some managerial implications are also outlined on the basis of the numerical experiments.     

A hybrid particle swarm–Nelder–Mead optimization method for crack detection in cantilever beams

The estimation of a crack location and depth in a cantilever beam is formulated as an optimization problem and the optimal location and depth are found by minimizing the cost function which is based on the difference of the first four measured and calculated natural frequencies. Calculated natural frequencies are obtained using a rotational spring model of the crack, and measured natural frequencies are obtained by using cracked beam frequency response and modal analysis. A hybrid particle swarm–Nelder–Mead (PS–NM) algorithm is used for estimating the crack location and depth. The hybrid PS–NM is made-up of a modified particle swarm optimization algorithm (PSO), aimed to identify the most promising areas, and a Nelder–Mead simplex algorithm (NM) for performing local search within these areas. The PS–NM results are compared with those obtained by the PSO, a hybrid genetic–Nelder–Mead algorithm (GA–NM) and a neural network (NN). The proposed PS–NM method outperforms other methods in terms of speed and accuracy. The average estimation errors for crack location and depth are (0.06%, 0%) for the PS–NM, however, (0.09%, 0%), (0.46%, 0.54%) and (0.39%, 1.66%) for the GA–NM, the PSO and the NN methods, respectively. To validate the proposed method and investigate the modeling and measurement errors some experimental results are also included. The average values of experimental location and depth estimation errors are (9.24%, 8.56%) for the PS–NM, but (9.64%, 9.50%), (10.89%, 10.89%), (11.53%, 11.64%) for the GA–NM, the PSO and the NN methods, respectively.     

改进PSO优化参数的LSSVM燃煤锅炉Nox排放预测

为了提高燃煤锅炉NOX排放浓度预测的准确度,更好地进行氮氧化物的污染监测,提出了一种结合最小二乘支持向量机(Least squares support vector machines,LSSVM)和改进的粒子群优化算法(Particle swarm optimization,PSO)的预测方法。依据LSSVM预测原理及其参数选择的不确定性,采用一种改进的PSO优化算法对模型参数进行寻优,建立锅炉燃烧NOX排放特性模型,并与另两种方法结果进行比较。结果表明:LSSVM是一种有效的建模方法,有较高的拟合度;改进的PSO与LSSVM结合可改善模型的预测精度和泛化能力,在NOX排放浓度预测方面明显优于其他两种参数优化算法,对NOX排放预测有指导意义。