利用PSO-SA混合优化支持向量回归的径流预报模型研究

为了有效提高径流预报的准确度,提出一种有效的融合优化策略,采用基于粒子群和模拟退火算法相结合的混合方法同时优化支持向量回归核函数类型和内核参数,以此建立一种有效的混合优化支持向量回归径流预报模型。提出的方法为核函数选择和参数优化提供了一种有效途径。通过对广西柳州柳江径流实例分析,并与纯粹的支持向量回归模型对比,研究结果表明,该模型预测稳定,具有较高泛化性能和预测准确度,为径流预报提供了一种有效预测方法。     

一种改进的再生核支持向量机回归模型

基于支持向量机核函数的条件,将Sobolev Hilbert空间的再生核函数进行改进,给出一种新的支持向量机核函数,并提出一种改进的最小二乘再生核支持向量机的回归模型,该回归模型的参数被减少,且仿真实验结果表明：最小二乘支持向量机的核函数采用改进的再生核函数是可行的,改进后的再生核函数不仅具有核函数的非线性映射特征,而且也继承了该再生核函数对非线性逐级精细逼近的特征,回归的效果比一般的核函数更为细腻。     

混合核函数稀疏LS-SVM软测量建模与应用

针对最小二乘支持向量机存在的稀疏性欠缺和单核函数局限性问题,本文提出一种基于混合核函数稀疏最小二乘支持向量机的软测量建模方法.该方法使用多项式核函数和RBF核函数线性加权构成混合核函数,兼顾最小二乘支持向量机的全局拟合能力与局部拟合能力,以矢量基学习作为稀疏解算法,改善最小二乘支持向量机的稀疏性,在精简模型结构的同时,避免冗余信息中的噪声过多的拟合到模型参数中,进而采用粒子群算法优化模型部分参数.将此方法分别应用于Mackey- Glasss混沌模型的时间序列预测和乙烯精馏塔塔釜乙烯浓度预测,应用结果表明该方法较最小二乘支持向量机、稀疏最小二乘支持向量机以及混合核最小二乘支持向量机具有更好的泛化效果和预报精度,兆示出其良好的应用潜力.     

基于改进灰狼算法优化多核支持向量回归机及其应用

为更好发现数据中的复杂规律,避免核函数选择的盲目性和局部最优等非线性优化问题,本文提出一种基于改进灰狼算法优化多核支持向量回归机算法.首先,基于全局核函数和局部核函数构建多核支持向量机采油速度预测模型;其次,利用基于云模型和二次插值算法改进灰狼优化算法对核函数权值和参数的选取进行优化;最后,应用灰色关联分析理论确定采油速度影响因素集,并作为多核支持向量回归机预测模型的输入.与6种采油速度预测方法进行对比,所提方法具有较好的全局寻优能力和较高的预测率的优点.     

支持向量机的混合核函数参数优选方法

针对支持向量机中混合核函数参数的选取还没有一套完整的理论支撑,提出基于蚁群算法和循环交叉验证法的参数优选方法。以平均加权误差作为不同参数下支持向量机预测效果的评价指标,采用循环交叉验证法计算平均加权误差。采用蚁群算法来提高混合核函数参数优化效率,减少计算工作量。通过在某型飞机机体研制费用预测中的应用,显示基于最优参数下混合核函数的支持向量机的预测误差最小,表明该参数优选方法能够提高预测精度。     

回归型支持向量机的调节熵函数法

基于最优化理论中的ＫＫＴ 互补条件建立支持向量回归机的无约束不可微优化模型,并给出了一种有效的光滑近似解法———调节熵函数方法．该方法不需参数取值很大便可逼近问题的最优解,从而避免了一般熵函数法为了逼近精确解,参数取得过大而导致数值的溢出现象,为求解支持向量回归机提供了一条新途径．数值实验结果表明,回归型支持向量机的调节熵函数法改善了支持向量机的回归性能和效率．     

混合不完备数据的拓展高斯核-支持向量机分类方法

针对混合不完备数据集,提出一种基于邻域联系度距离拓展高斯核函数的支持向量机分类方法。首先,给出了基于邻域联系度距离拓展高斯核函数的定义;其次,给出基于二次函数逼近的支持向量机SMO训练算法和分类算法;最后,取多个UCI数据集进行了实验分析,通过与填充支持向量机、混合距离支持向量机和风险重构支持向量机分类方法进行比较,结果表明提出的分类方法在不对缺失值作任何处理、不改变支持向量机模型结构与约束条件的情况下,仍然获得了优异的分类效果。     

一种基于GA和支持向量机的车牌字符识别方法

以高斯核为其核函数的支持向量机在实际应用中表现出优良的学习性能,被广泛应用于模式分类中。支持向量机的识别性能对参数的选取是敏感的,惩罚因子C和核函数参数σ对支持向量机性能会产生重要的影响。针对高斯核支持向量机在车牌字符识别问题中的应用,提出了一种基于遗传算法的参数选择方法。首先确定合适的遗传算法适应度函数,然后利用遗传算法对支持向量机的参数进行优化,最后在各个识别子网中分别采用参数优化后的支持向量机对车牌字符进行识别。实验结果表明,该方法取得了令人满意的识别率。     

基于支持向量机的控制图模式识别

为了提高控制图模式识别效果，提出混合核函数支持向量机的模式识别方法。在模型构造中采用一对一多类分类支持向量机，并利用遗传算法优化混合核函数支持向量机参数。仿真和应用结果表明，混合核函数支持向量机对各种模式控制图的总体识别率，I型错判均优于单独核函数、概率神经网络和小波概率神经网络，且具有良好的泛化能力，适合生产现场实时在线工序质量控制。     

一种混合核函数SVM建模方法及其应用

为了提高模型的泛化能力和精度,提出了一种基于混合核函数的支持向量机(SVM)建模方法.所提出的混合核函数由径向基函数和多项式函数加权组合而成,克服了支持向量机模型中单个核函数的局限性.并利用量子粒子群算法(QPSO)对惩罚系数、核参数以及混合权重系数进行综合寻优,求取最优化参数组合,从而提高模型的精度.采用锌湿法冶炼净化过程现场数据对建模的方法进行了测试,结果表明,所提出的混合核函数支持向量机模型具有较好的泛化性能和预测精度,预测结果满足现场工艺生产的要求.     

改进的FS算法选取支持向量回归机参数及应用*

针对支持向量回归机SVR的拟合精度和泛化能力取决于相关参数的选取,提出了基于改进FS算法的SVR参数选择方法,并应用于交通流预测的研究。FS(free search)算法是一种新的进化计算方法,提出基于相对密集度的灾变策略改进FS算法的个体初始位置选择机制,以扩大搜索空间,提高全局搜索能力。对实测交通流量进行滚动预测仿真实验,结果表明该方法优化SVR参数是有效、可行的,与经验估计法和遗传算法相比,得到的SVR模型具有更好的泛化性能和预测精度。     

Parameter selection of support vector regression based on hybrid optimization algorithm and its application

Choosing optimal parameters for support vector regression （SVR） is an important step in SVR. design, which strongly affects the pefformance of SVR. In this paper, based on the analysis of influence of SVR parameters on generalization error, a new approach with two steps is proposed for selecting SVR parameters, First the kernel function and SVM parameters are optimized roughly through genetic algorithm, then the kernel parameter is finely adjusted by local linear search, This approach has been successfully applied to the prediction model of the sulfur content in hot metal. The experiment results show that the proposed approach can yield better generalization performance of SVR than other methods,     

Parameter selection of support vector regression based on hybrid optimization algorithm and its application

Choosing optimal parameters for support vector regression (SVR) is an important step in SVR design, which strongly affects the performance of SVR. In this paper, based on the analysis of influence of SVR parameters on generalization error, a new approach with two steps is proposed for selecting SVR parameters . First the kernel function and SVM parameters are optimized roughly through genetic algorithm, then the kernel parameter is finely adjusted by local linear search. This approach has been successfully applied to the prediction model of the sulfur content in hot metal. The experiment results show that the proposed approach can yield better generalization performance of SVR than other methods.     

多智能体粒子群优化的SVR 模型预测控制

参数的优化选择对支持向量回归机的预测精度和泛化能力影响显著,鉴于此,提出一种多智能体粒子群算法(MAPSO)寻优其参数的方法,并建立MAPSO支持向量回归模型,用于非线性系统的模型预测控制,推导出最优控制率.采用该算法对非线性系统进行仿真,并与基于粒子群算法、基于遗传算法优化支持向量回归机的模型预测控制方法和RBF神经网络的预测控制方法进行比较,结果表明,所提出的算法具有更好的控制性能,可以有效应用于非线性系统控制中.     

基于CS-SVR模型的短期风电功率预测

为了提高短期风电功率预测精度,提出一种布谷鸟搜索算法(Cuckoo Search Algorithm, CS)优化支持向量回归(Support Vector Regression, SVR)机的预测方法,该方法首先根据上截断点和下截断点对输入数据进行预处理,剔除异常数据,之后以输入数据中的风速、平均风速、风机状态等属性数据作为SVR算法模型的输入,以风电功率数据作为SVR算法模型的输出,建立短期风电功率的SVR预测模型,针对SVR算法存在难以选择最优参数的缺点,提出采用布谷鸟算法优化SVR参数的方法,建立短期风电功率的CS-SVR预测模型。通过与SVR、PSO-SVR预测模型进行了对比仿真实验,实验结果表明,CS-SVR预测模型具有较高的预测精度。     

Modeling NOx emissions from coal-fired utility boilers using support vector regression with ant colony optimization

Modeling NO_x emissions from coal fired utility boiler is critical to develop a predictive emissions monitoring system (PEMS) and to implement combustion optimization software package for low NO_x combustion. This paper presents an efficient NO_x emissions model based on support vector regression (SVR), and compares its performance with traditional modeling techniques, i.e., back propagation (BPNN) and generalized regression (GRNN) neural networks. A large number of NO_x emissions data from an actual power plant, was employed to train and validate the SVR model as well as two neural networks models. Moreover, an ant colony optimization (ACO) based technique was proposed to select the generalization parameter C and Gaussian kernel parameter γ. The focus is on the predictive accuracy and time response characteristics of the SVR model. Results show that ACO optimization algorithm can automatically obtain the optimal parameters, C and γ, of the SVR model with very high predictive accuracy. The predicted NO_x emissions from the SVR model, by comparing with the BPNN model, were in good agreement with those measured, and were comparable to those estimated from the GRNN model. Time response of establishing the optimum SVR model was in scale of minutes, which is suitable for on-line and real-time modeling NO_x emissions from coal-fired utility boilers.     

基于扩展SMO求解核函数非正定的SVR模型算法

将求解SVC模型的算法运用到求解SVR模型中一般要SVR模型的核函数正定且满足Mercer条件,而实际应用中利用几何框架将SVC模型转换成相应的SVR模型时,通常无法保证经转换得到的SVR模型的核函数具有正定性,从而导致SVR模型不是凸规划模型而无法求解。为解决上述问题,本文提出了一种运用扩展的序列最小最优化方法(SMO)来求解基于非正定核的SVR模型,设计了算法中工作集的选择准则,解决了算法中如何选择工作集变量当前的最优值问题。由于该算法不要求核函数具有正定性,从而拓宽了SVR模型核函数的选择范围。实验表明,该算法对基于正定或非正定核的SVR模型都具有很好的泛化性能和回归精度,具有一定的理论意义和实用价值。     

基于改进量子粒子群算法的支持向量机参数优化方法

支持向量机参数的选择对建模精度和泛化性能等有着重要的影响,提出量子粒子群优化(QPSO)改进算法优化支持向量机（SVM）参数的方法。该方法首先将混合扰动算子引入QPSO算法中,用于获取平均最优位置,建立一种基于混合扰动算子的QPSO算法改进方法（IQPSO）,然后用IQPSO算法的全局优化能力对支持向量机惩罚系数和核参数进行综合寻优,求取最优化参数组合,从而提高支持向量机的求解速度和解的精确性。利用测试函数和UCI测试数据,对IQPSO-SVM进行仿真测试与分类,实验结果表明,IQPSO能获得很好的优化结果,IQPSO-SVM具有较好的泛化性能。     

Using tabu search to configure support vector regression for effort estimation

Recent studies have reported that Support Vector Regression (SVR) has the potential as a technique for software development effort estimation. However, its prediction accuracy is heavily influenced by the setting of parameters that needs to be done when employing it. No general guidelines are available to select these parameters, whose choice also depends on the characteristics of the dataset being used. This motivated the work described in (Corazza et al. 2010), extended herein. In order to automatically select suitable SVR parameters we proposed an approach based on the use of the meta-heuristics Tabu Search (TS). We designed TS to search for the parameters of both the support vector algorithm and of the employed kernel function, namely RBF. We empirically assessed the effectiveness of the approach using different types of datasets (single and cross-company datasets, Web and not Web projects) from the PROMISE repository and from the Tukutuku database. A total of 21 datasets were employed to perform a 10-fold or a leave-one-out cross-validation, depending on the size of the dataset. Several benchmarks were taken into account to assess both the effectiveness of TS to set SVR parameters and the prediction accuracy of the proposed approach with respect to widely used effort estimation techniques. The use of TS allowed us to automatically obtain suitable parameters’ choices required to run SVR. Moreover, the combination of TS and SVR significantly outperformed all the other techniques. The proposed approach represents a suitable technique for software development effort estimation.     

基于核方法的非线性时间序列预测建模

提出了一种基于核的非线性时间序列预测建模方法。对非线性时间序列的相空间进行重构以确定其嵌入维数,并提出一种基于核主成分分析的非线性时间序列相空间重构方法,针对时间序列的时序特征,采用一种加权的支持向量回归模型对时间序列预测建模。在不同基准数据集上的实验结果表明,与通常的基于普通支持向量回归的建模方法相比,该文所提出的预测建模方法具有较高的精度,说明所提方法对非线性时间序列的预测建模是有效的。