支持向量回归超参数的混沌文化优化选择方法

支持向量回归超参数的选择会影响模型性能,常用的梯度下降选择方法要求核函数或估计函数近似可微,且对迭代初值具有较强依赖性.对此,给出一种两阶段参数优化选择方法.第1阶段根据问题实际需求,确定超参数的变化区域;第2阶段在确定的参数变化范围内,采用自适应混沌文化算法,寻找具有最优性能的超参数组合.面向Mackey-Glass时间序列预测的仿真结果表明,该参数选择方法对函数结构不具有依赖性,所得超参数对应的SVR模型具有较好的泛化性能.     

多输出数据依赖核支持向量回归快速学习算法

针对基于递推下降法的多输出支持向量回归算法在模型参数拟合过程中收敛速度慢、预测精度低的情况,使用一种基于秩2校正规则且具有二阶收敛速度的修正拟牛顿算法（BFGS）进行多输出支持向量回归算法的模型参数拟合,同时为了保证模型迭代过程中的下降量和全局收敛性,应用非精确线性搜索技术确定步长因子。通过分析支持向量机（SVM）中核函数的几何结构,构造数据依赖核函数替代传统核函数,生成多输出数据依赖核支持向量回归模型。将模型与基于梯度下降法、修正牛顿法拟合的多输出支持向量回归模型进行对比。实验结果表明,在200个样本下该算法的迭代时间为72.98 s,修正牛顿法的迭代时间为116.34 s,递推下降法的迭代时间为2065.22 s。所提算法能够减少模型迭代时间,具有更快的收敛速度。     

基于混沌粒子群优化SVR的网络流量预测

计算机网络流量预测对于网络流量的控制和调整,进而提高网络性能和服务质量起着重要的作用.当前传统计算机网络流量方法预测精度较低,仅为85%左右.针对网络流量的非线性和时变特性,难以准确实现网络流量评估,为了解决此问题,提出基于混沌粒子群优化SVR的网络流量预测方法.支持向量回归算法(SVR)是一种用于趋势预测的支持向量机模型,能找到全局最优解.然而,SVR参数的选择对回归模型优化起着决定性作用.采用混沌粒子群优化算法(CPSO)优化支持向量参数,通过建立混沌粒子群优化SVR的网络流量预测模型.仿真结果表明,混沌粒子群优化SVR网络流量预测模型能力强、效果好.     

辨识非线性MIMO系统的多输出ε-SVR模型研究

针对非线性多输入多输出(MIMO)系统的黑箱辨识问题,提出一种基于ε不敏感损失函数的多输出支持向量回归机(SVR)模型,并给出了偏置的有效求取算法.在一个优化问题中,该模型能最小化所有输出带正则项的结构风险总和,并能为不同输出选择不同的核函数及模型参数.将多输出SVR模型应用于非线性MIMO系统的辨识,仿真结果表明,该模型克服了传统支持向量回归机必须为每个输出单独建模这一缺陷,并能提升系统的整体辨识能力.     

基于PSO-SVR的下水道可燃气体分析

针对下水道可燃气体传感器非线性、选择性差和交叉敏感的特点,建立了一种基于粒子群算法(PSO)支持向量回归机(SVR)的下水道可燃气体分析预测模型.该模型通过引入粒子群算法对支持向量回归机的重要参数进行优化,从而实现了支持向量回归机的参数自动判定,用于下水道可燃气体的定量分析.仿真结果表明:基于粒子群的支持向量回归机下水道可燃气体分析预测模型优于SVR模型,具有较好的泛化性能和较高的预测精度.     

支持向量回归机在逆向选择合约模型量化分析中的应用

为解决激励合约理论的量化分析和实际应用问题,提出了基于支持向量回归机(SVR)的逆向选择合约模型的数值分析方法。利用SVR对效用函数建模,解决了效用函数无法用解析函数表达的问题。在此基础上,分别推导出了自然条件好与差两种情形下逆向选择模型的梯度表达式、代理人高效率类型和低效率类型的逆向选择模型的梯度表达式,并给出了相应的梯度法迭代算法。利用这一算法进行数值计算和量化分析,观察上述两种逆向选择模型中参数变化对合约均衡点变化趋势的影响。计算结果表明用基于SVR的数值分析方法定量分析激励合约模型是可行的。     

SVR参数对非线性函数拟合的影响

对基于径向基函数(RBF)的支持向量回归(SVR)模型参数的理论研究与实验论证结果表明,惩罚系数、不敏感损失函数的宽度以及核函数参数对非线性函数拟合精度均有影响,给出SVR参数的经验范围以减小人工选择SVR参数的盲目性,并通过缩小参数优化算法的搜索区间,降低算法的整体时间复杂度和空间复杂度。     

无偏置支持向量回归优化问题

为了研究偏置对支持向量回归(support vector regression,简称SVR)问题泛化性能的影响,首先提出了无偏置SVR(NBSVR)的优化问题及其对偶问题.推导出了NBSVR优化问题全局最优解的必要条件,然后证明了SVR的对偶问题只能得到NBSVR对偶问题的次优解.同时提出了NBSVR的有效集求解算法,并证明了它是线性收敛的.基于21个标准数据集的实验结果表明,在对偶问题解空间上,有偏置支持向量回归算法只能得到无偏置支持向量回归算法的次优解,NBSVR的均方根误差要低于SVR.NBSVR的训练时间不仅低于SVR,而且对核参数变化不太敏感.     

铁水硅含量的混沌粒子群支持向量机预报方法

提出一种基于混沌粒子群优化(CPSO)的支持向量回归机(SVR)参数优化算法, 并使用该算法建立高炉铁水硅含量预测模型(CPSO–SVR), 对某大型钢铁厂高炉铁水硅含量的实际采集数据进行预测, 结果表明基于混沌粒子群优化算法寻优的参数建立的铁水硅含量支持向量回归预测模型具有良好的预测效果. 与最小二乘支持向量回归机(LS–SVR)、使用粒子群优化算法训练的神经网络(PSO–NN)进行比较, CPSO–SVR模型对铁水硅含量进行预测时预测绝对误差小于0.03的样本数占总测试样本数的百分比达到90%以上, 预测效果明显优于PSO–NN, 且比LS–SVR稳定性更强, 可用于高炉铁水硅含量的实际预测, 表明混沌粒子群优化算法是选取SVR参数的有效方法.     

基于智能遗传算法与支持向量回归的人口预测

要建立一个有效的支持向量回归(SVR)模型,支持向量回归的3个参数C,!,"必须预先设定。提出一种新型的遗传算法——智能遗传算法(IGA)对支持向量回归进行参数调节,以达到寻找最优参数的目的,然后和支持向量回归结合得到一种新的IGASVR模型,并应用于城市人口预测。最后,将提出的方法与标准SVR模型和BP神经网络模型进行比较,所得结果表明,该模型训练速度快,并且有较高预测精度,是一种有效的人口预测方法。     

改进的FS算法选取支持向量回归机参数及应用*

针对支持向量回归机SVR的拟合精度和泛化能力取决于相关参数的选取,提出了基于改进FS算法的SVR参数选择方法,并应用于交通流预测的研究。FS(free search)算法是一种新的进化计算方法,提出基于相对密集度的灾变策略改进FS算法的个体初始位置选择机制,以扩大搜索空间,提高全局搜索能力。对实测交通流量进行滚动预测仿真实验,结果表明该方法优化SVR参数是有效、可行的,与经验估计法和遗传算法相比,得到的SVR模型具有更好的泛化性能和预测精度。     

支持向量回归参数的混合选择

为提高支持向量回归算法的学习能力和泛化性能，提出了一种优化支持向量回归参数的混合选择算法。根据训练样本的规模和噪声水平等信息，确定支持向量回归参数的取值范围，用实数编码的免疫遗传算法搜索最佳参数值。混合选择算法具有较高的精度和效率，在选择支持向量回归参数时，不必考虑模型的复杂度和变量维数。仿真实验结果表明，该算法是选择支持向量回归参数的有效方法，应用到函数逼近问题时具有优良的性能。     

一种分布式智能推荐系统的设计

为提高支持向量回归算法的学习能力和泛化性能,提出了一种优化支持向量回归参数的混合选择算法.根据训练样本的规模和噪声水平等信息,确定支持向量回归参数的取值范围,用实数编码的免疫遗传算法搜索最佳参数值.混合选择算法具有较高的精度和效率,在选择支持向量回归参数时,不必考虑模型的复杂度和变量维数.仿真实验结果表明,该算法是选择支持向量回归参数的有效方法,应用到函数逼近问题时具有优良的性能.     

多智能体粒子群优化的SVR 模型预测控制

参数的优化选择对支持向量回归机的预测精度和泛化能力影响显著,鉴于此,提出一种多智能体粒子群算法(MAPSO)寻优其参数的方法,并建立MAPSO支持向量回归模型,用于非线性系统的模型预测控制,推导出最优控制率.采用该算法对非线性系统进行仿真,并与基于粒子群算法、基于遗传算法优化支持向量回归机的模型预测控制方法和RBF神经网络的预测控制方法进行比较,结果表明,所提出的算法具有更好的控制性能,可以有效应用于非线性系统控制中.     

基于混沌搜索的模糊控制器参数最优设计

基于混沌变量，本文提出一种模糊控制器最优设计方案．离线优化采用混沌算法，将混沌因子引入到模糊控制器参数域的优化搜索中，用载波方式将优化变量转变成混沌变量，再利用混沌运动的遍历性和随机性直接寻优，得到模糊控制器参数的全局次优解．在线优化采用共轭梯度下降法，把混沌搜索后得到的全局次优值作为梯度下降搜索的初始值，实现混沌全局粗搜索和梯度下降局部细搜索相结合的优化目的，能很快找到模糊控制器参数的全局最优解．最后对算法的收敛性进行了证明．     

改进型支持向量回归预测模型的轧机轧制力预测

对轧机轧制力预测模型进行研究.使用人工鱼群优化算法对支持向量回归(SVR)参数选取进行最优的参数组合,将粒子群优化算法引入到常规人工鱼群算法中,并对其进行改进,提高了人工鱼群算法的性能.研究结果表明:Ekelund模型的轧制力计算结果误差较大,超过了10％,常规SVR预测模型的轧制力预测精度低于10％,而本文研究的改进SVR预测模型得到的轧制力误差低于5％,说明通过人工鱼群算法优化SVR算法模型的参数能够提高预测模型的预测精度,并且预测消耗时间在3种预测模型中是最短的.     

Parameter selection of support vector regression based on hybrid optimization algorithm and its application

Choosing optimal parameters for support vector regression (SVR) is an important step in SVR design, which strongly affects the performance of SVR. In this paper, based on the analysis of influence of SVR parameters on generalization error, a new approach with two steps is proposed for selecting SVR parameters . First the kernel function and SVM parameters are optimized roughly through genetic algorithm, then the kernel parameter is finely adjusted by local linear search. This approach has been successfully applied to the prediction model of the sulfur content in hot metal. The experiment results show that the proposed approach can yield better generalization performance of SVR than other methods.     

Parameter selection of support vector regression based on hybrid optimization algorithm and its application

Choosing optimal parameters for support vector regression （SVR） is an important step in SVR. design, which strongly affects the pefformance of SVR. In this paper, based on the analysis of influence of SVR parameters on generalization error, a new approach with two steps is proposed for selecting SVR parameters, First the kernel function and SVM parameters are optimized roughly through genetic algorithm, then the kernel parameter is finely adjusted by local linear search, This approach has been successfully applied to the prediction model of the sulfur content in hot metal. The experiment results show that the proposed approach can yield better generalization performance of SVR than other methods,     

多点随机搜索算法估计反应动力学参数

提出一种多点随机搜索算法，一方面它汲取随机搜索算法的优点以克服陷人局部最优点；另一方面它通过判断搜索过程目标函数变化趋势，从而能在响应曲面的下降方向上前进，加快寻优进程。与遗传算法相比较，多点随机搜索算法能以更快的速度找到全局最优解；与梯度下降算法相比较，它能以更高的概率找到全局最优解。本文将多点随机搜索算法应用于2-氯苯酚在超临界水中氧化反应动力学参数的估算，获得动力学模型对实验数据拟合的相对误差绝对值之和比文献报道降低了14．1％。     

Optimization of control parameters in genetic algorithms: A stochastic approach

This paper proposes a stochastic approach for optimization of control parameters ( probabilities of crossover and mutation ) in genetic algorithms ( GAs ) . The genetic search can be modelled as a controlled Markovian process, the transition of which depends on the control parameters. A stochastic optimization problem is formed for control of GA parameters, based on a given performance index of populations and analysed as a controlled Markovian process during the genetic search. The optimal values of control parameters can be found from a recursive estimation of control parameters, which is obtained by introducing a stochastic gradient of the performance index and using a stochastic approximation algorithm. The algorithm possesses the capability of finding the stochastic gradient and adapting the control parameters in the direction of descent. A non-stationary Markov model is developed to investigate asymptotic convergence properties of the proposed genetic algorithm. It is proved that the proposed genetic algorithm would asymptotically converge. Numerical results based on the classical functions are obtained to show the potential of the proposed algorithm.