支持向量回归的改进及其在QSAR中的应用

支持向量回归（SVR）存在诸多缺陷。本文基于均方误差（MSE）最小原则与留一法发展了自动筛选最优核函数与自变量的方法,对SVR进行了改进并构建了SVR的基本应用模型,该模型有效性在定量构效关系（QSAR）研究中得到验证。     

基于改进KPCA与混合核函数LSSVR的泥石流预测

针对引发泥石流灾害的多重影响因素而导致的预测维数灾难，以及最小二乘支持向量回归（least squares support vector regression， LSSVR）模型中选取单核函数而导致的模型训练性能部分缺陷的问题，提出了一种基于改进的核主成分分析（kernel principal component analysis， KPCA）与混合核函数LSSVR的泥石流灾害预测方法.首先，将影响泥石流发生的7种初始因子赋予权重，利用加权KPCA法筛选出3个主成分影响因子作为模型输入；然后，将局部核函数与全局核函数相结合，运用到LSSVR模型上，进行泥石流发生概率预测，以平衡样本学习能力与泛化能力，并使用果蝇优化算法（fruit fly optimization algorithm， FOA）更新模型的最优参数；最后，以磨子沟监测数据进行仿真验证.结果表明，该方法能够有效地降低维数灾难并提升预测模型精确度，在误差允许范围内预测出泥石流发生概率值及对应的预警等级，为相关决策部门提供一定的借鉴经验.     

基于组合核函数的径向基过程神经网络及其在示功图诊断中的应用

针对复杂时间信号动态模式分类问题,提出了一种基于局部核函数与全局核函数组合的径向基过程神经网络(RBFPNN)模型。考虑时间信号过程特征的多样性和复杂性,以及核函数对信号分布形态特征的局部与全局表征能力,通过将具有全局性质的多项式核函数与具有局部性质的高斯核函数进行线性叠加,构成组合核函数,以此建立一种新的径向基过程神经网络,从信息模型上改善RBFPNN对动态样本复杂过程特征的抽取和记忆性质,提高网络对时间信号特征的辨识能力。分析了基于RBFPNN的性质,建立了基于混沌遗传算法CGA的模型参数优化算法。以基于示功图的往复运动机械工作状态诊断为例,实际资料处理结果验证了模型和算法的有效性。     

利用组合核函数建立VSV系统回归预测模型

利用支持向量回归机(SVR)建立了飞机巡航阶段发动机可调静子叶片系统(VSV)的回归预测模型.在利用SVR进行建模时,核函数的选用尤为关键,核函数有局部核函数和全局核函数,利用单一核函数训练模型易出现过拟合或欠拟合问题.为解决核函数的选用难题,避免训练过程中出现模型过拟合或欠拟合问题,提出了组合核函数.通过对单一核函数的组合,组合核函数兼具全局核函数和局部核函数的优点.最后,利用粒子群算法(PSO)对模型进行参数寻优优化,结果表明:相较于单一核函数,采用组合核函数的模型训练时间更短,模型精度更高.     

基于核函数的PLS丁苯橡胶聚合转化率软测量

针对企业对丁苯橡胶聚合转化率需在线高精度预测的需求,考虑实际工况复杂性和偏最小二乘(PLS)算法非线性处理能力的不足,分别建立了引入单核和混合核函数的丁苯橡胶聚合转化率PLS预测模型。工业数据仿真结果表明:基于核的PLS模型均可满足企业生产对预测精度的要求,即聚合转化率预测绝对误差大于1.5的比例不大于样本总数的10%,尤其是混合核PLS因兼有局部和全局特性,表现出更优的性能。     

基于SVR与成分分解的轨道交通站点流量预测

轨道交通站点数据具有显著的非平稳性和时间尺度差异性,为了对其进行准确高效的预测,提出了基于SVR与成分分解的预测方法.采用模态分解对站点流量数据进行局部特征提取,成分分解结果由若干IMF和一个残差组成,能够降低特征提取过程中的局部极值干扰.在站点流量成分分解基础上设计了 SVR优化模型,利用SVR模型对数据的训练来实现结果预测.模型针对低维线性分解、预测精度和效率问题,依次引入了核函数,损失因子,及惩罚因子,并采用遗传算法对SVR优化模型的引入参数进行寻优.仿真分别对站点流量预测的准确性和效率进行性能分析,结果表明SVR优化模型能够有效处理轨道交通的小样本站点流量数据,基于SVR与成分分解能够显著提升站点流量预测的RMSE、MAE和MAPE指标性能,同时保持较低的预测耗时.     

基于扩展SMO求解核函数非正定的SVR模型算法

将求解SVC模型的算法运用到求解SVR模型中一般要SVR模型的核函数正定且满足Mercer条件,而实际应用中利用几何框架将SVC模型转换成相应的SVR模型时,通常无法保证经转换得到的SVR模型的核函数具有正定性,从而导致SVR模型不是凸规划模型而无法求解。为解决上述问题,本文提出了一种运用扩展的序列最小最优化方法(SMO)来求解基于非正定核的SVR模型,设计了算法中工作集的选择准则,解决了算法中如何选择工作集变量当前的最优值问题。由于该算法不要求核函数具有正定性,从而拓宽了SVR模型核函数的选择范围。实验表明,该算法对基于正定或非正定核的SVR模型都具有很好的泛化性能和回归精度,具有一定的理论意义和实用价值。     

增量支持向量机核函数的优化

支持向量机的核函数类型分为两类：局部核函数和全局核函数.局部核函数的值只受到相距很近数据点的影响,有很好的学习能力.全局核函数的值会受到距离较远数据点的影响,有很好的推广泛化能力.针对局部核函数学习能力良好但泛化能力差的缺点,提出一种结合局部核函数和全局核函数构造新联合函数的方法.实验结果表明,与局部核函数和全局核函数相比,新联合核函数有更好的预测能力,并且能够适应增量学习的过程.     

混合核函数稀疏LS-SVM软测量建模与应用

针对最小二乘支持向量机存在的稀疏性欠缺和单核函数局限性问题,本文提出一种基于混合核函数稀疏最小二乘支持向量机的软测量建模方法.该方法使用多项式核函数和RBF核函数线性加权构成混合核函数,兼顾最小二乘支持向量机的全局拟合能力与局部拟合能力,以矢量基学习作为稀疏解算法,改善最小二乘支持向量机的稀疏性,在精简模型结构的同时,避免冗余信息中的噪声过多的拟合到模型参数中,进而采用粒子群算法优化模型部分参数.将此方法分别应用于Mackey- Glasss混沌模型的时间序列预测和乙烯精馏塔塔釜乙烯浓度预测,应用结果表明该方法较最小二乘支持向量机、稀疏最小二乘支持向量机以及混合核最小二乘支持向量机具有更好的泛化效果和预报精度,兆示出其良好的应用潜力.     

基于混合核函数FOA-LSSVM的预测模型

支持向量机（SVM）的核函数类型和超参数对预测的精度有重要影响。由于局部核函数学习能力强、泛化性能弱,而全局核函数泛化性能强、学习能力弱的矛盾,通过综合两类核函数各自优点构造了基于全局多项式核和高斯核的混合核函数,并引入果蝇优化算法（FOA）对最小二乘支持向量机（LSSVM）参数进行全局寻优,提出了混合核函数FOA-LSSVM 预测模型。结果表明,该模型较传统方法在电力负荷预测精度上有了明显提高,预测结果科学可靠,在预测中具有良好的实际应用价值。     

基于一类局部固定核的支持向量回归建模

在考虑样本向量相似性的基础上,提出一种核函数--高斯余弦核,并证明了该核是一类局部固定核.局部固定核同时描述了样本全局和局部结构,因而高斯余弦核可将样本数据映射到信息描述更为丰富的特征空间.将该核用于Logistic混沌时间序列和煤气炉数据集的支持向量回归建模与预测,仿真结果表明所提出的方法能有效地提高预测精度,而且不增加算法的复杂度.     

基于核方法的非线性时间序列预测建模

提出了一种基于核的非线性时间序列预测建模方法。对非线性时间序列的相空间进行重构以确定其嵌入维数,并提出一种基于核主成分分析的非线性时间序列相空间重构方法,针对时间序列的时序特征,采用一种加权的支持向量回归模型对时间序列预测建模。在不同基准数据集上的实验结果表明,与通常的基于普通支持向量回归的建模方法相比,该文所提出的预测建模方法具有较高的精度,说明所提方法对非线性时间序列的预测建模是有效的。     

一种新的混合核函数支持向量机

针对单核函数支持向量机性能的局限性问题,提出将sigmoid核函数与高斯核函数组成一种新的混合核函数支持向量机.高斯核是典型的局部核;sigmoid核在神经网络中被证明具有良好的全局分类性能.新混合核函数结合二者的优点,其支持向量机的分类性能优于由单核函数构成的支持向量机,实验结果表明该方法的有效性.     

基于多蚁群算法的支持向量回归机参数选择方法

核函数是支持向量回归机的重要部分,每种核函数都有其优势和不足。本文基于支持向量机回归机模型相关参数的选取原则,给出了一种具有混合核函数的支持向量机,以基于网格搜索的多蚁群算法为基础,给出了此类混合核函数支持向量回归机参数优化的一种新方法。该方法以最小化交叉验证误差为目标,对包括混合比例和各类核函数的参数在内的5个参数进行优化。仿真结果表明,与遗传算法相比,本方法在参数优化方面有良好的性能,建立的预测模型精度较高。     

Parameter selection of support vector regression based on hybrid optimization algorithm and its application

Choosing optimal parameters for support vector regression （SVR） is an important step in SVR. design, which strongly affects the pefformance of SVR. In this paper, based on the analysis of influence of SVR parameters on generalization error, a new approach with two steps is proposed for selecting SVR parameters, First the kernel function and SVM parameters are optimized roughly through genetic algorithm, then the kernel parameter is finely adjusted by local linear search, This approach has been successfully applied to the prediction model of the sulfur content in hot metal. The experiment results show that the proposed approach can yield better generalization performance of SVR than other methods,     

Parameter selection of support vector regression based on hybrid optimization algorithm and its application

Choosing optimal parameters for support vector regression (SVR) is an important step in SVR design, which strongly affects the performance of SVR. In this paper, based on the analysis of influence of SVR parameters on generalization error, a new approach with two steps is proposed for selecting SVR parameters . First the kernel function and SVM parameters are optimized roughly through genetic algorithm, then the kernel parameter is finely adjusted by local linear search. This approach has been successfully applied to the prediction model of the sulfur content in hot metal. The experiment results show that the proposed approach can yield better generalization performance of SVR than other methods.     

组合核支持向量机的模式分析新方法

基于支持向量机核函数的条件,将Sobolev Hilbert空间的再生核函数和多项式核函数进行有效的线性组合,给出一种新的支持向量机的组合核函数,提出一种基于再生核的组合核函数支持向量机的模式分析方法,该方法兼具了全局核函数与局部核函数的优点,且算法的复杂度被降低。仿真实验结果表明：支持向量机的核函数采用基于再生核的组合核函数是可行的,且此核函数不仅具有核函数的非线性映射特征,而且也继承了核函数对非线性逐级精细逼近的特征,模式分析的效果比单核函数可以更加细腻。     

一种支持向量机的混合核函数

核函数是支持向量机的核心,不同的核函数将产生不同的分类效果.由于普通核函数各有其利弊,为了得到学习能力和泛化能力较强的核函数,根据核函数的基本性质,两个核函数之和仍然是核函数,将局部核函数和全局核函数线性组合构成新的核函数--混合核函数.该核函数吸取了局部核函数和全局核函数的优点.利用混合核函数进行流程企业供应链预测实验,仿真结果验证了该核函数的有效性和正确性.