基于正交多项式核函数方法

针对实际工程中小样本数据的稀疏性、分布特征不明显等问题,分析了现有的一些方法并指出了现有方法存在的问题,重点讨论了一类基于切比雪夫多项式的核方法.由于切比雪夫多项式的正交性,使得这些核函数在高维特征空间能得到更优的超平面.通过实验测试了这一类核函数的泛化性能以及学习效率.证明它们比其它的核函数需要更少的支持向量并能保证更好的学习性能.最后论文讨论了这类核函数方法存在的问题,并指出切比雪夫多项式核函数在解决小样本回归问题时具有很大的潜力,值得进一步研究     

基于尺度核函数的最小二乘支持向量机

支持向量机的核函数一直是影响其学习效果的重要因素.本文基于小波分解理论和支持向量机核函数的条件,提出一种多维允许支持向量尺度核函数.该核函数不仅具有平移正交性,且可以以其正交性逼近二次可积空间上的任意曲线,从而提升支持向量机的泛化性能.在尺度函数作为支持向量核函数的基础之上,提出基于尺度核函数的最小二乘支持向量机(LS-SSVM).实验结果表明,LS-SSVM在同等条件下比传统支持向量机的学习精度更高,因而更适用于复杂函数的学习问题.     

一类改进的埃尔米特核函数

核函数及其参数的选择是决定支持向量机(support vector machine,SVM)分类性能的关键。基于埃尔米特多项式,利用三角核函数构造并证明了一类改进的埃尔米特核函数——三角埃尔米特核函数。该类核函数含两个核参数,其中一个核参数可由样本点到样本均值的距离简单确定,而另一个核参数仅在自然数集中选取,从而简化了该类核函数的参数优化。在双螺线数据集、棋盘格数据集及7个UCI数据集上的实验表明,该类核函数比常见的多项式核函数、高斯核函数及文献[6]提出的埃尔米特核函数有着更好的泛化性能和鲁棒性。     

混合核函数稀疏LS-SVM软测量建模与应用

针对最小二乘支持向量机存在的稀疏性欠缺和单核函数局限性问题,本文提出一种基于混合核函数稀疏最小二乘支持向量机的软测量建模方法.该方法使用多项式核函数和RBF核函数线性加权构成混合核函数,兼顾最小二乘支持向量机的全局拟合能力与局部拟合能力,以矢量基学习作为稀疏解算法,改善最小二乘支持向量机的稀疏性,在精简模型结构的同时,避免冗余信息中的噪声过多的拟合到模型参数中,进而采用粒子群算法优化模型部分参数.将此方法分别应用于Mackey- Glasss混沌模型的时间序列预测和乙烯精馏塔塔釜乙烯浓度预测,应用结果表明该方法较最小二乘支持向量机、稀疏最小二乘支持向量机以及混合核最小二乘支持向量机具有更好的泛化效果和预报精度,兆示出其良好的应用潜力.     

基于混合核函数FOA-LSSVM的预测模型

支持向量机（SVM）的核函数类型和超参数对预测的精度有重要影响。由于局部核函数学习能力强、泛化性能弱,而全局核函数泛化性能强、学习能力弱的矛盾,通过综合两类核函数各自优点构造了基于全局多项式核和高斯核的混合核函数,并引入果蝇优化算法（FOA）对最小二乘支持向量机（LSSVM）参数进行全局寻优,提出了混合核函数FOA-LSSVM 预测模型。结果表明,该模型较传统方法在电力负荷预测精度上有了明显提高,预测结果科学可靠,在预测中具有良好的实际应用价值。     

超核函数支持向量机

支持向量机是当前机器学习、模式识别和数据挖掘等领域的重要学习方法,核函数的构造是研究和应用支持向量机的关键问题.针对这一问题,提出了核函数构造的组合理论,定义了超核函数概念,并通过多项式组合现有核函数构造出一类超核函数.具体地,首先分析了一般核函数存在的过学习和欠学习现象,然后证明了组合理论构造的核函数的Mercer性质,并通过在仿真数据集和标准数据集上的对比实验,验证了超核函数的性能.理论分析和实验结果阐明了所提出的超核函数组合构造理论的合理性和有效性,开拓了模型选择组合方法的研究途径.     

提升小波支持向量机在交通流量预测中的应用*

采用提升小波方法构造出一种满足双正交的小波函数,并将这种小波函数作为支持向量机的核函数;此外,用线性规划问题来代替二次规划问题及稀疏正则化,本质上确保了解的稀疏性.基于提升小波构造出提升小波支持向量机模型,并将其用于交通流量的预测中.仿真实验表明该模型具有良好的预测能力和泛化能力.     

基于多种核函数的SVM在垃圾邮件过滤中的应用

采用TF-IDF和Bernoulli两种模型构造邮件向量,首先详细测试了CHI降维策略对线性支持向量机进行邮件分类的影响。将基于核函数的支持向量机引入到垃圾邮件过滤中,对基于线性核、多项式核和径向基核的支持向量机在邮件分类中的准确率和训练时间进行了比较,分析了训练样本不平衡对分类的影响,并从理论上对实验结果进行了分析,实验结果证明基于径向基核函数的SVM分类器对垃圾邮件有较好的过滤效果。     

基于特征可分性的核函数自适应构造

核函数的选择与构造是支撑向量机研究中的关键问题和难点.该文针对该问题,首先讨论了特征空间的线性可分性,推导了其判别条件.然后,根据特征完全可分条件,基于函数逼近论和核函数的基本性质,提出了自适应多项式核函数和B-样条核函数模型,给出了模型参数的估计算法.实测数据仿真实验结果表明,与经典的核函数相比,该文提出的算法在分类性能上取得了明显改善.     

最小二乘Littlewood-Paley小波支持向量机

基于小波分解理论和支持向量机核函数的条件，提出了一种多维允许支持向量核函数——Littlewood-Paley小波核函数．该核函数不仅具有平移正交性，而且可以以其正交性逼近二次可积空间上的任意曲线，从而提升了支持向量机的泛化性能．在Littlewood-Paley小波函数作为支持向量核函数的基础上，提出了最小二乘Littlewood-Paley小波支持向量机(LS-LPWSVM)．实验结果表明，LS-LPWSVM在同等条件下比最小二乘支持向量机的学习精度要高，因而更适用于复杂函数的学习问题．