SVM分类核函数及参数选择比较

支持向量机（SVM）被证实在分类领域性能良好,但其分类性能受到核函数及参数影响。讨论核函数及参数对SVM分类性能的影响,并运用交叉验证与网格搜索法进行参数优化选择,为SVM分类核函数及参数选择提供借鉴。     

基于SVM分类问题的核函数选择仿真研究

首先讨论支持向量机(SVM)的基本思想和实现过程,随后着重对SVM核函数进行探讨,从理论上研究常用核函数的选择优化问题。采用UCI数据库中的玻璃识别数据、菖蒲植物数据以及汽车评估数据分别对选择不同的核函数情况进行实验仿真分类和比较。仿真结果表明,同类数据选择不同核函数会产生不同的分类效果,选取合适的核函数对分类效果有很大的影响。     

基于KPCA组合核函数SVM的网络危险因素识别

本文在传统的支持向量机（SVM）分类算法中采用核主成分分析（KPCA）对网络数据进行特征抽取,将高维输入特征转化为新的低维特征;并对SVM的核函数进行改进,采用多项式核函数和径向基核函数混合的组合核函数,具有良好的学习能力和外推能力。最后在KDDCUP1999数据集上进行实验,证明了本文方法能够有效的减少学习样本数及训练时间,在网络危险因素识别中具有更高的检测率和更强的泛化能力。     

支持向量机在柴油机尾气分析中的核模型选择

研究支持向量机(SVM)中常用核函数及其参数对分类效果的影响.在此基础上,联系柴油机尾气数据,应用交又确认法(CV)得到在该数据集下拥有不同常用核函数的SVM的最优参数,及在最优参数下SVM的三个性能指标,即对训练集的交叉确认准确率、对测试集的分类准确率和寻优时间.对比各性能指标,结果表明:对于柴油机尾气数据,径向基核...     

基于MKL-SVM的网络购物评论分类方法

购物网站在线评论系统收集了大量的顾客评价。支持向量机（SVM）是一种有效的文本分类方法,可以用于跟踪和管理顾客意见,但是SVM存在训练收敛速度慢,分类精度难以提高等缺点。文章提出利用异质核函数性的不同特性,解决支持向量机（SVM）数据泛化学习能力弱的问题,提高SVM的分类精度,通过对顾客购物评论进行分类,解决购物网站海量顾客评论分析的问题,帮助企业及时进行顾客反馈,提升服务水平。     

Mixed KPCA结合纹理特征的SVM盐碱土信息提取

核函数是核主成分分析（Kernel Principal Component Analysis,KPCA）的核心,目前使用的核函数都是单一核函数。尝试通过将光谱角径向基核函数（Spectral Angle Radial Basis Function,SA-RBF）与RBF组合形成混合核函数。在研究中,利用基于该混合核函数的KPCA进行特征提取,将其光谱特征波段和纹理特征相结合用于盐碱土的SVM分类,将分类结果与其他SVM分类进行比较,结果表明：该方法优于其他SVM方法,能有效提取玛纳斯河流域绿洲区的盐碱土专题信息,分类精度是89.000%,kappa系数是0.876。     

基于感知器的SVM自学习模型

提出了一种基于感知器的SVM分类模型（PSVM）。该模型在对分类器的训练中,引入感知器分类思想,其先利用SVM的核函数进行核计算,判断其分类性能,分类正确则不作任何修改,反之则转化成感知器分类问题。实验结果表明该模型不但能提高SVM的分类性能,而且还可以降低SVM分类性能对核函数及参数选择的依赖。     

组合核函数SVM在特定领域文本分类中的应用

面向特定领域文本分类的实际应用,存在大量样本相互掺杂的现象,使其无法线性表述,在SVM中引入核函数可以有效地解决非线性分类的问题,而选择不同的核函数可以构造不同的SVM,其识别性能也不同,因此,选择合适的核函数及其参数优化成为SVM的关键.本文基于单核核函数的性质,对多项式核函数与径向基核函数进行线性加权,构建具有良好的泛化能力与良好的学习能力的组合核函数.仿真实验结果表明,在选择正确参数的情况下,组合核函数SVM的宏平均准确率、宏平均召回率及宏平均综合分类率都明显优于线性核、多项式核与径向基核,而且能够兼顾准确率与召回率.     

基于多个混合核函数的SVM决策树算法设计

不同的核函数具有不同的特性,SVM决策树中每个子SVM面对的分类对象不同,选取的核函数及其参数也应该不同。通过调节混合核函数的参数形成不同的核函数,给出了一个用多个混合核函数训练SVM决策树的多类分类算法。仿真试验表明,该算法与只用一个核函数训练SVM决策树的算法相比,具有较高的分类精度。     

基于KL散度的支持向量机方法及应用研究

针对ICA提取的说话人语音特征,导出以库尔贝克—莱布勒（KL）散度作为距离测度的KL核函数用来设计支持向量机,实现了一个高分辨率的ICA/SVM说话人确认系统.说话人确认的仿真实验结果表明,使用ICA特征基函数系数比直接使用语音数据训练SVM得到的分类间隔大,支持向量少,而且使用KL核函数的ICA/SVM系统确认的等差率也低于其它传统SVM方法,证明了基于KL散度的支持向量机方法在实现分类和判决上具有高效性能.     

偏置b对支持向量机分类问题泛化性能的影响

Poggio指出支持向量机(Support vector machine,SVM)中偏置b项是为了保证核函数的正定性,当使用的核函数为正定核时,b就不需要存在.为了验证b对SVM分类问题泛化性能的影响,研究了无bSVM的优化问题并给出了相应的有效集求解算法.通过XOR分类问题的实验研究得出约束条件 ∑1Nyiαi= 0 会影响SVM得到最佳分类超平面.实验中的基准数据集包括了中小数据集、大规模数据集、高维数据集和多类分类数据集,并使用高斯正定核和多项式正定核作为核函数.基于26个标准数据集的实验表明无bSVM在分类问题中的计算代价要低于SVM,泛化性能要好于SVM.参数敏感性测试表明无bSVM对代价参数变化不太敏感,这使得无bSVM能在较少的参数值对中得到最佳测试精度.     

小波包结合支持向量机的故障诊断方法

提出一种结合小波包分析（WPA）理论和支持向量机（SVM）分类器的机械故障诊断方法。该方法具有重复训练样本少,简单、直观的优点,具有很高的分类性能。利用获得的机械故障数据建立故障分类器,对不同测试集条件下的3种SVM核函数、SVM方法与神经网络方法的比较结果证明,基于小波包和支持向量机的故障诊断方法是机械故障诊断的发展方向。并对实验的最佳训练样本集进行讨论。     

基于动量粒子群的混合核SVM参数优化方法

支持向量机（SVM）可以很好地用来解决分类问题,参数优化尤其重要。混合核函数的引入,使得SVM又多了一个可调参数。针对该参数用人工或经验的方法获取具有局限性,采用动量粒子群（MPSO）对SVM基本参数、混合可调核参数进行综合寻优,来寻找最佳参数组合。通过UCI数据仿真,对比结果表明：所提优化方法能够快速有效地提取最佳参数组合,所得SVM性能明显提高,分类效果更好。     

Lagrange支持向量机算法应用研究

将SVM(support vector machine)分类的思想方法应用于个人信用评估.通过比较分析银行个人信用特征数据,设计了新的通用的银行个人信用特征数据.基于LSVM(Lagrange support vector machine)分类算法分析,将LSVM算法应用于个人信用评估,并与KNN(K-nearest neighbor)分类方法、OSU SVM3.0工具分类方法比较,实验结果表明:LSVM具有较好的分类预测能力,为个人信用评估提供了一个新的有效方法.     

支撑向量机在高光谱遥感图像分类中的应用

高光谱遥感图像具有维数高的特点,当样本较少时,利用传统的统计识别方法分类,分类精度低.可支撑向量机(SVM)能解决小样本、高维、非线性分类问题.采用归一化法对原始图像做预处理,再分析不同的SVM核函数对分类精度的影响;并把SVM与最小距离法,马氏距离法等的分类结果进行比较.结果表明SVM的核函数类型对分类正确率影响不大,其分类精度高于传统的统计识别方法.     

基于Matlab的支持向量机工具箱

介绍了基于MATLAB的支持向量机工具箱,详细说明了工具箱中用于支持向量分类和支持向量回归的函数.并通过两个具体的实例来说明利用SVM工具箱进行分类和回归方面的方法.     

GCPSO优化混合核SVM的地铁车站客流预测

地铁中站点客流量为地铁运营调度部门提供实时调度管理依据。将径向基核函数与多项式核函数线性组合,构建了混合核支持向量回归机（SVM）预测模型。采用基于黄金分割的混沌粒子群（GCPSO）对混合核SVM的参数进行寻优,得到最佳的参数组合。利用该混合核SVM预测广州地铁3号线站点短期客流量。结果表明,GCPSO优化的混合核SVM预测模型对地铁站点的短期客流的预测精度高,预测数据和实测数据拟合良好,相对误差较小,明显优于SVM其他三种预测方法及Elman神经网络预测方法。     

支持向量机分类器遥感图像分类研究

SVM分类器核函数的选择以及参数的设置直接影响系统的泛化能力和运行速度。引入交叉验证技术和栅格搜索技术,对径向基核、多项式核和Sigmoid核函数应用于图像多类别分类的性能进行理论推导、测试及分析,求得三种核函数应用于SVM分类器的性能,并证明了栅格搜索寻找最优参数的有效性。最后通过对TM 6波段BSQ格式遥感图像进行分类对比证明了SVM分类器核函数用于TM图像分类的可行性及高效性。     

基于混合核函数的SVM在文本自动分类的应用

核函数是SVM的关键技术,核函数的选择将影响着学习机器的学习能力和泛化能力。不同的核函数确定了不同的非线性变换和特征空间,选取不同核函数训练SVM就会得到不同的分类效果。本文提出了一种混合的核函数[1]Kmix=λKpoly+(1-λ)Krbf,从而兼并二项式核函数及径向基核函数的优势。实验证明选用混合核函数的支持向量机,与普通核函数构造的支持向量机的评估效果进行比较,混合核函数支持向量机具有较高的分类精度。     

基于支持向量机的高速公路事件检测算法

针对高速公路事件检测算法的重要性,从高速公路交通流的特点出发,根据事件检测的基本原理,对基于支持向量机的高速公路事件检测算法进行研究。设计了2个实验,在每个实验中分别设计了基于线性不可分支持向量机（SVM）、高斯径向基核函数、双曲线正切核函数的事件检测算法,以此验证算法是否有效。利用林智仁教授的Libsvm工具箱参数优化模块对各实验的惩罚参数C和核参数进行优化选择。仿真结果表明：针对不同的实验,选择合适的SVM模型和核函数,可获得比California算法更好的性能指标。