基于二叉树的SVM多类分类算法

在介绍了几种常用的支持向量机的多类分类方法及分析其存在的问题和缺点的基础上利用类均值距离思想提出了一种新的基于二叉树的多类SVM分类方法.     

PSVM多类分类及其应用

近似支持向量机(PSVM)在支持向量机(SVM)的基础上,变不等式约束为等式约束,只需求解一组线性等式,避免了求解二次规划问题,使得算法更快、更简洁,在两类分类问题中取得较好应用.探讨了3种基于两类PSVM的多类分类方法,在标准数据集上进行了验证,并与标准SVM的结果进行了比较,结论表明3种PSVM多类分类方法能取得较好的分类性能.     

基于复合核支持向量回归机的多类分类算法

针对传统支持向量机(SVM)在解决多类分类问题时需要训练多个分类器、存在不可分区域等问题,研究了基于支持向量回归机的多类分类算法。利用回归思想求解多类分类问题,将分类样本作为回归输入,样本的类别标识作为回归输出,通过支持向量回归机训练拟合出各样本与其类别标识之间的函数关系。将待分类样本代入回归函数,对其输出取整后即可得到样本类别。该算法仅使用1个分类器,明显简化了分类过程。另外,引入复合核函数来提高支持向量回归机的性能。采用加州大学欧文分校(UCI)例题库中的多类分类问题进行仿真验证,并将改进算法与传统算法作对比,结果表明改进算法在分类速度和准确率上都有显著提高。     

一种改进的支持向量机多类分类方法

提出一种新的基于二叉树结构的支持向量机(SVM)多类分类方法.该方法解决了现有主要算法中存在的不可分区域问题,具有简单、直观、重复训练样本少的优点.为了提高分类模型的推广能力,必须使样本分布好的类处于二又树的上层节点,才能获得更大的划分空间.因此,该算法采用类间散布度量与类内散布度量的比值作为二叉树的生成算法.采用UCI标准数据集实验,实验结果表明该算法具有一定的优越性.     

一种基于粗糙集理论的支持向量机分类算法

粗糙集理论和支持向量机在数据挖掘方面具有较强的互补特性,基于粗糙集理论的上近似集、下近似集和边界域概念,结合支持向量机的分类原理,提出了一种支持向量机分类算法。首先,在支持向量机分类中定义样本分类的粗糙集规则,然后在边界域寻找两类样本中使判别式绝对值取值最小且分类正确的样本来确定最优分类面,脱离了对惩罚系数C的寻优问题,有效避免了过拟合问题,并通过循环迭代算法寻找合适的参数b,获得分类性能更优的支持向量机,最后通过对一个二维样本数据库进行分类实验,验证了此算法的有效性与可行性。     

基于遗传算法的支持向量机分类算法

针对现有部分支持向量机在多类分类过程中存在的数据不均衡性、对算法结构依赖性强的问题,提出一种新的基于遗传算法的支持向量机多类分类算法。以遗传算法中的交叉作为支持向量机中类的选择,以变异改善分类过程中的纠错能力,以适应度函数作为最优分类结果的确定。在不同特性的样本集上进行仿真测试,结果证明,该算法在类数较多的情况下,有更好的数据均衡性,在分类速度及准确度上均有一定的优越性。     

基于支持向量机的多类分类研究

现今流行的分类方法的重要基础是传统的统计学，前提是要有足够的样本，当样本数目有限时容易出现过学习的问题，导致分类效果不理想。引入支持向量机方法，它基于统计学习理论，采用了结构风险最小化原则代替经验风险最小化原则，较好的解决了小样本学习的问题；又由于采用了核函数思想，把非线性空间的问题转换到线性空间，降低了算法的复杂度。对其相关内容包括优化算法及多类分类问题的解决进行了研究，最后用一个实例说明了该方法的可行性和有效性。     

基于FSVM分类算法的动脉硬化病分类

本文主要对模糊支持向量机的模式分类算法进行研究,对模糊隶属度函数进行选择并计算隶属度值,并对是否患动脉硬化进行分类,实验表明基于模糊训练样本的支持向量机具有高的分类精度。     

基于层次聚类的支持向量机分类算法

针对支持向量机在大规模样本学习时,学习速度慢,需要存储空间大等问题,提出了一种基于层次聚类的支持向量机训练算法,即在标准SVM向量算法中加入CURE聚类算法。该方法首先通过聚类方法从簇中选择分散的对象,根据一个收缩因子收缩或移动它们,从而产生最有可能成为支持向量的一组向量组成训练子集,接下来再用SVM训练方法构建一个最优SVM分类器。实验证明,该算法使SVM训练时间大为缩短,在不影响精确度的前提下使算法的效率得到大幅度的提高。     

面向对象的遥感影像单类分类

在遥感影像中只提取其中的一个特定类别,称为单类分类。结合面向对象分析方法,采用单类分类器提取影像中的兴趣类别。首先,探讨了面向对象遥感影像数据的分布特征和分割参数选择问题;然后,基于分割产生的影像对象,利用单类支持向量机方法,提取遥感影像中的特定类别信息。实验结果与基于像素的单类分类方法进行比较,表明结合面向对象的单类分类方法具有更高的分类精度。     

基于特征值分解的中心支持向量机算法

针对广义特征值中心支持向量机(GEPSVM)训练和决策过程不一致问题,该文提出一类改进的基于特征值分解的中心支持向量机,简称为IGEPSVM。首先针对二分类问题提出了基于特征值分解的中心支持向量机,然后基于一类对余类策略将其推广到多类分类问题。将GEPSVM求解广义特征值问题转化为求解标准特征值问题,降低了计算复杂度。引入了一个新的参数,可以调节模型的性能,提高了GEPSVM的分类精度。提出了基于IGEPSVM的多类分类算法。实验结果表明,与GEPSVM算法相比较,IGEPSVM不仅提高了分类精度,而且缩短了训练时间。     

一种新的直方图核函数及在图像分类中的应用

基于核方法的支持向量机(SVM)以其良好的推广性在图像分类等领域已经得到广泛应用,运用支持向量机的关键是设计有效的核函数。为克服传统核函数较少融合先验知识的弱点,该文提出基于数据驱动的核函数构建方法;并结合词包(BOW)模型,设计了一种基于TF-IDF规则的加权二次卡方(Weighted Quadritic Chisquared, WQC)距离的直方图核函数;在计算直方图之间距离时充分考虑到不同量化区间的不同区分性能,从而增强核函数对不同类别的区分能力。在Caltech101/256等多个经典图像数据集上的分类实验结果验证了该文方法的有效性。     

一种构造系数的自相关函数特征提取算法

由于遥感影像具有数据量大、维数高和不确定性等特点,遥感影像的分类已经远远超出了人的分析和解译能力,为了达到理想的分类效果,提取深层次空间结构信息的需求越来越强烈。根据各类样本的均值和方差构造加权系数,对样本的自相关函数进行加权,提出1种新的自相关函数特征提取算法,以改善样本不足造成的分类精度较低问题;采用支持向量机方法,对新的样本数据进行训练与分类性能研究。实验结果表明分类精度提高,在一定程度上能够反映遥感影像的深层次空间结构信息,验证了此算法的有效性与可行性。     

基于HMM和SVM的指纹分类方法

该文提出了指纹分类的一种新型方法:使用指纹编码的基于隐马尔可夫模型(HMM)和支持向量机(SVM)的两级分类,该方法采用FingerCode作为指纹的特征表述,首先用5个伪二维 HMM进行类别初选,确定最可能的两种指纹分类结果,再用相应的 SVM分类器做最终判决,实验表明,分类性能已经达到或超过目前流行的指纹分类算法,具有一定的实用价值。     

Multiple kernel relevance vector machine for geospatial objects detection in high-resolution remote sensing images

Geospatial objects detection within complex environment is a challenging problem in remote sensing area. In this paper, we derive an extension of the Relevance Vector Machine (RVM) technique to multiple kernel version. The proposed method learns an optimal kernel combination and the associated classifier simultaneously. Two feature types are extracted from images, forming basis kernels. Then these basis kernels are weighted combined and resulted the composite kernel exploits interesting points and appearance information of objects simultaneously. Weights and the detection model are finally learnt by a new algorithm. Experimental results show that the proposed method improve detection accuracy to above 88%, yields good interpretation for the selected subset of features and appears sparser than traditional single-kernel RVMs.     

特征加权支持向量机

该文针对现有的加权支持向量机(WSVM)和模糊支持向量机(FSVM)只考虑样本重要性而没有考虑特征重要性对分类结果的影响的缺陷,提出了基于特征加权的支持向量机方法,即特征加权支持向量机(FWSVM)。该方法首先利用信息增益计算各个特征对分类任务的重要度,然后用获得的特征重要度对核函数中的内积和欧氏距离进行加权计算,从而避免了核函数的计算被一些弱相关或不相关的特征所支配。理论分析和数值实验的结果都表明,该方法比传统的SVM具有更好的鲁棒性和分类能力。     

支持向量机的一种快速分类算法

传统支持向量机分类过程的计算量和支持向量的个数成正比,当支持向量较多时,其分类过程的计算比较耗时。该文基于支持向量的稀疏性,证明了对支持向量压缩时,收紧新的快速决策函数和原始决策函数之间的误差等价于在样本空间对原始支持向量进行K均值聚类操作,据此提出了一种约简支持向量的快速分类算法FD-SVM(Fast Decision algorithm of Support Vector Machine),该算法首先对原始的支持向量进行特定比例的K均值聚类操作,聚类的中心为约简后新的支持向量,按照分类误差最小的原则构建优化模型,用二次规划方法求解得到新的支持向量的系数。标准数据集上的实验表明,保持分类精度的损失在统计意义上不明显的前提下,FD-SVM可以有效压缩支持向量的数量,提高分类速度。