基于K最近邻的支持向量机快速训练算法

传统支持向量机训练大规模样本时间和空间开销大,使其应用受到了很大限制。为了提高支持向量机的训练速度,根据支持向量机的基本原理,应用K最近邻思想来筛选训练样本集,提出了基于K最近邻的支持向量机快速训练算法(KNN-SVM)。算法首先选取一部分最有可能成为支持向量的样本——边界向量,然后用边界向量集代替训练样本集进行支持向量机训练,大幅度减少了训练样本的数量,使支持向量机的训练速度显著提高。同时,由于边界向量包含了支持向量,因此,支持向量机的分类能力没有受到影响。仿真实验结果表明,与传统支持向量机相比,在分类精度相同的情况下,算法能够有效地提高支持向量机的训练速度,而且还可以提高支持向量机的分类速度和推广能力。     

一种提高支持向量机针对低维向量分类精度的新方法

本文提出一种支持向量机的全局优化训练算法,形成一种新的分类器,以解决传统的支持向量机在对低维样本点分类时产生的精度下降问题。首先对支持向量机原理,以及以SVM—light为代表的经黄SVM训练算法进行分析,发现支持向量机的训练在本质上都归结为具有不等式约束条件的二次规划问题。本文直接根据支持向量机的最优分类超平面,将其化为无约束条件的求解函数极值问题。然后采用全局优化算法-禁忌搜索算法得到函数的极值点。通过两类高斯样本点分类实验和人脸图像识别的多类分类试验,证明使用支持向量机的全局优化训练算法,在样本点特征向量维数较低的情况下,比使用传统的支持向量机训练算法分类具有更高的分类准确率。     

结构风险最小化近邻分析解决大规模训练集支持向量机学习问题

SVM是利用靠近边界的少数向量来构造最大间隔的分类超平面,当海量样本之间存在相互混迭时,支持向量数目急剧增加,导致训练难度增大。针对该问题,本文将结构风险最小化近邻分析与支持向量机相结合构成了一种新的SVM学习方法。它首先根据各个训练数据的类间最近邻距离利用结构风险最小化近邻分析选择训练子集;在选择的样本子空间内采用乘性规则直接求取Lagrange因子,而不是传统的二次优化方法;最后加入附加剩余样本进行交叉验证处理,直到算法满足收敛性准则。各种分类实验表明本文提出的算法具有良好的性能,特别是在训练样本庞大,支持向量数量较多的情况下,能够较大幅度的减少计算复杂度,提高分类速度。     

一种基于粗糙集理论的支持向量机分类算法

粗糙集理论和支持向量机在数据挖掘方面具有较强的互补特性,基于粗糙集理论的上近似集、下近似集和边界域概念,结合支持向量机的分类原理,提出了一种支持向量机分类算法。首先,在支持向量机分类中定义样本分类的粗糙集规则,然后在边界域寻找两类样本中使判别式绝对值取值最小且分类正确的样本来确定最优分类面,脱离了对惩罚系数C的寻优问题,有效避免了过拟合问题,并通过循环迭代算法寻找合适的参数b,获得分类性能更优的支持向量机,最后通过对一个二维样本数据库进行分类实验,验证了此算法的有效性与可行性。     

最小二乘支持向量机的一种非均衡数据分类算法

为了提高支持向量机的非平衡数据分类能力,分析了最小二乘支持向量机的本质特征,提出了一种基于中心距离比的非平衡数据分类算法,同时通过修剪边界样本,解决了最小二乘支持向量机缺失稀疏性的问题.在UCI标准数据集上进行的试验表明:该算法能够有效地提高支持向量机对非均衡分布数据的正确性,且该算法在不影响训练精度的前提下,可以得到稀疏解,算法的训练速度也有了一定的提高.     

基于径向基小波核的多尺度小波支持向量机

普通支持向量机(SVM)方法用于多尺度回归建模时不能取得满意的精度,而现有的多尺度SVM算法存在只适合均匀分布的样本并可能收敛于局部极值等问题.为解决上述问题,本文提出了一种基于径向基小波核的多尺度小波支持向量机学习算法.文中提出并证明了一种新的径向基小波支持向量核,可提高小波SVM的训练速度和逼近精度.在此基础上,通过解一个二次优化问题可求出多尺度回归建模问题的全局最优解.最终得出的多尺度回归模型能够有效地逼近多尺度信号.仿真结果验证了所提算法的有效性.     

基于重分类与支持向量机的交流电路故障诊断

分析了交流电路故障诊断中的故障类重叠问题.针对在该情况下故障诊断正确率低的问题,采用了一种新的故障分类方法.首先用MATLAB软件编写电路程序,生成样本,然后用故障样本对支持向量机进行训练,最后用训练好的模型文件对测试样本进行多故障分类.通过一个交流电路的故障诊断实例表明,该方法具有算法简单、泛化能力强等优点,重分类后的故障诊断正确率高于重分类前.     

基于复合核支持向量回归机的多类分类算法

针对传统支持向量机(SVM)在解决多类分类问题时需要训练多个分类器、存在不可分区域等问题,研究了基于支持向量回归机的多类分类算法。利用回归思想求解多类分类问题,将分类样本作为回归输入,样本的类别标识作为回归输出,通过支持向量回归机训练拟合出各样本与其类别标识之间的函数关系。将待分类样本代入回归函数,对其输出取整后即可得到样本类别。该算法仅使用1个分类器,明显简化了分类过程。另外,引入复合核函数来提高支持向量回归机的性能。采用加州大学欧文分校(UCI)例题库中的多类分类问题进行仿真验证,并将改进算法与传统算法作对比,结果表明改进算法在分类速度和准确率上都有显著提高。     

基于SVM的纠错编码多分类算法的研究与应用

为了提高变压器故障诊断的准确率,提出了一种基于纠错编码和支持向量机相结合的多分类算法,根据SVM理论建立变压器故障诊断数学模型,首先基于纠错编码矩阵构造出若干个互不相关的子支持向量机,以提高分类模型的分类准确率。最后把变压器油中溶解气体(DGA)作为纠错编码支持向量机的训练以及测试样本,实现变压器的故障诊断,同时用UCI数据对该算法进行验证。通过VS2008和Libsvm相结合对其进行验证,结果表明该方法具有很高的分类精度。     

一种基于内壳向量的SVM增量式学习算法

本文针对支持向量机难以快速有效地进行增量式学习的问题,提出了一种基于内壳向量的支持向量机增量式学习算法.算法通过线性规划运算求得最可能包含支持向量的壳向量和内壳向量集合,在保证分类精度的前提下最大程度地缩小训练集规模,进而在新的训练集中快速训练支持向量机.将该算法应用于公开数据及低空飞行声目标分类识别,结果表明,新算法...