大规模数据集下支持向量机训练样本的缩减策略

大量数据下支持向量机的训练算法是SVM研究的一个重要方向和焦点。该文从分析SVM训练问题的实质和难点出发,提出一种在训练前先求出类别质心,去除非支持向量对应的样本,从而达到缩小样本集的方法。该方法在不损失分类正确率的情况下具有更快的收敛速度,并从空间几何上解释了支持向量机的原理。仿真实验证明了该方法的可行性和有效性。     

一种新的模糊支持向量机

基于类中心设计隶属度函数的模糊支持向量机能有效地解决支持向量机对噪声或孤立点敏感度高的问题,但是,由于它对支持向量赋予较小的隶属度,从而降低了其分类作用。基于此,提出一种新的隶属度函数设计方法;同时,针对模糊支持向量机普遍存在因核函数计算量大,而导致训练时间长的问题,通过使用一种高效的截集模糊C-均值聚类方法对训练样本进行聚类,然后以聚类中心作为样本进行训练,以减少训练样本来提高训练速度。根据上述新的隶属度函数设计方法和截集模糊C-均值聚类方法,构建了一种基于截集模糊C-均值聚类并改进了隶属度函数的模糊支持向量机,数值试验表明这种新的模糊支持向量机有效地提高了训练速度和分类精度。     

一种结合Vague集的模糊支持向量机研究

为了解决传统支持向量机对噪声或野值敏感的问题,模糊支持向量机给出一种解决办法,就是区别对待训练样本,为每一个数据点分配不同的权重,使其在分类模型训练过程中起不同的作用.以期获取更加合理的分类超平面,使得分类模型具有更好的泛化能力.Vague隶属度的计算是该算法实现的关键步骤之一,文中给出一种基于模糊C-均值聚类方法的Vague隶属度计算的方法,可以生成训练样本的真、假隶属度.实验结果表明,该算法具有更好的抗噪性能及分类能力.     

基于Fisher鉴别分析的支持向量机训练样本缩减策略

提出一种用于支持向量机训练样本集的缩减策略。该策略运用Fisher鉴别分析方法快速地提取潜在的支持向量,并构成用于SVM的新的训练样本集。仿真实验表明,该算法能在保证不降低分类精度的前提下,对较大规模的样本进行有效的缩减,提高运算效率。     

一种新的多类支持向量机算法

提出了一种新的多类支持向量机算法OC-K-SVM.对k类分类问题,该方法构造了k个分类器,每一个分类器只对一类样本进行训练.使用Benchmark的数据集进行了初步的实验,实验结果验证了算法的有效性.     

针对大规模训练集的支持向量机的学习策略

当训练集的规模很大特别是支持向量很多时．支持向量机的学习过程需要占用大量的内存,寻优速度非常缓慢,这给实际应用带来了很大的麻烦．该文提出了一种针对大规模样本集的学习策略：首先用一个小规模的样本集训练得到一个初始的分类器,然后用这个分类器对大规模训练集进行修剪,修剪后得到一个规模很小的约减集,再用这个约减集进行训练得到最终的分类器．实验表明,采用这种学习策略不仅大幅降低了学习的代价,而且这样获得的分类器的分类精度完全可以与直接通过大规模样本集训练得到的分类器的分类精度相媲美,甚至更优,同时分类速度也得到大幅提高．     

一种新的概率支持向量机方法

提出一个新的基于样本点概率估计的支持向量机,通过定义相应样本数据点的概率估计值,以及相应的数据样本点到超平面的距离,来形成新的线性和非线性情况下的支持向量机。最后通过实验证明,在数据集的训练上,新的支持向量机比以往传统的支持向量机有更好的分类性能,并且缩短了支持向量机数据样本的训练时间。     

基于模糊C-均值聚类的支持向量机

支持向量机针对大规模数据集学习问题的处理需要耗费很长的时间,提出一种数据预处理的方法对学习样本进行聚 类,以此为基础得到一种模糊支持向量机.计算机仿真结果表明提出的SVM算法与传统的SVM训练算法相比,在不降低分 类精度的情况下,大大缩短了支持向量机的学习训练时间.     

一种改进的支持向量机及其应用

针对传统支持向量机对噪声点敏感问题,提出一种改进的支持向量机。其基本思想是根据样本对分类贡献不同赋予相应的隶属度,贡献大的分配较大的隶属度,贡献小的分配较小的隶属度。与传统支持向量机比较,减小了噪声点对分类的影响,提高了SVM的泛化能力。并将其应用到车型识别中,结果显示该方法的有效性。     

一种新的模糊支持向量机多分类算法

在模糊多分类问题中,由于训练样本在训练过程中所起的作用不同,对所有数据包括异常数据赋予一个隶属度。针对模糊支持向量机（fuzzy support vector machines,FSVM）的第一种形式,引入类中心的概念,结合一对多1-a-a(one-against-all)组合分类方法,提出了一种基于一对多组合的模糊支持向量机多分类算法,并与1-a-1(one-against-one)组合和1-a-a组合的分类算法比较。数值实验表明,该算法是有效的,有较高的分类准确率,有更好的泛化能力。     

基于聚类预处理和支持向量机的模拟电路故障诊断技术

支持向量机（SVM）最初源于两种分类问题,用于存在较多故障模式的模拟电路诊断问题,易造成识别重叠区域。为此提出了利用动态聚类算法作为SVM预分类器的故障诊断方法,首先采用模糊C-均值（FCM）算法对训练样本进行聚类,然后分别对两大类进行内部的子聚类,每一次的聚类都产生两种模式并对各个模式内的故障模式样本训练产生对应的SVM网络,最后采用二叉树形式把所有的模式分开。实验结果表明,采用该方法对测试样本的诊断正确率可以达到99%以上。     

基于一种改进粒子群算法的SVM参数选取

支持向量机作为一个新兴的数学建模工具已经被广泛地应用到很多工业控制领域中,其良好的泛化能力和预测精度在很大程度上受到其参数选取的影响.根据智能群体进化模式改进粒子群优化算法.利用模糊C均值聚类算法分类粒子群体,并用子群体最优点取代速度更新公式中的个体历史最优点,并利用该算法搜索支持向量机的最优参数组合.对比仿真实验表明:所提优化算法是支持向量机参数选取的有效算法,在非线性函数估计中体现出优良的性能.     

FCM预选取样本的半监督SVM图像分类方法

针对基于拉普拉斯支持向量机(LapSVM)的半监督分类方法需要将全部无标记样本加入训练样本集中训练得到分类器,算法需要的时间和空间复杂度高,不能有效处理大规模图像分类的问题,提出了模糊C-均值聚类(FCM)预选取样本的LapSVM图像分类方法。该方法利用FCM算法对无标记样本聚类,根据聚类结果选择可能在最优分类超平面附近的无标记样本点加入训练样本集,这些样本可能是支持向量,携带对分类有用的信息,其数量只是无标记样本的一少部分,因此使训练样本集减小。计算机仿真结果表明该方法充分利用了无标记样本所蕴含的判别信息,有效地提高了分类器的分类精度,降低了算法的时间和空间复杂度。     

基于信息浓缩的隐私保护支持向量机分类算法

支持向量机(SVM)的分类决策过程涉及到对原始训练样本的学习,容易导致数据中隐私信息的泄漏。为解决上述问题,提出一种基于信息浓缩的隐私保护分类方法IC-SVM。该算法首先根据样本的邻域信息,通过模糊C均值(FCM)聚类算法进行聚类分析;接着,使用信息浓缩准则对聚类中心进行处理,得到浓缩点组成的新样本;最后,使用新样本进行训练并得到决策函数,并用它去进行分类测试,可以较好地保护数据的隐私。在UCI真实数据和PIE人脸数据上的实验结果表明,IC-SVM方法既能保护数据信息的安全,又有较高的分类准确率。     

一种改进的基于粒子群优化的SVM训练算法

支持向量机的训练需要求解一个带约束的二次规划问题,但在数据规模很大的情况下,经典的训练算法将会变得非常困难。提出了一种改进的基于粒子群的优化算法,用于替代支持向量机中现有的训练算法。在改进后的粒子群优化算法中,粒子不仅向自身最优和全局最优学习,还以一定的概率向其他部分粒子的均值学习。同时,还引进了自适应变异算子,以降低未成熟收敛的概率。实验表明,提出的改进训练算法相对改进前的算法在性能上有显著提高。     

基于SVM决策树判别测试点类别的新方法

从测试点的类别判断方式上进行改进,对容易错分的测试点给予多次判别机会,从而降低了SVM决策树的错分累积程度。仿真试验表明,改进的基于SVM决策树判别测试点类别方法与传统的基于SVM决策树判别测试点类别方法相比,具有较高的分类精度。     

子空间样本选择及其支持向量机人脸识别应用

训练样本选择是支持向量机应用研究领域的重要课题之一。为此提出了一种类内模式选择新方法。该方法从选择集子空间逼近原类别样本子空间的思想出发,通过迭代,逐一选择那些到已选样本集所在子空间距离最远的样本。在MIT-CBCL人脸识别数据库training-synthetic子库上的同其他方法的比较识别实验中,表明该文方法在选样比率、选样时间以及SVM测试时间等方面均取得了较为明显的优势。     

一种提高支持向量机性能的特征选择新方法

利用支持向量机进行模式分类时,特征选择是数据预处理的一项重要内容。有效的特征选择在很大程度上影响着分类器的性能。根据样本各特征分量的均值与方差对分类的影响,提出根据分类权值进行特征选择,以提高支持向量机性能的简便方法,制定了两个具体实施方案。在三个常用数据集上进行了仿真实验,结果验证了方法的有效性。     

求解双边加权模糊支持向量机的序贯最小优化算法

高的计算复杂度限制了双边加权模糊支持向量机在实际分类问题中的应用。为了降低计算复杂度,提出了应用序贯最小优化算法（SMO）解该模型,该模型首先将整个二次规划问题分解成一系列规模为2的二次规划子问题,然后求解这些二次规划子问题。为了测试SMO算法的性能,在三个真实数据集和两个人工数据集上进行了数值实验。结果表明：与传统的内点算法相比,在不损失测试精度的情况下,SMO算法明显地降低了模型的计算复杂度,使其在实际中的应用成为可能。