使用粒子群算法进行特征选择及对支持向量机参数的优化

特征选取和参数设置是提升支持向量机分类器的效果的两个主要手段.为了将两者结合起来,实现同步优化,以达到更好的分类效果,设计了一种基于粒子群算法的分类器优化算法.新算法对粒子采用2进制编码的,设计适合的目标函数,同步进行特征选择和支持向量机参数的优化.经过对比验证,新方法能够更加准确的得到待分类数据的特征子集跟支持向量机参数,最终得到更优的处理结果.     

基于支持向量机的脑部MR图像细分类

本文提出了基于支持向量机的脑部MR图像细分类器,采用纹理与形状特征相结合方式表达图像,应用StARMiner算法对特征进行选择和计算特征加权系数,最后用支持向量机理论设计分类器对脑部图像进行精细分类。经反复实验优化各参数,粗略分类率可以达到92.10%。细分类可应用于特定人体部位图像的检索系统,以检索出更精确的图像,并且缩减检索空间,提高检索效率。     

用于多类别分类的一种加权超球支持向量机算法

在One‐Class基础上发展起来的超球支持向量机算法能有效地解决多类别分类问题。但是原始的超球支持向量机算法仍有很多需要改进的地方。经过推导和实验,得到如下结论,即超球支持向量机算法过度依赖于每个训练样本,即使该训练样本为噪音数据或是离群异常数据。因此提出在训练之前加入预处理算法,通过相似度计算删除噪音点和异常点。在训练过程中,根据公式计算每个样本的权值,区别对待每个训练样本,确保SMO求解过程迅速收敛。在测试阶段,根据测试点的位置合理选择分类规则进行正确分类。实验结果表明提出的算法可以有效减少噪音数据和异常数据对分类结果的影响,同时提高了分类精度。     

一种基于Adaboost.M1的车型分类算法

神经网络分类器存在容易出现过学习、欠学习、陷入维数灾以及局部最小等问题,支持向量机分类器也存在运算比较复杂,模型选择和核函数的构造比较困难的问题,而贝叶斯分类器只有在训练样本数趋于无穷时,训练结果才趋于真实的模型,因此,提出了一种基于Adaboost.M1理论的车型分类算法,该算法简单易用,只需要寻找一个精度比随机预测略高的弱分类器,不需要调节任何参数,不需要先验知识,而且有足够的理论支持.最后通过实验验证了该算法进行车型分类的有效性.     

基于几何分析的支持向量机推广能力推测模型

利用支持向量机分类器中支持向量分布的几何意义,构造了一种新的与样本分布相关的推广能力预测模型,该模型充分利用了支持向量分布的先验信息,它与统计学习理论中推广能力准则具有一致的几何意义.首先利用支持向量分布的几何意义出发从海量样本中选择有效边界向量代替原有训练样本,然后在有效边界向量中分别计算最小包含半径和最大分类间隔.它不需要求解二次规划就可以得到与训练样本相关的推广能力计算模型,计算量较低.本文最后的最优核函数、核参数选择仿真实验结果表明本文提出的基于几何分析的支持向量机推广能力推测模型的合理性与高效性, 该模型对于解决支持向量机中最优核函数、核参数选择具有重要意义.     

基于支持向量机的极化SAR图像分类

极化合成孔径雷达可以同时得到地面场景在不同极化组合下的雷达图像,极大地丰富了获取的地物目标信息量。针对极化SAR图像特征提取和目标分类的困难,由4种基本极化组成样本向量,运用基于统计学习理论的支持向量机以及不同的核函数设计分类器,提出了一种新的极化SAR图像分类算法,并对实测极化SAR数据进行分类实验。结果表明,将支持向量机分类器应用于极化SAR图像分类中是可行和有效的,并且通过选择适当的惩罚系数,可以进一步提高分类效果。     

基于K最近邻的支持向量机快速训练算法

传统支持向量机训练大规模样本时间和空间开销大,使其应用受到了很大限制。为了提高支持向量机的训练速度,根据支持向量机的基本原理,应用K最近邻思想来筛选训练样本集,提出了基于K最近邻的支持向量机快速训练算法(KNN-SVM)。算法首先选取一部分最有可能成为支持向量的样本——边界向量,然后用边界向量集代替训练样本集进行支持向量机训练,大幅度减少了训练样本的数量,使支持向量机的训练速度显著提高。同时,由于边界向量包含了支持向量,因此,支持向量机的分类能力没有受到影响。仿真实验结果表明,与传统支持向量机相比,在分类精度相同的情况下,算法能够有效地提高支持向量机的训练速度,而且还可以提高支持向量机的分类速度和推广能力。     

基于FSVM分类算法的动脉硬化病分类

本文主要对模糊支持向量机的模式分类算法进行研究,对模糊隶属度函数进行选择并计算隶属度值,并对是否患动脉硬化进行分类,实验表明基于模糊训练样本的支持向量机具有高的分类精度。     

Boosting算法在入侵检测中的应用

将一种基于支持向量机的Boosting算法应用于入侵检测,并通过KDD’99数据的仿真实验将它与单一的支持向量机分类器进行比较,结果表明Boosting算法比单一的支持向量机分类器具有更好的检测效果。     

改进支持向量机的电子邮件分类

电子邮件分类有利于垃圾邮件的过滤,节省网络资源。为了提高邮件分类的精度,提出了改进支持向量机的电子邮件分类器模型。首先提取电子邮件的原始特征,并采用主成分分析法对特征进行选择,减少特征数量,提高邮件分类效率;然后采用支持向量机建立电子邮件分类器,并对传统支持向量机参数选择方法进行改进,改善邮件分类效果,最后采用邮件分类的标准数据库——UCI进行性能分析。结果表明,改进支持向量机解决了当前电子邮件分类模型的不足,获得了理想的电子邮件分类效果,分类结果可以帮助管理人员拦截垃圾邮件。     

无线传感器网络下线性支持向量机分布式协同训练方法研究

针对无线传感器网络中分散在各节点上的训练数据传输到数据融合中心集中训练支持向量机(Support Vector Machine, SVM)时存在的高通信代价和高能量消耗问题,该文研究了仅依靠相邻节点间的相互协作,在网内分布式协同训练线性SVM的方法。首先,在各节点分类器决策变量与集中式分类器决策变量相一致的约束下,对集中式SVM训练问题进行等价分解,然后利用增广拉格朗日乘子法,对分解后的SVM问题进行求解和推导,进而提出基于全局平均一致性的线性SVM分布式训练算法(Average Consensus based Distributed Supported Vector Machine, AC-DSVM);为了降低AC-DSVM算法中全局平均一致性的通信开销,利用相邻节点间的局部平均一致性近似全局平均一致性,提出基于一次全局平均一致性的线性SVM分布式训练算法(Once Average Consensus based Distributed Supported Vector Machine, 1-AC-DSVM)。仿真实验结果表明,与已有算法相比,AC-DSVM算法的迭代次数和数据传输量略高,但其能够完全收敛到集中式训练结果;1-AC-DSVM算法具有较好的收敛性,而且在收敛速度和数据传输量上也表现出显著优势。     

一种提高支持向量机针对低维向量分类精度的新方法

本文提出一种支持向量机的全局优化训练算法,形成一种新的分类器,以解决传统的支持向量机在对低维样本点分类时产生的精度下降问题。首先对支持向量机原理,以及以SVM—light为代表的经黄SVM训练算法进行分析,发现支持向量机的训练在本质上都归结为具有不等式约束条件的二次规划问题。本文直接根据支持向量机的最优分类超平面,将其化为无约束条件的求解函数极值问题。然后采用全局优化算法-禁忌搜索算法得到函数的极值点。通过两类高斯样本点分类实验和人脸图像识别的多类分类试验,证明使用支持向量机的全局优化训练算法,在样本点特征向量维数较低的情况下,比使用传统的支持向量机训练算法分类具有更高的分类准确率。     

基于最佳样本标记的主动支持向量机学习策略

支持向量机通过随机选择标记的训练样本进行有监督学习,随着信息容量的增加和数据收集能力的提高,这需要耗费大量的标记工作量,给实际应用带来不少困难.本文提出了基于最佳样本标记的主动支持向量机学习策略:首先利用无监督聚类选择一个小规模的样本集进行标记,然后训练该标记样本集得到一个初始SVM分类器,然后利用该分类器主动选择最感兴趣的无标记样本进行标记,逐渐增加标记样本的数量,并在此基础上更新分类器,反复进行直到得到最佳性能的分类器.实验结果表明在基本不影响分类精度的情况下,主动学习选择的标记样本数量大大低于随机选择的标记样本数量,这大大降低了标记的工作量,而且训练速度同样有所提高.     

基于支持向量域描述的学习分类器

文章在分析支持向量域描述的基础上发展了一类基于描述的学习分类器.该算法在训练时通过在高维特征空间中求取所描述的训练样本的超球体边界，然后通过该边界对样本数据进行分类.文章所获得的学习算法和支持向量机（SVM）和序列最小优化（SMO）算法相比，不仅降低了样本的采集代价，而且在训练速度上有了很大提高.在CBCL人脸库和USPS手写数字识别的实验中，给出了该算法和SVM、SOM算法的实验对比结果，说明了该学习算法的有效性。     

基于主动学习的支持向量机算法

针对支持向量机（svM）模型不能有效处理海量数据挖掘的问题,提出一种改进的基于主动学习的支持向量机（AL_SVM）方法。该方法首先将训练集随机划分为多个独立同分布的子集,并选择其中一个子集作为初始训练集来训练SVM得到初始分类器和支持向量集,然后根据已经得到的分类器信息在剩余样本集中选择对于分类器改进作用最大的有价值样本。并与已得到的支持向量集合并构成新训练集,以更新分类器,从而在保留重要支持向量信息的前提下,去除大量不重要的支持向量,一定程度上避免了过学习问题,提高了学习效率。实验表明,AL_SVM方法能够在保持学习器泛化能力的同时提高其学习效率。     

基于支持向量机的极化SAR图像分类

与传统最大似然（ML）分类器相比，支持向量机（SVM）在小训练样本时仍具有良好的分类性能，目前已广泛应用于多个领域。该文在极化SAR特征提取的基础上，将SVM应用于极化SAR图像分类，分析了分类器参数对分类性能的影响。利用NASA／JPL实验室AIRSAR系统的L波段旧金山全极化SAR数据比较了SVM和ML的分类性能，并进一步给出了基于SVM的国内某地区双极化SAR图像分类结果。     

线性可分问题的支撑向量稳健感知器及其几何训练算法

分类器的稳健性能是分类器的重要性质之一。支撑向量机SVM和稳健感知器得到的都是最优分类面，都具有很强的稳健性能。SVM构造的是到所有支撑向量(距分类面最近的样本)等距离的最优分类面，SVM算法需要求解一个二次型寻优问题；而稳健感知器构造的是到所有基(各模式类的边界样本)距离都较远的最优分类面，稳健感知器需要求解一系列的线性规划。文章在二者的基础上提出了适用于线性可分问题的支撑向量稳健感知器及其几何训练算法．它将问题转化成了一系列的线性方程组，它将比SVM的二次型寻优具有更快的速度。实验仿真表明了该算法的高效性。     

一种基于Hadoop平台CloudSVM的网络流量分类方法

大规模的netflow训练数据集是构建高质量、高稳定网络流量分类器的必然要求。但随着网络流特征维数的提高和数据集规模的扩大,无论是网络流的分析处理还是基于支持向量机(SVM)的分类器模型的训练,都无法在有效的时间内得到有效的处理结果。本文基于Hadoop云计算平台,采用MapReduce技术对SVM网络流量分类器进行分布式学习和训练,构建CloudSVM网络流量分类器。通过对来自校园网出口镜像的近2 T的大规模网络流量的跟踪文件的分布式存储和处理,对抽取的样本数据集进行分类,实验验证了基于Hadoop平台分布式存储和并行处理大规模网络数据集的高效率性,也验证了CloudSVM分类器在不降低分类准确度的情况下可以快速收敛到最佳,并随着大规模网络流样本的增加,SVM分类器训练的时间趋近平稳。     

最小化支持向量数分类器的云检测

针对。感卫星图像的云检测,提出了基于最小化支持向量数分类器的云检测方案,解决传统分类器训练样本多、易陷入局部最优的问题。使用该分类器对QuickBird高分辨率。感图像进行云检测,检测正确率达99%以上。实验表明:在确定分类器内部结构参数过程中,与传统的交叉验证法相比,基于支持向量数的方法不仅能够准确预测分类器推广性能的变化趋势,从而确立最优化的参数组合,并且实现简单,大大减少了计算的复杂度。与传统的BP神经网络相比,该方法所需训练样本少,分类性能好。     

基于支持向量机的企业信用风险评估研究

介绍了小样本学习的通用学习算法——支持向量机（SVM）,建立了基于SVM的企业信用风险评估模型,并将支持向量机非线性分类器应用于信用风险的评估中.分析对比了选取不同核函数和参数的实验结果,同时实验结果表明,相比传统的人工神经网络,SVM在有限样本情况下具有良好的泛化能力.