基于向量投影的支持向量机增量算法

提出一种新的基于向量投影的支持向量机增量式学习算法.该算法根据支持向量的几何分布特点,采用向量投影的方法对初始样本及增量样本在有效地避免预选取失效情况下进行预选取.选取最有可能成为支持向量的样本形成边界向量集,并在其上进行支持向量机训练.通过对初始样本是否满足新增样本集KKT条件的判断,解决非支持向量向支持向量转化的问题,有效地处理历史数据.实验表明,基于向量投影的支持向量机增量算法可以有效地减少训练样本数,积累历史信息,提高训练的速度,从而具有更好的推广能力.     

基于几何算法的投影孪生支持向量机

投影孪生支持向量机（PTSVM）是最近提出的一种具有较好泛化性能的分类模型,但由于采用内点算法求解二次规划问题,PTSVM的训练速度较慢。针对该缺陷,提出一种快速的、基于几何算法的 PTSVM（GPTS-VM）。遵循 PTSVM的几何思想,提出一种新的二次规划模型,为每类数据产生一个投影方向;然后基于优化理论推导该模型的对偶问题并给予明确的几何解释,并利用计算几何算法求解。实验表明,提出的方法具有更快的训练速度和更好的泛化性能。     

基于约束投影的支持向量机选择性集成

提出两种基于约束投影的支持向量机选择性集成算法。首先利用随机选取的must-link和cannot-link成对约束集确定投影矩阵,将原始训练样本投影到不同的低维空间训练一组基分类器;然后,分别采用遗传优化和最小化偏离度误差两种选择性集成技术对基分类器进行组合。基于UCI数据的实验表明,提出的两种集成算法均能有效提高支持向量机的泛化性能,显著优于Bagging,Boosting,特征Bagging及LoBag等集成算法。     

权向量投影多平面支持向量机

提出一个多平面支持向量机算法——权向量多平面支持向量机(WMPSVM)。该方法利用差代替Rayleigh商问题,从而避免广义特征值的奇异问题。与传统分类器不同,该方法无需求解具体的超平面,仅求解两个权向量。其决策是将测试样本归为距样本投影均值距离最近的所在的类。从广义支持向量机(GEPSVM)求解目的出发,该方法在保证得到与GEPSVM相当的计算效率的前提下,能较好地求解异或问题以及一些复杂异或问题。最后在人工数据集和UCI数据集上显示,该方法的性能要好于GEPSVM。     

增强型投影双胞支持向量机设计

投影双胞支持向量机(PTSVM)在分类问题上拥有优秀的泛化能力.然而,在对偶求解方面,PTSVM模型存在矩阵求逆运算.这不仅增加了模型的训练负担,而且容易导致模型解的不稳定性.为解决上述问题,提出了一种新的增强型投影双胞支持向量机模型(IPTSVM).IPTSVM模型能够寻找一对最优非平行投影方向.在新的投影空间,同类...     

决策树支持向量机多分类器设计的向量投影法

针对如何有效地设计决策树支持向量机(SVM)多类分类器的层次结构这个关键问题,提出一种基于向量投影的类间可分性测度的设计方法,并给出一种基于该类间可分性测度设计决策树SVM多分类器层次结构的方法.为加快每个SVM子分类器的训练速度且保持其高推广性,将基于向量投影的支持向量预选取方法用于每个子分类器的训练中.通过对3个大规模数据集和手写体数字识别的仿真实验表明,新方法能有效地提高决策树SVM多类分类器的分类精度和速度.     

基于支持向量机的控制图模式识别

为了提高控制图模式识别效果，提出混合核函数支持向量机的模式识别方法。在模型构造中采用一对一多类分类支持向量机，并利用遗传算法优化混合核函数支持向量机参数。仿真和应用结果表明，混合核函数支持向量机对各种模式控制图的总体识别率，I型错判均优于单独核函数、概率神经网络和小波概率神经网络，且具有良好的泛化能力，适合生产现场实时在线工序质量控制。     

基于对偶随机投影的线性核支持向量机

针对大型支持向量机（SVM）经随机投影特征降维后分类精度下降的问题,结合对偶恢复理论,提出了面向大规模分类问题的基于对偶随机投影的线性核支持向量机（drp-LSVM）。首先,分析论证了drp-LSVM相关几何性质,证明了在保持与基于随机投影降维的支持向量机（rp-LSVM）相近几何优势的同时,其划分超平面更接近于用全部数据训练得到的原始分类器。然后,针对提出的drp-LSVM快速求解问题,改进了传统的序列最小优化（SMO）算法,设计了基于改进SMO算法的drp-LSVM分类器。最后实验结果表明,drp-LSVM在继承rp-LSVM优点的同时,减小了分类误差,提高了训练精度,并且各项性能评价更接近于用原始数据训练得到的分类器;设计的基于改进SMO算法的分类器不但可以减少内存消耗,同时可以拥有较高的训练精度。     

支持向量机研究进展

基于统计学习理论的支持向量机((Support vector machines, SVM)以其优秀的学习能力受到广泛的关注。但传统支持向量机在处理大规模二次规划问题时会出现训练时间长、效率低下等问题。对SVM训练算法的最新研究成果进行了综述,对主要算法进行了比较深入的分析和比较,指出了各自的优点及其存在的问题,并且着重介绍了目前研究的新进展—模糊SVM和粒度SVM。接着论述了SVM主要的两方面应用—分类和回归。最后给出了今后SVM研究方向的预见。     

基于支持向量机故障诊断方法

支持向量机是一种基于统计学习理论的机器学习算法,它能在训练样本很少的情况下达到很好的分类效果.本文以双螺杆挤出机为例,介绍了基于支持向量机的多故障分类器,探讨了"成对分类"与"一类对多类"两种多类分类算法的应用.诊断实例表明,基于支持向量机的多故障分类器对设备故障具有很好的分类效果.     

基于支持向量数据描述的分类方法研究

针对单类数据的分类问题,提出一种基于支持向量数据描述（SVDD）的分类算法。该算法利用SVDD获得包含单类数据的最小球形边界,通过该边界对未知样本数据进行分类,同时采用可行方向方法求解边界优化中的二次规划问题,并在UCI机器学习数据集上将该算法与LS—SVM算法进行比较。实验结果表明,该算法不仅获得了更高的分类准确率,而且具有较低的运行时间。     

一种基于粗糙集和支持向量机的混合分类算法

结合粗糙集的属性约简和支持向量机的分类机理,提出了一种混合算法。应用粗糙集理论的属性约简过程作为预处理器,可以把冗余的属性和冲突的对象从决策表中删去,但不损失任何有效信息;然后基于支持向量机进行分类建模和预测。这样可以大大降低数据维数,降低支持向量机分类过程中的复杂度,减少占用的存储空间,并在不同程度上避免了训练模型的过拟合现象,但分类性能并不会隆低．最后的仿真实例说明了所提方法的有效性．     

用于模式分类的支持向量机的研究

SVM在解决小样本、非线性及高维模式识别问题中表现出诸多特有的优势,结合模式分类,研究SVM的基本思想、训练算法及其应用,讨论海量样本数据的改进训练算法以及多类别分类方法等方面.     

基于模糊C-均值聚类的支持向量机

支持向量机针对大规模数据集学习问题的处理需要耗费很长的时间,提出一种数据预处理的方法对学习样本进行聚 类,以此为基础得到一种模糊支持向量机.计算机仿真结果表明提出的SVM算法与传统的SVM训练算法相比,在不降低分 类精度的情况下,大大缩短了支持向量机的学习训练时间.     

基于支持向量机的改进分类算法

为了进一步提高支持向量机分类的准确性和泛化能力,提出一种基于支持向量机的改进二叉树分类算法.首先介绍支持向量机的基本原理,总结了常见的多分类器分类算法及其特点,结合现有分类算法的优点,为分类器引入了不同的权值,提出二叉树改进分类算法,有效避免了常用分类算法不足.通过仿真实验,与典型的多类分类算法对比,验证该算法的有效性,为多类分类预测研究提供了一条有效的途径.     

基于模糊支持向量机的步态识别

提出基于模糊支持向量机（FSVM）的步态识别方法,以人体步态的宽度向量作为特征,探讨直接取值法和模糊C均值2种模糊隶属度确定方法对FSVM步态分类效果的影响。实验结果表明,模糊C均值法的识别率均略好于SVM,直接取值法的识别率甚至低于SVM,因此,选取正确的模糊隶属度确定方法是FSVM能否成功应用于步态识别的关键。     

模糊支持向量机的偏移量计算方法

偏移量确定了支持向量机和模糊支持向量机（FSVM）的最优分类面位置,对分类性能具有较大影响。为提高模糊支持向量机的识别率,基于Fisher判别分析方法提出一种新的偏移量计算方法,将其用于FSVM多类分类器设计。对3种数据集的测试结果表明,使用新偏移量的FSVM识别率高于使用标准偏移量的FSVM识别率。     

支持向量机的半监督网络流量分类方法

针对传统网络流量分类方法准确率低、开销大、应用范围受限等问题,提出一种支持向量机（SVM）的半监督网络流量分类方法。该方法在SVM训练中,使用增量学习技术在初始和新增样本集中动态地确定支持向量,避免不必要的重复训练,改善因出现新样本而造成原分类器分类精度降低、分类时间长的情况;改进半监督Tri-training方法对分类器进行协同训练,同时使用大量未标记和少量已标记样本对分类器进行反复修正, 减少辅助分类器的噪声数据,克服传统协同验证对分类算法及样本类型要求苛刻的不足。实验结果表明,该方法可明显提高网络流量分类的准确率和效率。     

支持向量机在机械故障诊断中的应用研究

在机械故障诊断中,通常不具备有大量的故障样本,因此,制约了故障诊断技术向智能化方向发展。而基于统计学习理论(SLT)的支持向量机(SVM)方法正好克服了这方面的不足。统计学习理论是专门研究少样本情况下的统计规律及学习方法的理论。SLT理论和SVM方法为故障诊断技术向智能化发展提供了新的途径。该文讨论了支持向量机在故障诊断领域中应用的分类算法。并以滚动轴承的振动信号为例进行了试验论证。试验表明:SVM方法对具有少样本的故障诊断领域具有很强的适应性。