支持向量机研究进展

基于统计学习理论的支持向量机((Support vector machines, SVM)以其优秀的学习能力受到广泛的关注。但传统支持向量机在处理大规模二次规划问题时会出现训练时间长、效率低下等问题。对SVM训练算法的最新研究成果进行了综述,对主要算法进行了比较深入的分析和比较,指出了各自的优点及其存在的问题,并且着重介绍了目前研究的新进展—模糊SVM和粒度SVM。接着论述了SVM主要的两方面应用—分类和回归。最后给出了今后SVM研究方向的预见。     

支持向量机在工业过程中的应用

支持向量机(SVM)是一种基于统计学习理论，针对小样本学习问题的通用学习算法，它采用结构风险最小化(Structural risk minimization，SRM)准则，大大提高了模型的泛化能力，成功地解决了神经网络的过学习问题。目前主要应用在模式识别领域，在工业过程中的应用相对较少。本文首先从理论研究、算法结构、参数选择和扩展SVM4个方面详细介绍了近些年来支持向量机的研究进展；然后对SVM在工业过程中的应用现状进行分析，指出进一步研究的方向。     

支持向量机的算法及应用

统计学习理论是由Vapnik建立的一种专门研究小样本情况下机器学习规律的理论,支持向量机（SVM）是在这一理论基础上发展而来的一种新的通用学习方法。目前SVM已成为国际上机器学习领域新的研究热点,本文是一篇综述,旨在介绍SVM的一般理论、算法及应用,以引起国内学者的进一步关注。     

结构化支持向量机研究综述

结构化支持向量机（Structural Support Vector Machine,SSVM）是支持向量机（Support Vector Machine,SVM）的变体算法,被广泛应用于多个领域。阐述了SSVM的发展过程,详细分析了SSVM各种具体实现算法的思想及表现上的优劣;并通过实验的对比讨论,发现了SSVM的各种具体实现算法在分类性能和分类效率上优于其他SVM算法,而在稳定性上则逊于后者;基于此,给出了SSVM的后续研究方向。     

多类SVM分类算法的研究和改进

介绍分析了SVM基础理论和目前多类SVM分类算法及其优缺点,提出了一种边界向量抽取算法,并基于该算法改进了1ar和1a1两种多类SVM算法。实验结果表明该边界向量抽取算法可以有效的减少训练样本的数量,在保持分类器推广能力的条件下缩短SVM的训练时间,特别是在大样本训练数据时1arΔ可以提供最好的训练性能。     

基于球向量机的中文文本分类

SVM在文本分类中的应用是近年来文本分类领域重要的进展之一。许多实验表明,SVM在文本分类中比其他的机器学习算法表现出更高的分类精度,但在大规模数据上的收敛速度较慢,成为SVM在实际应用中的一大缺点。球向量机是一种比SVM更快的机器学习方法。本文将BVM应用于文本分类。实验表明,BVM在文本分类中的应用具有与SVM相当的精 度,而且比SVM有更少的训练时间。     

支持向量机的训练算法综述

支持向量机（SVM）是在统计学习理论基础上发展起来的新方法,其训练算法本质上是一个二次规划的求解问题.首先简要概述了SVM的基本原理,然后对SVM训练算法的国内外研究现状进行综述,重点分析SVM的缩减算法和具有线性收敛性质的算法,对这些算法的性能进行比较,并且对SVM的扩展算法也进行简单介绍.最后对该领域存在的问题和发展趋势进行了展望.     

支持向量机多分类算法的研究

支持向量机（support vector machine,SVM）是在统计学习理论基础上发展起来的一种新的数据挖掘方法,并已广泛应用于模式识别与回归分析等领域。本文重点阐述了一些典型的支持向量机多分类算法及支持向量机多标注算法。最后指出了进一步研究和亟待解决的一些问题。     

支持向量机训练算法比较研究

论文介绍了一种年轻的机器学习方法——支持向量机,详细论述了目前主要的支持向量机的训练算法,包括:二次规划算法,分解算法和增量算法。通过实验验证了普通二次规划算法的缺陷,比较了三种典型的SVM分解训练算法的性能,说明了其相对于二次规划算法的优点和对SVM训练问题的适用性,指出了训练速度优劣的原因。最后指出了未来支持向量机训练算法研究的方向。     

基于CUDA的SVM算法并行化研究

SVM算法在统计分类以及回归分析中得到了广泛的应用。而随着物联网的迅速发展,SVM算法在各种应用中往往需要解决大量数据的快速处理问题。在SVM算法并行化研究中,首先对SVM算法进行分析研究,提出了基于CUDA的SVM算法并行化方案;其次,进一步研究海量数据的处理,提出海量数据处理的并行化方案;最后,通过实验分析对比了并行化算法的性能。     

鲁棒r-支持向量回归机中参数r 的选择研究

为使r-支持向量回归机更具鲁棒性．研究了r-支持向量回归机r-SVR中参数r与输入噪声之间的关系．将r-SVR的优化问题转换成最大后验估计问题．推导出r-SVR后验估计最大化的条件．得出了输入噪声为高斯分布时r-SVR中参数r与σ之间的近似线性反比关系．为已知输入高斯噪声方差σ时合理选择r提供了理论依据．     

一种新的模糊支持向量机多分类算法*

在模糊多分类问题中,由于训练样本在训练过程中所起的作用不同,对所有数据包括异常数据赋予一个隶属度。针对模糊支持向量机（fuzzy support vector machines,FSVM）的第一种形式,引入类中心的概念,结合一对多1-a-a(one-against-all)组合分类方法,提出了一种基于一对多组合的模糊支持向量机多分类算法,并与1-a-1(one-against-one)组合和1-a-a组合的分类算法比较。数值实验表明,该算法是有效的,有较高的分类准确率,有更好的泛化能力。     

支持向量机在小字符集识别中的应用

支持向量机（SVM）是由Vapnik等人提出的一类新型机器学习方法，此方法利用较少的训练样本就可以达到比较理想的识别效果。本文应用SVM对手写数字字符集进行识别，结果表明了该方法在小字符集脱机手写体识别中的实用性。     

基于F-SVMs的多模型建模方法

针对全局模型难以精确描述复杂工业过程的问题,提出一种基于模糊支持向量机(F-SVMs)的多模型(F-SVMs MM)建模方法。用模糊支持向量分类算法(F-SVC)对输入数据进行预处理,得到多模型模糊隶属度;用模糊支持回归算法(F-SVR)建立多模型(MM)估计器。应用该方法对pH中和滴定过程进行建模,仿真结果表明,F-SVMs MM跟踪性能好、泛化能力强,比USOCPN方法和标准支持向量机(SVMs)方法具有更好的性能和推广能力。     

一种基于支持向量机的内模控制方法

在基于数据的基础上,采用SVM回归理论建立系统的正向模型和设计逆模控制器.首先简要介绍了SVMR的原理,然后将其应用于内模控制问题,并建立了SVMR模型.其次,在控制过程可逆的条件下设计了SVMR控制器.最后将该控制方法应用于一可逆非线性系统和具未知干扰的温室环境控制问题,仿真结果表明该方法与神经网络IMC相比,具有较简单的模型和较好的控制性能.     

最小二乘隐空间支持向量机

在隐空间中采用最小二乘损失函数,提出了最小二乘隐空间支持向量机（LSHSSVMs）．同隐空间支持向量机（HSSVMs）一样,最小二乘隐空间支持向量机不需要核函数满足正定条件,从而扩展了支持向量机核函数的选择范围．由于采用了最小二乘损失函数,最小二乘隐空问支持向量机产生的优化问题为无约束凸二次规划,这比隐空间支持向量机产生的约束凸二次规划更易求解．仿真实验结果表明所提算法在计算时间和推广能力上较隐空间支持向量机存在一定的优势．     

基于约简核矩阵的稀疏最小二乘支持向量机

为了解决最小二乘支持向量机模型稀疏性不足的问题,提出了一种约简核矩阵的LS-SVM稀疏化方法.按照空间两点的欧式距离寻找核矩阵中相近的行(列),并通过特定的规则进行合并,以减小核矩阵的规模,进而求得稀疏LS-SVM模型.以高斯径向基核函数为例,详细阐述了改进方法的实现步骤,并通过仿真表明了采用该方法求得的稀疏LS-SVM模型泛化能力良好.     

多类支持向量机算法综述

传统的支持向量机是基于两类问题提出的,如何将其有效的推广至多类问题仍是一个有待研究的问题。本文中作者致力于对现有的几种较有成效的多类支持向量机做一介绍,并比较其优劣,以期对研究者以后的研究能有所启发。     

一种基于SVM的产品质量鉴别方法

为解决现实生产中某些产品无法用客观分析方法进行准确品质鉴别的问题,弥补人工感观鉴定方法的不足,提出了基于SVM的产品质量鉴别方法,通过产品的化学成份完成品质分类鉴定。实验采用葡萄酒的数据做仿真计算,结果表明,该方法可以对葡萄酒的品质进行有效的鉴定,准确度较高。     

最小二乘双支持向量机的在线学习算法

针对具有两个非并行分类超平面的最小二乘双支持向量机,提出了一种在线学习算法。通过利用矩阵求逆分解引理,所提在线学习算法能充分利用历史的训练结果,避免了大型矩阵的求逆计算过程,从而降低了计算的复杂性。仿真结果验证了所提学习算法的有效性。