多类支持向量机文本分类方法

文本分类是数据挖掘的基础和核心,支持向量机（SVM）是解决文本分类问题的最好算法之一。传统的支持向量机是两类分类问题,如何有效地将其推广到多类分类问题仍是一项有待研究的课题。介绍了支持向量机的基本原理,对现有主要的多类支持向量机文本分类算法进行了讨论和比较。提出了多类支持向量机文本分类中存在的问题和今后的发展。     

一种基于中心型支持向量机的多类别分类算法

文章主要探讨了支持向量机在数据挖掘中的应用问题。在对中心型支持向量机的研究改进过程中,结合增量型支持向量机算法,将问题域扩展到多类别分类问题领域,从而设计了一个基于支持向量机技术处理样本均衡型和增量型的分类算法(theMBI-SVM)。在UCI数据库上进行了实验,结果证实该算法具有较高的稳定性、可行性和实用性。     

多类支持向量机在文本分类中的应用

传统的支持向量机（SVM）是两类分类问题,如何有效地将其推广到多类分类问题仍是一项有待研究的课题。本文在对现有主要的四种多类支持向量机分类算法讨论的基础上,结合文本分类的特点,详细介绍了决策树支持向量机和几种改进多类支持向量机方法在文本分类中的应用。     

支持向量机多分类算法的研究

支持向量机（support vector machine,SVM）是在统计学习理论基础上发展起来的一种新的数据挖掘方法,并已广泛应用于模式识别与回归分析等领域。本文重点阐述了一些典型的支持向量机多分类算法及支持向量机多标注算法。最后指出了进一步研究和亟待解决的一些问题。     

多分类孪生支持向量机研究进展

孪生支持向量机因其简单的模型、快速的训练速度和优秀的性能而受到广泛关注.该算法最初是为解决二分类问题而提出的,不能直接用于解决现实生活中普遍存在的多分类问题.近来,学者们致力于将二分类孪生支持向量机扩展为多分类方法并提出了多种多分类孪生支持向量机.多分类孪生支持向量机的研究已经取得了一定的进展.本文主要工作是回顾多分类孪生支持向量机的发展,对多分类孪生支持向量机进行合理归类,分析各个类型的多分类孪生支持向量机的理论和几何意义.本文以多分类孪生支持向量机的子分类器组织结构为依据,将多分类孪生支持向量机分为：基于“一对多”策略的多分类孪生支持向量机、基于“一对一”策略的多分类孪生支持向量机、基于“一对一对余”策略的多分类孪生支持向量机、基于二叉树结构的多分类孪生支持向量机和基于“多对一”策略的多分类孪生支持向量机.基于有向无环图的多分类孪生支持向量机训练过程与基于“一对一”策略的多分类孪生支持向量机类似,但是其决策方式有其特殊的优缺点,因此本文将其也独立为一类.本文分析和总结了这六种类型的多分类孪生支持向量机的算法思想、理论基础.此外,还通过实验对比了分类性能.本文工作为各种多分类孪生支持向量机之间建立了联系比较,使得初学者能够快速理解不同多分类孪生支持向量机之间的本质区别,也对实际应用中选取合适的多分类孪生支持向量机起到一定的指导作用.     

支持向量机训练算法比较研究

论文介绍了一种年轻的机器学习方法——支持向量机,详细论述了目前主要的支持向量机的训练算法,包括:二次规划算法,分解算法和增量算法。通过实验验证了普通二次规划算法的缺陷,比较了三种典型的SVM分解训练算法的性能,说明了其相对于二次规划算法的优点和对SVM训练问题的适用性,指出了训练速度优劣的原因。最后指出了未来支持向量机训练算法研究的方向。     

一种改进的局部支持向量机算法

局部支持向量机是一种用途广泛的分类器,无论在理论研究还是实际应用方面,局部支持向量机都受到越来越多的关注。目前,许多传统的局部支持向量机算法都存在一个问题,即模型中样本比例失衡,导致无法提高分类精度。在加权支持向量机的启发下,提出了将加权思想应用在局部支持向量机Falk-SVM中的WFalk-SVM算法,并通过实验分析验证了WFalk-SVM的可行性及其有效性,最后对WFalk-SVM算法进行分析总结。     

基于SVM的中文文本自动分类研究

详细介绍了进行文本分类的过程,并着重介绍了一种新的基于结构风险最小化理论的分类算法——支持向量机,通过实验比较支持向量机算法和传统的KNN算法应用于文本分类的效果,证实了支持向量机在处理文本分类问题上的优越性。     

用SVM和LS-SVM分析变压器故障诊断

介绍并比较了支持向量机分类器和最小二乘支持向量机分类器的算法,提出了基于支持向量机的二叉树多分类变压器故障诊断模型.将标准支持向量机(C-SVM)分类器和最小二乘支持向量机(LS-SVM)分类器分别用于变压器故障诊断,通过网格搜索和交叉验证法取得支持向量机的参数,准确率较高.试验结果表明,支持向量机和最小二乘支持向量机在变压器故障诊断中具有很大的应用潜力.     

利用粗糙集理论提高SVM预测系统的实时性

支持向量机是一种新的机器学习方法,它具有良好的推广性和分类精确性。但是在利用支持向量机的分类算法处理实际问题时,该算法的计算速度较慢、处理问题效率较低。文中介绍了一种新的学习算法,就是将粗糙集和支持向量机相结合,利用粗糙集对支持向量机的训练样本进行预处理,从而缩短样本的训练时间,提高基于SVM预测系统实时性。文中最后利用该方法进行了数据试验,试验结果表明了该方法可以大大缩短样本的训练时间,提高基于支持向量机处理预测系统的效率。从而也证明了该方法的有效性。     

支持向量机中优化算法

1 引言对基于数掘的机器学习研究是目前计算智能技术的基础性工作之一,旨在从观测数据出发基于统计学理论采用相关技术对研究对象建立可信的模型,利用这一模型对未来实验作出指导性的预测。相关技术包括聚类分析、模式识别、神经网络等等。现有的学习方法多是基于样本数趋于无穷大时的渐进理论。可是在实际科研工作中,有时候很难获得较为充足     

支持向量机训练算法综述

本文介绍统计学习理论中最年轻的分支——支持向量机的训练算法，主要有三大类：以 SVMlight为代表的分解算法、序贯分类方法和在线训练法，比较了各自的优缺点，并介绍了 其它几种算法及多类分类算法．最后指出了支持向量机具体实现的方向及其在模式识别、数 据挖掘、系统辨识与控制等领域中的应用．     

支持向量机在入侵检测中的应用

入侵检测是网络安全的重要领域.安全问题的日益严峻对于检测方法提出更高的要求.支持向量机是一种基于小样本学习的有效工具.继它在字体识别,人脸识别中得到成功应用后,它被成功地应用到入侵检测领域中.介绍了支持向量机的多种算法,例如二分类的支持向量机,一分类的支持向量机,多分类的支持向量机和针对大量训练样本的支持向量机在入侵检测中的应用.通过比较发现,用支持向量机进行检测入侵大大提高了入侵检测系统的性能.     

一种SVM增量学习算法α-ISVM

基于SVM(support vector machine)理论的分类算法,由于其完善的理论基础和良好的试验结果,目前已逐渐引起国内外研究者的关注.深入分析了SVM理论中SV(support vector,支持向量)集的特点,给出一种简单的SVM增量学习算法.在此基础上,进一步提出了一种基于遗忘因子α的SVM增量学习改进算法α-ISVM.该算法通过在增量学习中逐步积累样本的空间分布知识,使得对样本进行有选择地遗忘成为可能.理论分析和实验结果表明,该算法能在保证分类精度的同时,有效地提高训练速度并降低存储空间的占用.     

基于混沌粒子群优化的SVM分类器研究

支持向量机(SVM)分类器能较好地解决小样本、非线性、高维等分类问题,具有很强的实用性。然而,支持向量机训练参数的选择对其分类精度有着很大的影响。常用的支持向量机优化方法有遗传算法、粒子群算法都存在易陷入局部极值,优化效果较差的不足。为解决上述问题在粒子群优化算法中引入混沌思想,提出了基于混沌粒子群优化算法(CPSO)的SVM分类器优化方法,CPSO算法能提高种群的多样性和粒子搜索的遍历性,从而有效地提高了PSO算法的收敛速度和精度,更好的优化SVM分类器。并以网络异常入侵检测为研究对象进行仿真,实验结果表明,根据混沌粒子群优化的SVM分类器比传统算法优化的SVM分类器的精度高,速度快。     

一种基于改进支持向量机的入侵检测方法研究

提出基于粒子群优化（Particle Swarm Optimization,PSO）算法和支持向量机（Support Vector Machines,SVM）的入侵检测方法,为优化SVM性能,使用PSO的全局搜索特性寻找SVM的最优参数[C]和[σ];为避免PSO算法陷入局部最优,引入变异操作,找到最优参数组合后进行基于PSO_SVM入侵检测算法的训练和检测,解决了入侵检测系统准确度难题。仿真实验表明该方法的检测率为92.8%,误报率为6.911 9%,漏报率为9.708 7%,对KDDCUP竞赛的最佳结果有一定程度的提高,实验结果验证了该算法的有效性和可行性。     

增量回归支持向量机改进学习算法

传统的支持向量机不具有增量学习性能,而常用的增量学习方法具有不同的优缺点,为了解决这些问题,提高支持向量机的训练速度,文章分析了支持向量机的本质特征,根据支持向量机回归仅与支持向量有关的特点,提出了一种适合于支持向量机增量学习的算法(IRSVM),提高了支持向量机的训练速度和大样本学习的能力,而支持向量机的回归能力基本不受影响,取得了较好的效果。     

Neighborhood property-based pattern selection for support vector machines

The support vector machine (SVM) has been spotlighted in the machine learning community because of its theoretical soundness and practical performance. When applied to a large data set, however, it requires a large memory and a long time for training. To cope with the practical difficulty, we propose a pattern selection algorithm based on neighborhood properties. The idea is to select only the patterns that are likely to be located near the decision boundary. Those patterns are expected to be more informative than the randomly selected patterns. The experimental results provide promising evidence that it is possible to successfully employ the proposed algorithm ahead of SVM training.     

大样本支持向量机分类策略研究

针对支持向量机对大样本学习占用内存多、训练速度慢等不足,本文归纳总结出分治、约减训练集、增量学习、并行化等四种解决策略。四种策略基于两个改进方向:其它算法结合、改变支持向量机算法结构,最终目的是减少支持向量机训练占用内存,提高训练速度。     

一种基于主动学习的SVM增量训练算法

针对SVM训练学习过程中难以获得大量带有类标注样本的问题,提出一种基于距离比值不确定性抽样的主动SVM增量训练算法(DRB-ASVM),并将其应用于SVM增量训练.实验结果表明,在保证不影响分类精度的情况下,应用主动学习策略的SVM选择的标记样本数量大大低于随机选择的标记样本数量,从而降低了标记的工作量或代价,并且提高了训练速度.