加快SMO算法训练速度的策略研究

SMO(序贯最小优化算法)算法是目前解决支持向量机训练问题的一种十分有效的方法,但是当面对大样本数据时,SMO训练速度比较慢。考虑到在SVM的优化过程中并不是所有样本都能影响优化进展,提出了两种删除样本的策略:一种是基于距离,一种是基于拉格朗日乘子的值。在几个著名的数据集的试验结果表明,两种策略都可以大大缩短SMO的训练时间,特别适用于大样本数据。     

基于分段层近法的SMO参数选择

传统的支撑向量机(SVM)训练速度非常慢,使用RBF核的序列最小优化(SMO)是有效的SVM改进算法.综合网格法和双线形法的优点,提出分段层近法选择参数惩罚因子C和核参数σ2.同时用来训练二维数据,实验证明,SMO算法与传统的SVM算法都使用该法选定参数,在推广识别率方面为同一水平的情况下,运行速度有很大的提高.     

一种改进的序贯最小优化算法

序贯最小优化(SMO)算法是目前解决支持向量机训练问题的一种十分有效的方法,但是当面对大样本数据时,SMO训练速度比较慢。本文分析了SMO迭代过程中目标函数值的变化情况,进而提出以目标函数值的改变量作为算法终止的判定条件。几个著名的数据集的试验结果表明,该方法可以大大缩短SMO的训练时间,特别适用于大样本数据。     

序贯最小优化的改进算法

序贯最小优化(sequential minimal optimization,简称SMO)算法是目前解决大量数据下支持向量机(support vector machine,简称SVM)训练问题的一种十分有效的方法,但是确定工作集的可行方向策略会降低缓存的效率.给出了SMO的一种可行方向法的解释,进而提出了一种收益代价平衡的工作集选择方法,综合考虑与工作集相关的目标函数的下降量和计算代价,以提高缓存的效率.实验结果表明,该方法可以提高SMO算法的性能,缩短SVM分类器的训练时间,特别适用于样本较多、支持向量较多、非有界支持向量较多的情况.     

回归支持向量机的改进序列最小优化学习算法

支持向量机(support vector machine,简称SVM)是一种基于结构风险最小化原理的学习技术,也是一种新的具有很好泛化性能的回归方法,提出了实现回归支持向量机的一种改进的SMO(sequential minimal optimization)算法,给出了两变量子优化问题的解析解,设计了新的工作集选择方法和停止条件,仿真实例说明,所提出的SMO算法比原始SMO算法具有更快的运算速度.     

支持向量机训练算法比较研究

论文介绍了一种年轻的机器学习方法——支持向量机,详细论述了目前主要的支持向量机的训练算法,包括:二次规划算法,分解算法和增量算法。通过实验验证了普通二次规划算法的缺陷,比较了三种典型的SVM分解训练算法的性能,说明了其相对于二次规划算法的优点和对SVM训练问题的适用性,指出了训练速度优劣的原因。最后指出了未来支持向量机训练算法研究的方向。     

一种改进的SMO及其在人脸识别中的应用

SMO算法是一种有效的SVM训练算法,但由于参与训练的数据大部分为非支持向量,仍然存在进一步优化的可能性。针对SMO算法的这个不足,提出了一种改进的SMO算法,并将该算法应用到人脸识别中。试验结果表明了算法的有效性。     

基于QPSO训练支持向量机的网络入侵检测

对于大规模入侵检测问题,分解算法是训练支持向量机的主要方法之一.在结构风险最小化的情况下,利用改进后的蚁群算法(QPSO)解决二次规划问题(QP),寻找最优解,并对 ArraySVM 算法进行了改进,同时对KDD入侵检测数据进行了检测.结果表明,算法精确度高于改进前的 ArraySVM 算法,并且减少了支持向量点数量.     

训练支持向量机的并行序列最小优化方法

序列最小优化(SMO)是训练支持向量机(SVM)的常见算法，在求解大规模问题时，需要耗费大量的计算时间。该文提出了SMO的一种并行实现方法，验证了该算法的有效性。实验结果表明，当采用多处理器时，并行SMO具有较大的加速比。     

边界K邻近大样本支持向量机分类

针对大样本支持向量机内存开销大、训练速度慢的缺点,提出了一种改进的支持向量机算法。算法先利用KNN方法找出可能支持向量,然后利用SVM在可能支持向量集上训练得到分类器。实验表明改进算法训练速度提高明显。