基于MTC结构的支持向量机并行训练算法

为加快支持向量机的训练速度,提出一种新型的"多重三叉级联(MTC)"学习结构,具有反馈速度快、计算节点利用率高、反馈的支持向量多等优点。基于该结构设计了支持向量机的并行训练算法,并严格证明了新算法能够收敛到支持向量机的最优解。数值实验结果表明,新算法具有非常高的加速比和并行效率,需要的训练时间显著地少于Graf等提出的Cascade SVM算法。     

支持向量机的快速分类算法

支持向量机（SVM）算法在训练集的规模很大特别是支持向量很多时,支持向量机的学习过程需要占用大量的内存,算法的速度较慢。为此,笔者提出一种新的SVM快速分类算法。该算法通过选择边界向量,构造新的训练样本,减少了参与训练的样本数目。实验证明,该算法不仅能保证原算法的精度,具有良好的推广能力,而且提高了算法的速度。     

基于壳向量的线性支持向量机快速增量学习算法

提出了一种新的基于壳向量的增量式支持向量机快速学习算法.在增量学习的过程中，利用训练样本集中的几何信息，在样本中选取一部分最有可能成为支持向量的样本--壳向量，它是支持向量集的一个规模较小的扩展集，将其作为新的训练样本集，再进行支持向量训练.这在很大程度上减少了求取支持向量过程中的二次优化运算时间，使增量学习的训练速度大为提高.与单纯使用支持向量代表样本数据集合进行增量学习的传统算法相比，使用该算法使分类精度得到了提高.针对肝功能检测标准数据集（BUPA）的实验验证了该算法的有效性.     

改进孪生支持向量机的一种快速分类算法

为了提高孪生支持向量机(TSVM)的泛化性能,基于结构风险最小化的原则重构TSVM的原始优化问题,提出改进的TSVM(ITSVM)分类模型。为了加快ITSVM的训练进程,将坐标下降算法和收缩技术相结合求解该模型。仿真实验和真实数据实验表明,该方法不仅具有良好的分类性能,而且具有很快的学习速度。     

一种改进的支持向量机序列最小优化算法

提出一种改进的序列最小优化算法,它在选取工作集时选取优化步长最大的违反KKT条件的样本和其配对样本,并且对求解过程进行简化,从而使训练过程速度更快。实验表明,该算法是有效、可行的。     

支持向量机在线训练算法及其应用

针对支持向量机在线训练算法训练速度较慢和无法处理边缘支持向量集合为空的缺点,以KKT条件和拉格朗日乘数法为基础,用严格的数学推导得到一种改进的训练算法.通过建立一个矩阵缓存来保存与核函数相关的数据,给出在算法中有效操作该矩阵缓存的方法以加快训练速度;边缘支持向量集合为空时,修改模型的偏值项使样本进入该集合,训练算法得以继续运行;并讨论了该算法在在线系统辨识中的应用.仿真实验和分析结果表明: 对于非线性时变系统,改进算法的建模精度较高,训练速度较原算法有了很大的提高.     

阴影集的模糊支持向量机样本选择方法

样本选择可以提高模糊支持向量机训练速度并在一定程度上提高其抗噪能力,但存在有效样本选择困难和选样率高的问题,利用阴影集对模糊集的分析能力,提出一种新的基于阴影集的模糊支持向量机样本选择方法,将模糊集合划分为可信任、不可信任及不确定3个子集,仅在可信任和不确定子集中选样,并分别采用子空间样本选择和边界向量提取的方法选样．实验结果表明,该方法在保持分类器泛化能力的前提下可以有效降低选样率和训练时间．因该方法去除了样本中的不可信任数据,所以当训练样本中含有噪声时,还可以有效提高分类器的分类性能．     

支持向量机分类器的快速样本选择法

当样本集很大时，训练支持向量机需要很大的内存空间和很长的CPU占用时间．为了减轻支持向量机训练过程中的计算负担，提出一种快速的改进算法，该算法只选择靠近最优超平面的样本．实验结果表明：当训练集很大时，训练时间及预处理的时间都得到了削减，同时，分类精度并没有损失．     

基于模糊k近邻的样本预选取的支持向量机分类算法

在支持向量机（SVM）方法中采用模糊☆近邻方法进行样本预选取,旨在保留最优分类超平面附近的样本点,去除远处样本点,使训练样本集减小,消除冗余,从而减小所需内存．实验结果表明,该方法无论是训练速度还是分类精度都远远好于单独的SVM分类器．     

一种改进的简化支持向量机

在针对大样本问题时,支持向量机所需训练时间和内存都急剧增加。为解决这一问题,提出一种改进的支持向量机简化方案。根据能成为支持向量的样本主要分布在边界上,该方案提出改进提取边界样本的方法提高约简率,保留边界样本并约简非边界样本来减小样本规模。经实验验证,此约简方法约简效果好,泛化性能几乎没有损失,表明该方案有效可行。     

粗支持向量机分类建模方法

为了克服样本模式的复杂性、噪声的影响以及信息的不完整性问题,利用粗糙集和支持向量机(SVM)的优点,把粗糙集理论用于二分类球形SVM,提出一种称为粗支持向量机分类建模方法.粗糙集具有刻画不确定、不完整数据和复杂模式的能力,分类结果能够体现出数据的不确定性,但是它不仅不具备良好的学习能力,而且也不能保证分类模型具有良好的推广能力;SVM具有良好的推广性能,但是对不确定数据的建模能力较差.本文把分类结果分为正域、边界域和负域,由此来判断不确定数据样本的分类结果的不确定性程度.通过调整参数来调节边界的宽度和允许建模的在野点样本的比例,提高分类模型的灵活性.仿真结果说明了算法的有效性.     

基于支持向量机的增量学习算法研究

分析了支持向量机理论中支持向量的特性,利用支持向量与样本空间划分的等价性,提出一种新的基于支持向量机的增量学习算法.该算法考虑新增样本集的分布可能改变对已有样本的分类结果,利用支持向量的分布特性,用对样本的划分差集构造新的支持向量集和分类平面,使差集中的样本点对分类贡献尽可能最大,有效提高了分类精度.同时差集操作简单易行,有效降低了问题的计算复杂度.实验结果表明,与常规增量算法相比,该算法在不改变时间复杂度量级的前提下对分类精度有显著提高.     

一种用于多分类问题的改进支持向量机

针对非均衡分布的多类分类问题,为提高支持向量机(SVM)算法的性能,提出了一种改进的SVM算法. 将遗传算法(GA)与传统SVM算法结合,构造出一种参数最优的进化SVM(GA-SVM), SVM模型采用径向基函数(RBF)作为核函数,利用格雷码编码方式对SVM算法的模型参数进行遗传编码和优化搜索,将搜索到的优化结果作为SVM的最终模型参数. 在两个不同特性的数据集上进行仿真测试,结果表明,与使用交叉验证策略的简单SVM相比,改进后的GA-SVM算法在多类非均衡问题上明显提高了分类正确率,学习速度也有提高.     

基于支持向量机的增量式算法

为了扩展支持向量机在大规模数据集和成批出现数据领域的应用,提出了一种基于支持向量机的增量式学习算法.利用标准的支持向量机算法训练得到初始的目标概念,通过增量式步骤不断更新初始的目标概念.更新模型是求解一个与标准支持向量机具有类似的数学形式的凸二次规划问题.证明了在可分情况下,如果新增加的样本不是位于边界区,那么增量式过程既不会改变分类平面也不会改变分类平面的表达.与现有的增量式支持向量机算法相比,该算法无需额外计算就可实现增量式的逆过程并且训练时间与增量式步骤数成反比.实验结果表明,该算法满足稳定性、能够不断改进性能以及性能回复三个准则.     

基于支持向量机分类器的数据链信号调制方式识别

鉴于通信信号的调制方式识别技术在非合作通信中具有重要的地位,针对美军Link-11、Link-16、Link-22、CDL数据链信号的调制方式(MSK、BPSK、QPSK、OQPSK、π/4-DQPSK、8PSK),研究了各调制信号在航空信道条件下的平方谱、高阶累积量、四次方谱、码元速率等特征参数的提取.然后,运用支持向量机(SVM)分类器对六种数据链信号的调制方式进行了识别,并利用粒子群优化(PSO)算法对支持向量机分类器参数进行优化.仿真结果表明,相比决策树分类器,SVM分类器在低信噪条降下提高了整体识别率;采用PSO算法则减少了SVM分类器参数选择的盲目性.     

基于作用集的一类支持向量机递推式训练算法

为了求解一类支持向量机（1-SVM）的二次规划问题（QPP）,利用该QPP的稀疏解集性质,提出了基于作用集的1-SVM递推式训练算法. 将支持向量集设定为作用集,迭代地局部优化作用集以获得全局最优解,并引进递推式算法降低计算复杂度。不同于序贯最小优化（SMO）收敛目标函数的思路,该算法寻找支持向量在最优状态下的分布,对Karush-Kuhn-Tucker（KKT）条件不敏感,并可获得解析的最优值。仿真结果表明,本算法在计算时间和精度上均优于SMO,可有效地应用于1-SVM的大样本学习。     

基于SVM的网络数据无监督特征选择算法

面向线性不可分的未知格式网络数据,提出了一种基于支持向量机的无监督特征选择算法。该算法通过非线性映射函数将不可分的网络数据映射到高维空间中,然后在高维空间中进行无监督的特征选择。该算法在特征选择之前不需要人工构造候选特征集合,直接从原始网络数据中自动地选择关键特征。利用人工数据集和网络数据集进行的实验结果表明:本文算法在特征选择可行性和有效性方面都有良好的表现。     

支持向量机理论与应用

支持向量机是一种新型的机器学习方法,由于其出色的学习性能,该技术已成为国际机器学习领域新的研究热点.介绍了统计学习理论和以该理论为基础的支持向量机,并简述了支持向量机目前的应用状况,指出了支持向量机研究中待解决的一些问题和今后进一步的研究方向.