一种改进的并行处理SVM学习算法

支持向量机(SVM)解决小样本、非线性及高维模式识别问题有许多优势,但处理大规模数据集时训练速度缓慢.为此在循环迭代算法的基础上,提出改进的SVM学习算法.该算法将大规模数据集划分为若干个小数据集,然后并行的在各个小数据集上训练SVM,再采用合并算法对SVM进行两两合并,得到最终的SVM.最后通过仿真实验发现,改进的SVM学习算法可以加快训练速度,并具有较高的识别率.     

基于支持向量机的企业信用风险评估研究

介绍了小样本学习的通用学习算法——支持向量机（SVM）,建立了基于SVM的企业信用风险评估模型,并将支持向量机非线性分类器应用于信用风险的评估中.分析对比了选取不同核函数和参数的实验结果,同时实验结果表明,相比传统的人工神经网络,SVM在有限样本情况下具有良好的泛化能力.     

基于主动学习的支持向量机算法

针对支持向量机（svM）模型不能有效处理海量数据挖掘的问题,提出一种改进的基于主动学习的支持向量机（AL_SVM）方法。该方法首先将训练集随机划分为多个独立同分布的子集,并选择其中一个子集作为初始训练集来训练SVM得到初始分类器和支持向量集,然后根据已经得到的分类器信息在剩余样本集中选择对于分类器改进作用最大的有价值样本。并与已得到的支持向量集合并构成新训练集,以更新分类器,从而在保留重要支持向量信息的前提下,去除大量不重要的支持向量,一定程度上避免了过学习问题,提高了学习效率。实验表明,AL_SVM方法能够在保持学习器泛化能力的同时提高其学习效率。     

基于支持向量机的图像预测编码算法

提出了一种利用支持向量机（SVM）构建预测器的图像压缩预测编码算法。该算法将遗传算法引入支持向量机中,在自学习的过程中,能够自动调整SVM的核参数,获取准确的图像信息。通过仿真试验,并与传统预测编码方法、神经网络预测编码方法进行比较,结果证明该算法恢复图像效果最好。     

基于径向基小波核的多尺度小波支持向量机

普通支持向量机(SVM)方法用于多尺度回归建模时不能取得满意的精度,而现有的多尺度SVM算法存在只适合均匀分布的样本并可能收敛于局部极值等问题.为解决上述问题,本文提出了一种基于径向基小波核的多尺度小波支持向量机学习算法.文中提出并证明了一种新的径向基小波支持向量核,可提高小波SVM的训练速度和逼近精度.在此基础上,通过解一个二次优化问题可求出多尺度回归建模问题的全局最优解.最终得出的多尺度回归模型能够有效地逼近多尺度信号.仿真结果验证了所提算法的有效性.     

改进的投影孪生支持向量机

针对投影孪生支持向量机（Projection Twin Support Vector Machine,PTSVM）在训练和求解过程中存在的问题,提出了一类改进的投影孪生支持向量机（Improved PTSVM）,简称为IPTSVM.该文首先构造了改进的线性投影孪生支持向量机,然后利用核技巧轻松将其推广到了非线性形式.本文的主要贡献有：（1）提出了投影孪生支持向量机的新模型,克服了原始PTSVM在训练之前需要求解两个逆矩阵的问题;（2）继承了传统SVM（Support Vector Machine）的精髓,利用核技巧直接将线性IPTSVM推广到非线性形式;（3）引入了一个新的参数,可以调节模型的性能,提高了IPTSVM的分类精度.实验结果表明,与PTSVM算法相比较,IPTSVM不仅提高了分类精度,而且克服了PTSVM的一些不足.     

基于错分样本的AdaBoost支持向量预选取算法

支持向量机在大样本情况下训练速度慢,支持向量预选取可以解决这个问题.AdaBoost算法重点关注错分样本,而错分样本一般都处于分类边界,支持向量就由分类边界样本构成.因此,提出基于错分样本的AdaBoost支持向量预选取算法,该算法通过AdaBoost提升过程,使得越是容易被错分的样本权值越大,从而实现支持向量的预选取,通过仿真实验验证了算法的有效性.     

带拒识能力的双层支持向量模型分类器

本文构造了一种带拒识能力的双层支持向量模型分类器.在训练学习过程中,首先对各类样本特征空间求取最小的包含球形边界,得到各类样本的球形支持向量域表示.这样对于输入的非目标样本即可利用各类的支持向量域进行拒识或接受处理;然后针对接受的样本再利用基于超平面分割的SVM训练器进行分类判决.无论是在第一层求取边界的优化问题中,还是在第二层的分类超平面优化过程中,都采用相乘性更新迭代规则直接求解,优化速度与最小二乘支持向量机(LS-SVM)相当.仿真实验表明本文提出的通过引入拒绝层和判决层的新支持向量模型策略是合理可行的,在实际模式识别领域具有广阔的应用前景.     

一种基于内壳向量的SVM增量式学习算法

本文针对支持向量机难以快速有效地进行增量式学习的问题,提出了一种基于内壳向量的支持向量机增量式学习算法.算法通过线性规划运算求得最可能包含支持向量的壳向量和内壳向量集合,在保证分类精度的前提下最大程度地缩小训练集规模,进而在新的训练集中快速训练支持向量机.将该算法应用于公开数据及低空飞行声目标分类识别,结果表明,新算法...     

基于支持向量机的Web文本分类方法

Web文本分类技术是数据挖掘中一个研究热点领域，而支持向量机又是一种高效的分类识别方法，在解决高维模式识别问题中表现出许多特有的优势。文章通过分析Web文本的特点，研究了向量空间模型（VSM）的分类方法和核函数的选取，在此基础上结合决策树方法提出了一种基于决策树支持向量机的Web文本分类模型。并给出具体的算法。通过实验测试表明，该方法训练数据规模大大减少，训练效率较高，同时具有较好的精确率（90．11％）和召回率（89．38％）。     

基于FCM与KKT条件的增量学习方法

增量学习方法的思想是仅利用部分相关的样本集参与训练,即能够保留历史样本知识,又能够不断地吸收新的知识,提高机器学习效率和精度,解决了大量样本训练时间长和存储空间不足的问题。因此,如何有效地丢弃大量无效的样本点是增量学习算法研究的重点。文中提出了一种FCM(Fuzzy C-Means)和KKT(Karush-KuhnTucker)条件结合的增量学习方法,分别从历史样本集和新增样本集两个阶段对无效样本进行过滤,利用余下的样本进行训练。最后,利用UCI数据库中的4组数据进行实验分析,结果证明训练精度与全数据样本的训练精度几乎完全拟合。     

线性可分问题的支撑向量稳健感知器及其几何训练算法

分类器的稳健性能是分类器的重要性质之一。支撑向量机SVM和稳健感知器得到的都是最优分类面，都具有很强的稳健性能。SVM构造的是到所有支撑向量(距分类面最近的样本)等距离的最优分类面，SVM算法需要求解一个二次型寻优问题；而稳健感知器构造的是到所有基(各模式类的边界样本)距离都较远的最优分类面，稳健感知器需要求解一系列的线性规划。文章在二者的基础上提出了适用于线性可分问题的支撑向量稳健感知器及其几何训练算法．它将问题转化成了一系列的线性方程组，它将比SVM的二次型寻优具有更快的速度。实验仿真表明了该算法的高效性。     

支撑矢量预选取的双色Voronoi图方法

支撑矢量机是在统计学习理论的基础上发展出来的一种新的模式识别方法,在解决小样本、非线性及高维模式识别问题中表现出许多特有的优势,在支撑矢量机中,支撑矢量的选取相当困难,成为其应用的瓶颈问题。该文利用Voronoi图在特征空间特有的构造特性,提出了一种预先选取支撑矢量的新方法双色Voronoi图方法。该方法针对数据在空间的分布特性,在训练支撑矢量机以前,利用样本数据的双色Voronoi图确定候选的支撑矢量,然后在这些预选的矢量上进行学习。试验证明了该方法的有效性及可行性。     

基于改进的混合学习模型的手写阿拉伯数字识别方法

在特征空间维数较高的手写阿拉伯数字识别问题中,冗余的特征往往会意外增加学习模型刻画问题空间的复杂度,影响手写阿拉伯数字识别的效率和精确度。该文提出了一种基于边界对特征的敏感度值进行特征选择的支持向量机树混合学习模型,依据当前中间节点上的分类曲面对子样本空间中的样例特征的敏感程度选择特征,在新构建的子样本集上训练子节点上的支持向量机。UCI机器学习数据库中手写阿拉伯数字识别问题的仿真结果表明,与其他算法相比,该文提出的方法能够在提高或保持手写阿拉伯数字高识别精确率的同时,精简问题空间,从而简化混合学习模型的中间节点和整体结构。     

基于空间正则化约束的支持向量相关滤波器目标跟踪方法

基于支持向量相关滤波器(Support Correlation Filters,SCF)的目标跟踪方法存在严重的样本边界不连续问题,因此模型判别能力受到严重限制。本文将空间正则化项引入到SCF中,提出了基于空间正则化约束的支持向量相关滤波器(Spatially Regularized SCF,SRSCF)模型。相比于SCF,SRSCF不仅可以借助更大的图像区域进行模型学习,同时也能缓解样本的边界不连续问题对模型学习的负面影响,由此得到判别能力更强的模型。此外,本文提出了一种ADMM(Alternating Direction Method of Multiplier)算法求解SRSCF模型,其中每个子问题具有解析解。实验结果表明,相较于SCF,SRSCF能够有效地提升跟踪精度,同时仅增加较少的计算开销。     

结构风险最小化近邻分析解决大规模训练集支持向量机学习问题

SVM是利用靠近边界的少数向量来构造最大间隔的分类超平面,当海量样本之间存在相互混迭时,支持向量数目急剧增加,导致训练难度增大。针对该问题,本文将结构风险最小化近邻分析与支持向量机相结合构成了一种新的SVM学习方法。它首先根据各个训练数据的类间最近邻距离利用结构风险最小化近邻分析选择训练子集;在选择的样本子空间内采用乘性规则直接求取Lagrange因子,而不是传统的二次优化方法;最后加入附加剩余样本进行交叉验证处理,直到算法满足收敛性准则。各种分类实验表明本文提出的算法具有良好的性能,特别是在训练样本庞大,支持向量数量较多的情况下,能够较大幅度的减少计算复杂度,提高分类速度。     

基于密度敏感最大软间隔SVDD不均衡数据分类算法

为了提高传统支持向量域描述（C-SVDD）算法处理不均衡数据集的分类能力,提出一种基于密度敏感最大软间隔支持向量域描述（DSMSM-SVDD）算法.该算法通过对多数类样本引入相对密度来体现训练样本原始空间分布对求解最优分类界面的影响,通过在目标函数中增加最大软间隔正则项,使C-SVDD的分类边界向少数类偏移,进而提高算法分类性能.算法首先对每个多数类样本计算相对密度来反映样本的重要性,然后将训练样本输入到DSMSM-SVDD中实现数据分类.实验部分,讨论了算法参数间的关系及其对算法分类性能的影响,给出算法参数取值建议.最后通过与C-SVDD的对比实验,表明本文建议的算法在不均衡数据情况下的分类性能优于C-SVDD算法.