基于特征加权的支持向量回归机研究

基于统计学习理论的支持向量回归机有比较好的泛化能力,然而当样本含有与该问题不完全相关甚至完全无关的特征时,会使得各个特征对问题的相关程度差异很大,从而使得支持向量回归机的效果受到影响。为了解决这个问题,提出了一种基于特征加权的支持向量回归机。模拟的计算结果显示出此方法的有效性。     

基于边界鉴别分析的递归维数约简算法

提出一种基于边界鉴别分析的递归维数约简算法.该算法把已求取边界鉴别向量正交于待求超平面法向量作为支持向量机(SVM)优化问题新的约束条件;然后对改进SVM进行递归求解,得到正交边界鉴别向量基;最后将数据样本在正交边界鉴别向量上投影实现维数约简.该算法不仅克服了现有维数约简算法难以支持小样本数据集、受数据样本分布影响等问题,而且抽取的特征向量具有更优的分类性能.仿真实验说明了算法的有效性.     

结构化支持向量机研究综述

结构化支持向量机（Structural Support Vector Machine,SSVM）是支持向量机（Support Vector Machine,SVM）的变体算法,被广泛应用于多个领域。阐述了SSVM的发展过程,详细分析了SSVM各种具体实现算法的思想及表现上的优劣;并通过实验的对比讨论,发现了SSVM的各种具体实现算法在分类性能和分类效率上优于其他SVM算法,而在稳定性上则逊于后者;基于此,给出了SSVM的后续研究方向。     

鲁棒的光滑支持向量机

光滑支持向量机(Smooth Support Vector Machine,SSVM)是传统支持向量机的一种改进模型,它利用光滑方法将传统支持向量机的二次规划问题转化成无约束优化问题,并使用Newton-Armijo算法求解该无约束优化问题。在光滑支持向量机的基础上提出了鲁棒的光滑支持向量机(Robust Smooth Support Vector Machine,RSSVM),其利用M-estimator代替SSVM中基于L2范数的正则化项,并利用半二次最小化优化方法求解相应的最优化问题。实验结果表明所提方法可以有效地提高SSVM的抗噪声能力。     

基于特征选择和支持向量机的托攻击检测方法

为了提高支持向量机的托攻击检测效果,提出一种不同于单一算法的基于特征选择和支持向量机的托攻击检测方法。首先定义特征的样本差异性度量,并由此推导出特征的类别可分性度量作为特征选择准则,然后用支持向量机评估所选特征子集的有效性,在不损失样本信息的前提下,通过递归反向特征剔除算法实现检测特征的自动优选,最后利用支持向量机来检测攻击用户概貌。在标杆数据集上与文献中的经典方法进行实验比较和分析,结果显示该方法可以有效地提取最具检测能力的特征子集,同时能获得更好的检测效果,证明了方法的有效性。     

基于向量投影的支持向量机增量算法

提出一种新的基于向量投影的支持向量机增量式学习算法.该算法根据支持向量的几何分布特点,采用向量投影的方法对初始样本及增量样本在有效地避免预选取失效情况下进行预选取.选取最有可能成为支持向量的样本形成边界向量集,并在其上进行支持向量机训练.通过对初始样本是否满足新增样本集KKT条件的判断,解决非支持向量向支持向量转化的问题,有效地处理历史数据.实验表明,基于向量投影的支持向量机增量算法可以有效地减少训练样本数,积累历史信息,提高训练的速度,从而具有更好的推广能力.     

光滑支持向量机的原理和进展

支持向量机是数据挖掘的新方法,由于其显著的优点,因此得到了广泛的应用.光滑支持向量机是标准支持向量机的一种改进形式,其应用已显示出了优越性.该文论述光滑支持向量机(SSVM)的基本原理、SSVM 模型、多项式光滑的支持向量机模型以及一类新的光滑函数.讨论光滑支持向量机目前尚未解决的一些关键问题,并展望了今后的发展趋势,为进一步研究光滑支持向量机理论提供了基本思路.     

加权间隔结构化支持向量机目标跟踪算法

目的 目标在跟踪过程中,各种因素的干扰使得跟踪结果存在不确定性。因此,将跟踪过程中所提取样本的可靠性融入跟踪模型中,有助于克服低可靠性样本对跟踪算法的影响。为此,基于最近的结构化支持向量机（SSVM）跟踪算法,提出一种包含样本置信度的加权间隔结构化支持向量机跟踪模型（WMSSVM）,以增强SSVM跟踪算法性能。方法 首先,基于打分和位置重合率估计样本可靠性;其次,建立WMSSVM模型处理具有不同置信度的跟踪样本训练问题,并采用对偶坐标下降优化算法求解跟踪模型。结果 在包含100个视频的OTB100跟踪数据集上进行测试,提出的WMSSVM跟踪器与基准跟踪器Scale-DLSSVM相比,在精准度和成功率两个指标上分别提高了1%和2%。与最近的跟踪算法相比,提出的方法也表现出更好的性能。结论 本文首次将样本的可靠性融入结构化支持向量机跟踪模型,并提出一种基于加权间隔的结构化支持向量机跟踪模型及其优化求解方法,在包含100个视频序列的跟踪数据集上验证了提出方法的有效性,本文提出的算法能够适应复杂场景下的跟踪任务,并在背景混杂、目标形变、遮挡、运动模糊、目标出界、快速位移等类别的视频中表现出优异的性能。     

相关向量机在车型识别中的应用研究

相关向量机是一种稀疏的贝叶斯学习算法,对非线性、高维数的小样本问题有非常好的分类效果和学习推广能力.而且使用较少的核函数,研究了用相关向量机技术进行车型识别,设计了基于相关向量机的车型分类器.实验结果表明,基于相关向量机的车型分类器不仅具有基于支持向量机的车型分类器的相同性能,而且比支持向量机使用更少的核函数,实验取得了较好的分类效果.     

改进向量投影的支持向量预选取方法

针对基于向量投影的支持向量预选取方法选取投影直线过于简单粗糙,导致需要选取较多的边界向量才能包含原始问题的支持向量的问题,提出了一种新的支持向量预选取方法.该方法通过定义好的投影直线具备的3个必要特征,提出:对于线性可分情况,利用Fisher线性判别算法来获取最佳的投影直线;对于非线性可分情况,利用特征空间中心向量所在直线作为相应的投影直线.由于该方法确定的投影直线可以更好地对样本投影进行分离,因此,与基于向量投影的支持向量预选取方法相比,该方法可用更少的原始样本来构造边界向量集合,可有效降低支持向量机算法的时空复杂度.在两个人工数据集和一个现实数据集上的实验表明,所提方法不仅可以达到以往各种实用的支持向量机算法分类精度,而且更为高效.