分布熵惩罚的支持向量数据描述

针对支持向量数据描述（SVDD）对惩罚参数相当敏感的问题,提出一种新颖的异常检测方法,称为分布熵惩罚的支持向量数据描述（DEP-SVDD）。首先,将正常样本作为数据的全局分布,并在高斯核空间中定义每个样本点与正常样本分布中心的距离度量;然后,基于该距离设计评估样本点属于正常或异常样本的概率;最后,利用此概率构造基于分布熵的惩罚度以对相应的样本进行惩罚。在9个真实数据集上,将所提方法与SVDD、密度权的支持向量数据描述 （DW-SVDD）、位置正则的支持向量数据描述（P-SVDD）、K最近邻（KNN）和孤立森林（iForest）算法进行对比实验,结果表明DEP-SVDD在6个数据集上获得了最高的分类精度,可见相较于多种异常检测方法,DEP-SVDD在异常检测中具有更好的性能优势。     

密度加权近似支持向量机

标准的近似支持向量机(PSVM)用求解正则化最小二乘问题代替了求解二次规划问题,它可以得到一个解析解,从而减少训练时间。但是标准的PSVM没有考虑数据集中正、负样本的分布情况,对所有的样本都赋予了相同的惩罚因子。而在实际问题中,数据集中样本的分布是不平衡的。针对此问题,在PSVM的基础上提出了一种基于密度加权的近似支持向量机(DPSVM),其先计算样本的密度指标,不同的样例有不同的密度信息,因此对不同的样例给予不同的惩罚因子,并将原始优化问题中的惩罚因子由数值变为一个对角矩阵。在UCI数据集上用这种方法进行了实验,并与SVM和PSVM方法进行了比较,结果表明,DPSVM在正负类样本分布不平衡的数据集上有较好的分类性能。     

多核支持向量数据描述分类方法研究

核函数、惩罚因子、核参数是影响支持向量数据描述（SVDD）分类方法分类效果的重要因素。研究了多核支持向量数据描述（MKSVDD）分类方法,给出了多核支持向量数据描述分类方法的实现步骤,基于banana数据集分析了惩罚因子和核参数对分类效果的影响,重点讨论了多核函数的权值对支持向量数据描述边界分布的影响。仿真实验结果表明,与单核支持向量数据描述分类方法相比较,多核支持向量数据描述分类方法的分类效果更佳,为实际应用时参数的选择提供了参考。     

组合代价敏感支持向量机及其应用

标准的分类器设计大多都是基于整体最小化错误率.在入侵检测、医疗诊断等领域中,不同类别的误分类通常具有不等的损失.文中采用支持向量机建立模型,在组合算法的思想下引入组合代价敏感支持向量机,弥补传统代价敏感支持向量机在分类精度上的不可控.在模型对比中引入了更为实际的对比方式,从而能更好地选取模型,以减少总体误分代价.文中考虑不同类别的误分代价的前提下建立合适的支持向量机模型,并成功地应用在个人信用分类上     

基于核空间相对密度的SVDD多类分类算法*

针对现有基于支持向量数据描述(SVDD)的多类分类算法未能充分利用重叠区域样本分布信息等问题,提出了一种基于核空间相对密度的SVDD多类分类算法DM-SVDD。该算法首先由SVDD确定包围每类数据的最小超球,然后计算位于最小超球重叠区域中每个样本在其同类样本间的相对密度,最后以各类样本相对密度的均值为标准,对重叠区域内的待测样本进行分类。实验结果表明,算法DM-SVDD是可行有效的。     

不平衡支持向量机的惩罚因子选择方法

支持向量机在处理不平衡数据集时常常不能取得良好的效果,而基于不同惩罚因子的不平衡支持向量机能够较好地处理这个问题。阐述了支持向量机在不平衡数据集上失效的原因,讨论了不平衡支持向量机的求解算法,提出了一种根据数据集分布的平均密度直接选取惩罚因子的方法,以减少传统交叉验证方法选取参数所需的时间。实验表明,与其他方法相比,这种平均密度方法能够有效提高不平衡支持向量机在不平衡数据集上的识别效果。     

非均衡数据的最小二乘支持向量机阈值新算法

针对传统的最小二乘支持向量机对于非均衡数据的分类时,分类结果具有对较大类数据的偏向性问题,为了减小分类器的负担和样本的错误率.提出一种新的最小二乘支持向量机阈值计算方法进行修正.根据线性判别思想,计算出两类样本的在分类超平面法向量上的投影点的均值和方差,依据对两类样本错分概率相等准则,给出新的阈值计算方法从而实现对超平...     

人脸确认的动态支持向量数据描述方法

人脸的确认实质上是一个一类分类问题或野点检测问题,即只需要精确地描述某一类样本的分布,而将该类样本之外大范围内的样本点视为野点.为了能精确地描述某一类样本的分布,在对国内外现有统计学习理论和核方法进行研究的基础上,针对＂人脸确认＂这一特定的应用对象,分析了已有的一类分类算法,即支持向量数据描述方法在处理动态样本中存在的不足,进而指出,随着训练样本数目的增加,该算法会因为过大的优化规模而无法实际操作,为此提出了用于人脸确认的动态支持向量数据描述算法.由于新算法在优化过程中,仅需要考虑待检测样本和原有支持向量集,从而可以大大降低优化过程中涉及的运算规模和内存需求,进而可保证人脸确认过程中的实时性与动态性要求.     

面向不平衡样本集的变速器故障分类判别算法研究

针对变速器新产品故障检测问题,提出以阶次分析进行故障特征提取和支持向量机分类器进行故障分类的方法.通过建立二层支持向量机分类判别模型和对惩罚因子C的调整,解决了在训练样本集不平衡的情况下标准支持向量机分类器的分类面偏向样本数量较多类别的问题.通过对现场数据的实验结果表明,该方法的故障识别率和运行时间比BP神经网络和标准支持向量机算法均有较大提高.     

基于支持向量数据描述的闭合超球面机

为提高支持向量数据描述的训练精度,提出一种闭合超球面机.在训练阶段利用目标类样本构造最小包围超球,利用非目标类样本调整描述边界;在测试阶段计算待测样本与最小包围超球球心的距离,根据其与超球半径的大小关系设计分类规则.不同规模和不同平衡度的数据集上的仿真结果表明,该算法分类精度高,训练时间短,将支持向量机和光滑支持向量机的运行时间降低为原来的17.17％和29.06％,将支持向量数据描述分类器的精度提高12.98％且具有较好的鲁棒性.