结合图模型的优化多类SVM及智能交通应用

为提高多类支持向量机分类器对多目标的分类准确度,提出一种结合无向图模型优化的多类支持向量机分类器。首先,利用余弦测度计算训练数据之间的相似度,构建包含训练数据和相似度矩阵的无向图模型,求解相似度约束矩阵。然后,将相似度约束矩阵引入多类支持向量机求解的目标函数,构建优化的多类支持向量机分类器。最后,将优化的多类支持向量机分类器用于智能交通领域,结合梯度方向直方图特征检测行人和车辆目标。实验表明,该方法检测行人和车辆目标的错误率低于经典的多类支持向量机分类器和目前主流的目标检测方法。     

粗糙支持向量机

支持向量机(SVM)是一种重要的数据机器学习工具,其有效性依赖于对数据信息获取的准确性.以往的支持向量机模型都没有考虑到数据等价类信息.为此,基于粗糙集理论和支持向量机思想,提出了一种新的支持向量机模型--粗糙支持向量机(RSVM).采用UCI机器学习数据库中的数据做对比实验,结果表明RSVM比传统支持向量机(SVM)和模糊支持向量机(FSVM)都有较高的测试精度.     

单类支持向量机融合深度自编码器的异常检测模型

大规模高维不平衡数据是异常检测中的重大挑战.单类支持向量机在处理不平衡数据方面非常有效,但不适合大规模高维数据,同时单类支持向量机的核函数对检测性能也具有重要的影响.文中提出了一个深度自编码器与单类支持向量机相结合的异常检测模型,深度自编码器不仅负责提取特征和降维,同时拟合出了一个自适应核函数.深度自编码器与单类支持向...     

支持向量机在入侵检测中的应用

入侵检测是网络安全的重要领域.安全问题的日益严峻对于检测方法提出更高的要求.支持向量机是一种基于小样本学习的有效工具.继它在字体识别,人脸识别中得到成功应用后,它被成功地应用到入侵检测领域中.介绍了支持向量机的多种算法,例如二分类的支持向量机,一分类的支持向量机,多分类的支持向量机和针对大量训练样本的支持向量机在入侵检测中的应用.通过比较发现,用支持向量机进行检测入侵大大提高了入侵检测系统的性能.     

粗糙集理论下的支持向量机新模型研究

支持向量机(SVM)是一种重要的分类工具,其有效性依赖于对数据信息获取的准确性。传统的支持向量机模型对于噪声点过于敏感,从而分类面的选取往往会偏离最优解。因此将粗糙集理论引入到支持向量机中,去解决由于噪声点和野点数据的存在而出现的过适应问题,同时将数据之间一个非常重要的关联信息等价类信息考虑进去,从而提出一种新的粗糙支持向量机(RSVM)模型。对比实验表明,新的RSVM比传统的支持向量机(CSVM)和模糊支持向量机(FSVM)尤其是在处理多类数据问题时,其测试精度有明显提高。     

局部支持向量机的研究进展

支持向量机是一种用途广泛的分类器,标准的支持向量机在预测每个样本点的类别时使用了训练集中所有的样本信息(即全局信息),然而这种全局化的方法并不蕴含一致性。局部支持向量机的提出符合"一致性蕴含局部性"的思路。首先回顾局部支持向量机的主要思想,然后阐述各种关于局部支持向量机的改进,并提出基于协同聚类的局部支持向量机用于大规模数据集,最后对局部支持向量机进行总结。     

超球体多类支持向量机理论

目前的多类分类器大多是经二分类器组合而成的,存在训练速度较慢的问题,在分类类别多的时候,会遇到很大困难,超球体多类支持向量机将超球体单类支持向量机扩展到多类问题,由于每类样本只参与一个超球体支持向量机的训练.因此,这是一种直接多类分类器,训练效率明显提高.为了有效训练超球体多类支持向量机,利用SMO算法思想,提出了超球体支持向量机的快速训练算法.同时对超球体多类支持向量机的推广能力进行了理论上的估计.数值实验表明,在分类类别较多的情况,这种分类器的训练速度有很大提高,非常适合解决类别数较多的分类问题.超球体多类支持向量机为研究快速直接多类分类器提供了新的思路.     

基于类内超平面的改进模糊支持向量机

基于类中心设计隶属度函数的模糊支持向量机能够有效地解决支持向量机对噪声、野值点敏感的问题。但是它对支持向量赋予较小的隶属度值,从而降低了其分类效果。因此,提出一种改进的隶属度函数设计方法,该方法降低了对样本几何分布的依赖,而且考虑到了支持向量机的本质特征。用类内超平面代替类中心,根据每类数据与其类内超平面的距离定义隶属度函数,以加大对容易被错分样本的惩罚,同时对离分类超平面较远且不可能成为支持向量的样本赋予较小的隶属度值。实验表明,改进的模糊支持向量机能够有效地提高分类精度。     

航空发动机振动监控新方法的研究

针对航空发动机振动监控异常样本少的问题,用单类支持向量机建立了一种振动异常检测模型,在仅对正常数据进行训练的基础上便可以进行发动机振动异常检测工作.根据近期数据的重要性要大于早期数据的重要性这一特性,提出加权单类支持向量机算法,为不同架次的样本赋予不同的权系数.实验分析结果表明了检测模型的有效性.     

模糊支持向量机的偏移量计算方法

偏移量确定了支持向量机和模糊支持向量机（FSVM）的最优分类面位置,对分类性能具有较大影响。为提高模糊支持向量机的识别率,基于Fisher判别分析方法提出一种新的偏移量计算方法,将其用于FSVM多类分类器设计。对3种数据集的测试结果表明,使用新偏移量的FSVM识别率高于使用标准偏移量的FSVM识别率。     

基于改进单类支持向量机的工业控制网络入侵检测方法

针对单类支持向量机（OCSVM）入侵检测方法无法检测内部异常点和离群点导致决策函数偏离训练样本的问题,提出了一种结合具有噪声的密度聚类（DBSCAN）方法和K-means方法的OCSVM异常入侵检测算法。首先通过DBSCAN算法,剔除训练数据中的离群点,消除离群点的影响;然后利用K-means划分数据类簇的方法筛选出内部异常点;最后利用OCSVM算法为每一个类簇建立单分类器用于检测异常数据。工控网络数据集上的实验结果表明,该组合分类器能够利用无异常数据样本检测出工控网络入侵,并且提高了OCSVM方法的检测效果。在气体管道网络数据集入侵检测实验中,所提方法的总体检测率为91.81%;而原始OCSVM算法则为80.77%。     

结合OCSVM的模拟电路故障诊断方法

基于支持向量机的传统模拟电路故障诊断方法对新故障无检测能力,且可扩展性较差。针对该问题,提出结合一类支持向量机(OCSVM)和多类支持向量机(MCSVM)的故障诊断方法。该方法采用OCSVM对故障数据进行检测和初步分类,采用MCSVM提高分类性能,以弥补OCSVM分类能力的不足。对OCSVM算法进行改进,以提高其检测和分类性能。通过模拟电路故障诊断实验验证OCSVM改进算法和联合故障诊断方法的有效性。     

基于对支持向量机的多类分类算法在入侵检测中的应用

针对基于传统支持向量机(SVM)的多类分类算法在处理大规模数据时训练速度上存在的弱势,提出了一种基于对支持向量机(TWSVM)的多类分类算法。该算法结合二叉树SVM多类分类思想,通过在二叉树节点处构造基于TWSVM的分类器来达到分类目的。为减少二叉树SVM的误差累积,算法分类前首先通过聚类算法得到各类的聚类中心,通过比较各聚类中心之间的距离来衡量样本的差异以决定二叉树节点处类别的分离顺序,最后将算法用于网络入侵检测。实验结果表明,该算法不仅保持了较高的检测精度,在训练速度上还表现了一定优势,尤其在处理稍大规模数据时,这种优势更为明显,是传统二叉树SVM多类分类算法训练速度的近两倍,为入侵检测领域大规模数据处理提供了有效参考价值。     

基于中心核对齐的多核单类支持向量机

多核学习(MKL)方法在分类及回归任务中均取得了优于单核学习方法的性能,但传统的MKL方法均用于处理两类或多类分类问题.为了使MKL方法适用于处理单类分类(OCC)问题,提出了基于中心核对齐(CKA)的单类支持向量机(OCSVM).首先利用CKA计算每个核矩阵的权重,然后将所得权重用作线性组合系数,进而将不同类型的核函...     

基于支持向量机的分类预测算法研究

分类预测是数据挖掘、机器学习和模式识别等很多领域共同关注的问题,已经存在了许多有效的分类算法,但这些算法还不能解决所有的问题。支持向量机作为一种新的分类预测工具,能根据有限样本信息在模型的复杂性和学习能力间取得平衡,并能获得更好的泛化能力。SMO算法是支持向量机中使用最多的算法,它体现了支持向量机的优点,同时也能处理大规模训练集。     

基于语义向量与OCSVM的工控网络异常行为识别

为克服基于漏洞库等传统安全防护策略的短板,实现对未知攻击行为的识别和预警.使用时间窗划分和深度包检测技术,将端到端的通信内容转化为控制行为序列.根据工控协议的语义特性,采用语义向量模型将行为序列转化为统一维度的特征向量.基于单类支持向量机（OCSVM）仅使用正常行为样本构造的异常识别模型,克服了无法从生产环境中获得异常样本的困难.对于所仿真出的多种异常行为序列,模型识别的平均准确率能够达到93%以上.     

基于局部密度的加权一类支持向量机算法及其在涡轴发动机故障检测中的应用

针对基于数据的涡轴发动机故障检测算法的分类性能较差、鲁棒性不强的问题,提出一种改进的加权一类支持向量机（WOCSVM）算法——基于局部密度的WOCSVM （LD-WOCSVM）算法。首先,对于每个训练样本,选取以该样本为中心,以全体训练样本中心到距离最远样本之间马氏距离的百分之二为半径的球体内所包含的k个近邻样本;其次,以该样本到选定的k个训练样本的中心的距离大小来评估该样本为故障样本的可能性,并以此为依据,使用经过归一化的距离来计算对应样本的权重。针对目前算法不能很好地反映样本分布特点的问题,提出了一种基于快速聚类的权重计算方法并将其命名为FCLD-WOCSVM。该算法通过求取每个训练样本的局部密度和该样本到高局部密度的距离两个参数,来确定该样本的分布位置,并利用求得的两个参数来计算该样本的权重。两种算法都是通过对可能的故障样本分配较小的权重来增强算法的分类性能。为了验证算法的有效性,分别在4个UCI数据集和T700涡轴发动机上进行仿真实验。实验结果表明,与自适应WOCSVM （A-WOCSVM）算法相比,LD-WOCSVM算法在AUC值上提高了0.5%,FCLD-WOCSVM算法在G-mean上提高了12.1%,两种算法可以作为涡轴发动机故障检测候选算法。     

支持向量机训练算法的实验比较

SVM是基于统计学习理论的结构风险最小化原则的,它将最大分界面分类器思想和基于核的方法结合在一起,表现出了很好的泛化能力。并对目前的三种主流算法SVMlight,Bsvm与SvmFu在人脸检测、MNIST和USPS手写数字识别等应用中进行了系统比较。     

改进SVM在入侵检测中的应用研究

软间隔支持向量机（SVM,support vector machine）分类算法是目前入侵检测中最好的分类异常行为的机器学习算法之一,但是它是有监督学习方法,并不能适用于检测新的入侵行为;而1类SVM方法是一种可用于检测异常的无监督学习方法,但误警率比较高。根据以上两种方法,提出了一种改进的SVM方法,仿真实验证明这种方法是一种具有低误警率的无监督学习方法,具有和软间隔SVM相似的检测能力。     

基于梯度和颜色特征的图像垃圾邮件过滤

提出以图像的梯度直方图和颜色直方图作为分类特征,分析最小二乘支持向量机(LS-SVM)算法以及该算法与传统SVM算法的区别,比较传统分类算法与LS-SVM算法的分类准确度,将LS-SVM算法用于图像垃圾邮件过滤。实验结果表明,该方法能提高图像垃圾邮件的检测率。