基于优化Adaboost迭代过程的SVM集成算法

为提高Adaboost算法迭代过程中生成基分类器的分类精度以及简化整个集成学习系统的复杂度,文章提出了一种优化Adaboost迭代过程的SVM集成算法。该算法提出了一种在其迭代过程中加入样本选择和特征选择的集成方法。通过均值近邻算法对样本进行选择,并利用相对熵法进行特征选择,最后利用优化得到的特征样本子集对基分类器SVM进行训练,并用加权投票法融合各个SVM基分类器的决策结果进行最终判决。通过对UCI数据集的仿真结果表明,本算法与支持向量机集成算法相比,能够在更少的样本以及特征的基础上,实现较高的识别正确率。     

基于感兴趣区域和HOG-MBLBP特征的交通标识检测

交通标识检测中样本类别间的不平衡常常导致分类器的检测性能弱化,为了克服这一问题,该文提出一种基于感兴趣区域和HOG-MBLBP融合特征的交通标识检测方法。首先采用颜色增强技术分割提取出自然背景中交通标识所在的感兴趣区域;然后对标识样本库提取HOG-MBLBP融合特征,并用遗传算法对SVM交叉验证进行参数的优化选取,以此来训练和提升SVM分类器性能;最后将提取的感兴趣区域图像的HOG-MBLBP特征送入训练好的SVM多分类器,进行进一步的精确检测和定位,剔除误检区域。在自建的中国交通标识样本库上进行了实验,结果表明所提方法能达到99.2%的分类准确度,混淆矩阵结果也表明了该方法的优越性。     

一种SVM集成的图像分类方法研究*

针对单分类器没有充分考虑数据集的特征而不能很好地完成分类识别,提出了一种基于集成学习技术的SVM集成的图像分类方法。该方法是在基于较为流行的词袋(Bag-of-Words,BOW)模型的图像分类方法的基础上,利用训练生成的不同SVM分类器分类测试图像,并将分类结果采用集成学习算法进行集成。分别采用传统的BOW模型的图像分类方法和本文提出的方法进行分类实验,实验结果表明采用SVM集成的图像分类方法明显提高了分类精度,具有一定的稳健性。     

距离决策下的模糊聚类集成模型

模糊聚类是近年来使用的一类性能较为优越的聚类算法,但该类算法对初始聚类中心敏感且对边界样本的聚类结果不够准确。为了提高聚类准确性、稳定性,该文通过联合多个模糊聚类结果,提出一种距离决策下的模糊聚类集成模型。首先,利用模糊C均值(FCM)算法对数据样本进行多次聚类,得到相应的隶属度矩阵。然后,提出一种新的距离决策方法,充分利用得到的隶属度关系构建一个累积距离矩阵。最后,将距离矩阵引入密度峰值(DP)算法中,利用改进的DP算法进行聚类集成以获取最终聚类结果。在UCI机器学习库中选择9个数据集进行测试,实验结果表明,相比经典的聚类集成模型,该文提出的聚类集成模型效果更佳。     

基于集成学习的光纤光栅传感网络入侵行为检测

针对光纤光栅传感网络结构复杂，入侵行为检测难度较高的问题，研究基于集成学习的光纤光栅传感网络入侵行为检测方法。选取支持向量机作为集成学习算法的基分类器，计算各基分类器分类光纤光栅传感网络入侵行为样本的误差率，依据基分类器的误差率确定基分类器的重要程度。利用AdaBoost集成学习算法，依据各基分类器的重要程度集成各基分类器，构建最终的集成分类器，利用所构建集成分类器，输出光纤光栅传感网络入侵行为检测结果。实验结果表明，该方法可以精准检测光纤光栅传感网络的远程入侵、拒绝服务入侵等入侵行为，数据丢弃量较低，提升了光纤光栅传感网络的通信性能。     

基于Matlab平台人脸识别仿真过程的探究

Matlab是一种科学与工程计算的高级语言,广泛地运用在包括信号与图像处理、控制系统设计等方面,我们使用Matlab作为平台,设计GUI,探究人脸识别的过程。在特征提取方面,运用主成分分析法(PCA)算法,对高维特征进行降维,保证了高位数据不失真,在分类器算法上采用支持向量机(SVM)和自适应提升(Adaboost)算法进行对比实验,SVM通过求解由全部训练样本对检测样本最佳线性表示的稀疏向量来进行分类,Adaboost算法针对不同的训练集训练同一个基本分类器(弱分类器)进行多次迭代,每次迭代增加错样本的权重,构成一个更强的最终的分类器(强分类器),实验结果表明,仿真能够达到较高的识别率和缩短识别的时间。     

基于反向标定合成数据的改进集成算法

面对获得的数据量越来越多,需要处理的数据类型也不尽相同,因此就需要寻找一种具有较好泛化性能和较高分类精度的算法。该文提出一种通过借用反向扩充训练数据样本对输入数据类型的不敏感性和径向基函数网络模型快速学习的能力来进行集成的混合算法。采用渐进P值作为受试者特征曲线下面积与0.5判断冗余特征的标准,将反向标定合成的新数据对分类器进行训练,通过比较训练误差的变化来决定新分类器的添加,最终以绝大多数投票方法对所有的分类器进行决策融合。最后以UCI数据为实验,结果表明该算法可以较好地适应于不同数据类型,得到比其它集成算法更高的分类精度。     

基于模糊核聚类和主动学习的异常检测方法

针对日志数据的异常检测获取标记数据代价过高的问题,提出一种基于模糊核聚类与主动学习的算法,即KFCM-AL算法。首先将日志解析,之后利用模糊核聚类算法将待选样本在高维空间进行划分聚类,滤去样本冗余点,同时选取聚类中心进行标记构建初始分类器,最后结合主动学习利用较小的标记代价对异常检测模型进行优化。实验结果表明,所提方法能够利用较少的标记样本获取异常检测模型的性能提升。     

基于深度学习理论下电子海图与雷达图像船舶感知信息融合

基于深度学习理论,对电子海图与雷达图像船舶感知信息融合进行了研究,通过三维点云数据特征将满足要求的点云筛选出,并将点云数据在二维平面投影进行聚类.支持向量机(SVM)分类器和视觉显著性两种方法结合跟踪船只,采集正负样本并进行正负样本的方向梯度直方图特征提取,完成SVM分类器训练;通过训练好的SVM分类器识别视频图像的目...     

基于词向量的SVM集成学习社交网络抑郁倾向检测方法

目前抑郁症的诊断手段单一、诊断率低,为此,文章提出一种基于词向量的SVM集成学习社交网络抑郁倾向检测方法。人工标注和专家校验获得训练数据,使用词向量进行文本向量化。以SVM为基分类器进行Boosting集成学习。实验结果表明,文章提出的模型可以用于抑郁倾向的检测。     

融合SVM和AdaBoost的近红外人脸识别方法

针对人脸识别算法复杂度高和误检率高的问题,提出了一种在二维主元分析(2DPCA)方法基础上,融合支持向量机(SVM)和AdaBoost训练法的近红外人脸识别新算法。该算法首先对近红外光照下的图像通过人脸检测、小波变换和二维主元分析得到"特征脸";然后,对特征数据先进行SVM分类学习,并以SVM学习结果作为初始分类器,再通过Ada-Boost方法进一步加强,形成强分类器,作用于待测样本,完成识别。实验证明,该算法不仅提高了分类器的分类能力,而且降低了计算的复杂度,在实际场景应用中有较高的识别率。     

基于自适应HCS-LBP特征的行人检测算法

针对行人检测中提取中心对称局部二值模式(Cen ter-Symmetric Local Binary Pattern,CS-LBP)时邻域中心像素没有参与计 算、人为设定的判断阈值主观性较强、未能区别对待不同子块等问题,提出一种基于自适应 HCS-LBP(Haar-like CS-LBP)特征 的行人检测算法。该算法首先构造了HCS-LBP特征编码方法,采用局部中心对称模式减少编 码长度,利用积分图像法快速计 算降低时间复杂度,并将灰度级概率引入中心像素的全局自适应阈值计算,采用高斯矩阵获 取邻域像素的局部自适应阈值,以 突显图像客观的纹理信息;然后使中心像素参与图像编码,通过信息熵确定不同子块的权重 ,以增强图像特征的描述能力;最 后使用直方图交叉核支持向量机(Histogram Intersection Kernel SVM,HIKSVM)训练样本 ,以提升分类器的准确度。在INRIA数 据库的实验结果表明,该算法能有效提高图像信息的利用率,提升行人检测算法的性能,行 人检测准确率较其他相关文献提高了0.4%~7.8%,具有较好的行人检测效果和检测精度。     

SVM-KNN分类器——一种提高SVM分类精度的新方法

本文提出了一种将支持向量机分类和最近邻分类相结合的方法,形成了一种新的分类器.首先对支持向量机进行分析可以看出它作为分类器实际相当于每类只选一个代表点的最近邻分类器,同时在对支持向量机分类时出错样本点的分布进行研究的基础上,在分类阶段计算待识别样本和最优分类超平面的距离,如果距离差大于给定阈值直接应用支持向量机分类,否则代入以每类的所有的支持向量作为代表点的K近邻分类.数值实验证明了使用支持向量机结合最近邻分类的分类器分类比单独使用支持向量机分类具有更高的分类准确率,同时可以较好地解决应用支持向量机分类时核函数参数的选择问题.     

一种基于证据理论的多类半监督分类算法

为了提高多类半监督分类的性能,提出了一种基于证据理论的多类协同森林算法（DSM-Co-Forest）.首先,通过"多对多"模式将有标记的多类数据随机拆分为多个二类数据集,并以此训练二类基分类器;然后,利用多个基分类器同时对未标记样本进行预测,并利用证据组合算法挑选出可信度较高的未标记样本;最后,将高可信度的未标记样本加入到原训练样本中,以迭代更新其他的基分类器,从而提高分类器的整体性能.通过在一些公共数据集上进行实验,并与其他半监督分类算法进行对比,验证了所提算法的可行性和有效性.     

基于分级判断的行人检测

传统的目标检测方法需要对大量候选窗(区域)做判 断,需要较大的计算量。本文根据 人体特点,提出了一种基于分级判断的方法,需要判断的候选窗逐级减少,因此可以大量减 少复杂特征和 分类器需要判断的候选窗数量,进而减少整个检测算法的计算量。算法首先对待检测图像提 取NG(norm of gradients)特征,通过线性支持向量机(SVM)判断得到行人的候选区域;然 后对候选区域提取简化 梯度方向直方图(HOG,histograms of oriented gradients)特征,采用线性SVM对候选区域 进一步的过滤;最后对经过过 滤筛选得到的区域提取多分辨率HOG特征,使用可变形部件模型(DPM,deformation part mod el)对候选区域进行检测定位行人的位置。在INRIA数据集上的实验结果表明,本文方法在保 证检测精度的情况 下,虽然相比 于原始DPM算法有少数的行人漏检,但是本文方法的检测结果中行人误检数目远少于原始DP M算法,检测速度也优于原始DPM算法。     

基于最优参数搜索的车辆中网识别方法研究

目前国内外车型识别方法中基于中网区域特征的研究较少,且分类识别的效率和精度较低。该文在分析中网格栅区域结构特征、中网窗口形状特征及区域纹理特征的基础上,提出基于最优参数搜索的改进型C参数的支持向量分类(C-SVC)车辆中网分类识别方法,该方法采用双角度约束以提高分类的效率和精度,即一方面设计基于马氏距离和a-原则对样本数据进行优化分选,并结合加权判别算法加快支持向量机的训练测试速度,以提高算法泛化效率;另一方面在核函数参数设定过程中,设计了基于先验知识的迭代最优参数搜索算法,以提高分类器的分类识别精度。实验表明,上述车辆中网识别方法检测准确率达到97.53%,具有精度高、误检率低的优点,同时极大优化分类识别效率,能够满足识别分类的实时性要求。     

基于SVM算法的分类器设计

介绍了支持向量机算法的基本思想、数据分类的概念,分析了传统支持向量机算法的一般特性。用Libsvm工具箱实现了基于SVM算法的分类器设计,并用公共数据库中的数据集对设计的分类器进行了测试,重点针对训练样本的选择、参数的影响选择与优化问题进行了研究。实验结果表明,在应用支持向量机算法做数据分类时,选择合适的训练样本和参数有利于提高分类器的准确度。     

Neuroinspired Architecture for Robust Classifier Fusion of Multisensor Imagery

Two new algorithms for robust and fault-tolerant classifier combination are presented. The attractor dynamics (AD) algorithm models some properties of sensory integration in the central nervous system and is based on the application of the dynamical systems for classifier fusion. The classifier masking (CM) algorithm is a nonneural version of the AD algorithm based on finding intersecting classifier intervals. Both of the proposed algorithms employ the idea of consensus among individual classifiers. The individual classifiers have been trained using resampled feature sets. They fuse the information from advanced synthetic aperture radar, medium resolution imaging spectrometer, and advanced along track scanning radiometer envisat satellite sensors for the improved sea ice classification. The results of our experiments show that training and combing the individual classifier outputs in a multiple classifier system significantly improve the robustness and the fault tolerance of the classification system as compared to the single classifier combining all sources of information. The robustness of the single classifier has been largely reduced in cases of single sensor failures (87.9 % in normal conditions versus 64.8% and 66.1% for two artificially corrupted data sets), whereas the CM algorithm is more tolerant to the sensor and preprocessing errors (86.4% in normal conditions versus 78.9% and 73.6% for two artificially corrupted data sets). The performance of the CM algorithm is superior to those of the simple multiple classifier combination strategies based on classifier averaging and majority voting (78.9% versus 70.9% and 69.5%, respectively) because the AD and CM algorithms are able to discard the corrupted classifier outputs based on classifier agreement and, in fact, represent hybrid approaches combining the properties of classifier averaging and classifier selection methods.     

基于改进遗传算法的入侵检测技术的设计与实现

天地一体化网络处在开放的电磁环境中,会时常遭受恶意网络入侵。为解决网络中绕过安全机制的非授权行为对系统进行攻击的问题,提出一种改进的遗传算法。该算法以决策树算法为适应度函数,通过删除数据集中的冗余特征,显著提高了对网络攻击的拦截率。通过机器学习进行异常分类,并利用遗传算法的特征选择功能,增强机器学习方法的分类效率。为验证算法的有效性,选用UNSW_NB15和UGRansome1819数据集进行训练和检测。使用随机森林、人工神经网络、K近邻和支持向量机等4种机器学习分类器进行评估,采用准确性、F1分数、召回率和混淆矩阵等指标评估算法的性能。实验证明,遗传算法作为特征选择工具能够显著提高分类准确性,并在算法性能上取得显著改善。同时,为解决弱分类器的不稳定性,提出一种集成学习优化技术,将弱分类器和强分类器集成进行优化。实验证实了该优化算法在提高弱分类器稳定性方面性能卓越。     

凸组合核函数的支持向量机高光谱图像分类

支持向量机的高光谱图像分类中,单核函数存在局限性。为了提高分类器的分类精度和支持向量机模型的泛化能力,利用高斯径向基核和多层感知核进行凸组合构造复合核函数支持向量机,证明了该函数满足作为核函数的判决Mercer条件,并进一步将凸组合核函数支持向量机应用到高光谱图像分类中,完成了建模和实验验证。实验结果表明,凸组合核函数具有较好的鲁棒性,且该类支持向量机的分类精度和KAPPA系数较单核SVM均得到了有效的提高,是一种解决多分类问题行之有效的分类器。