一种基于遗传算法的SVM决策树多分类方法

在当前的机器学习领域,如何利用支持向量机（SVM）对多类目标进行分类,同时提高分类器的分类效率已经成为研究的热点之一,有效地解决此问题对于提高目标的识别概率具有较大意义。本文针对SVM多分类问题提出了一种基于遗传算法的SVM最优决策树生成算法。算法以随机生成的决策树构建的SVM分类器对同一测试样本的分类正确率作为遗传算法的适应度函数,通过遗传算法寻找到最优决策树,再以最优决策树构建SVM分类器,最终实现SVM的多分类。将该算法应用于低空飞行声目标识别问题,实验结果表明,新方法比传统的1-a-1、1-a-r、SVM-DL和GADT-SVM方法有更高的分类精度和更短的分类时间。      

基于人工蜂群算法的支持向量机参数优化及应用

为了解决常用的支持向量机(SVM)参数优化方法在寻优过程不同程度的陷入局部最优解的问题,提出一种基于人工蜂群(ABC)算法的SVM参数优化方法。将SVM的惩罚因子和核函数参数作为食物源位置,分类正确率作为适应度,利用ABC算法寻找适应度最高的食物源位置。利用4个标准数据集,将其与遗传(GA)算法、蚁群(ACO)算法、标准粒子群(PSO)算法优化的SVM进行性能比较,结果表明,本文方法能克服局部最优解,获得更高的分类正确率,并在小数目分类问题上有效降低运行时间。将本文方法运用到计算机笔迹鉴别,对提取的笔迹特征进行分类,与GA算法、ACO算法、PSO算法优化的SVM相比,得到了更高的分类正确率。     

基于Bayesian粗糙集和布谷鸟算法的肺部肿瘤高维特征选择算法

在高维特征选择过程中最优特征子集生成和分类器 参数优化方面,提出一种基于贝叶斯粗糙集(BRS)、遗传算法(GA)和布谷鸟算法(CS) 的两阶段优化高维特征选择算法。该算法首先分析3000例肺部肿瘤CT图像的形状、灰度和纹理特征,提取104维特 征分量共同量化ROI;然后进行两阶段优化:(1) 从全局相对增益函数的角度分析了属性 重要度,结合属性约简长度和基因编码权值函数的加权和构造适应度函数,通过选择、交叉 和变异等遗传操作生成最优特征子集,在不降低分类精确度的前提下降低特征维度;(2) 利用CS对支持向量机(SVM)参数进行全局寻优;最后通过实验验证本文算法的可行性和有 效性。实验结果表明,该算法有效提升了肺部肿瘤良恶性识别能力,降低了算法的时间复杂 度。     

基于SVM决策树的网络流量分类

提出一种用支持向量机(SVM)决策树来对网络流量进行分类的方法,利用SVM决策树在多类分类方面的优势,解决SVM在流量分类中存在的无法识别区域和训练时间较长的问题。对权威流量数据集进行了测试,实验结果表明,SVM决策树在流量分类中比普通的"一对一"和"一对多"SVM方法具有更短的训练时间和更好的分类性能,分类准确率可以达到98.8%。     

非均衡数据目标识别中SVM模型多参数优化选择方法

提出了非均衡数据目标识别中SVM模型多参数优化选择方法.首先从理论上分析了SVM模型多参数选择的内涵和必要性,针对非均衡数据的分类识别,基于F测度提出了能全面反映识别性能的多参数优化选择准则.在多参数选择过程中,利用遗传算法进行模型多参数并行优化选择.提出的方法能够寻找模型多参数的全局最优解,避免陷入梯度法常出现的局部最优解情况,同时能够克服传统方法中根据经验选择SVM单参数模型时计算量太大的不足.采用国际通用的标准数据集和雷达目标HRRP数据集进行了仿真实验,实验结果表明,该方法能够得到模型多参数的全局最优值,由此确定的SVM模型分类器性能有较大提高.     

遥感图像分类中的遗传算法LVQ神经网络运用

对于遥感图像分类过程中的问题,提出遗传算法LVQ神经网络来实现遥感图像的分类。将LVQ神经网络结合遗传算法,使用遗传算法最优阈值与权值实现网络训练,使分类精度得到提高。之后融合相似灰度值创建分类图像特征矢量,使特征矢量在神经网络中输入实现训练。学习矢量量化神经算法对初值非常敏感,对遥感图像分类精度具有一定影响。最后,为了对性能进行测试,在实验过程中对比本文分类方法和SVM决策树分类方法,通过实验结果表示,文中提出的分类方法的遥感图像分类精度为95.82%,与其他分类方法相比,分类精度得到进一步提高。     

基于半监督的SVM迁移学习文本分类算法

随着互联网的快速发展,文本信息量巨大,大规模的文本处理已经成为一个挑战。文本处理的一个重要技术便是分类,基于SVM的传统文本分类算法已经无法满足快速的文本增长分类。于是如何利用过时的历史文本数据(源任务数据)进行迁移来帮助新产生文本数据进行分类显得异常重要。文章提出了基于半监督的SVM迁移学习算法(Semi-supervised TL_SVM)来对文本进行分类。首先,在半监督SVM的模型中引入迁移学习,构建分类模型。其次,采用交互迭代的方法对目标方程求解,最终得到面向目标领域的分类器。实验验证了基于半监督的SVM迁移学习分类器具有比传统分类器更高的精确度。     

基于社会情感优化算法的支持向量机参数选择

支持向量机(SVM)是广泛应用于分类和回归问题的机器学习方法。SVM做分类预测时的分类精度主要取决于参数的选择,参数选择不当将出现"过学习"或"欠学习"的情况,且容易陷入局部最优解。社会情感优化算法(SEOA)加入了人类情感因素,是一种新颖的智能优化算法,有着良好的全局优化能力。提出基于SEOA的SVM参数选择方法,同时优化核函数参数和惩罚参数。实验采用4组UCI数据集进行测试,并将SEOA算法与遗传算法、粒子群优化算法进行仿真测试结果对比。试验结果表明,SEOA较大地提高了SVM算法的寻优能力,收敛性较好,具有更高的分类精度和更少的搜索时间。     

面向自标定室内定位基于遗传算法优化SVM的视距与非视距信号分类

对于室内定位,基于安卓手机平台,利用特定频段的声技术TPSN测距模型,以到达时间(TOA)作为重要参数,可以实现高效、高实时性定位。算法中涉及到视距(LOS)与非视距(NLOS)信号wav文件分类,之前定位系统中大都使用支持向量机(SVM)完成分类。兼顾安卓手机实际使用情况与实际需求,改进了特征提取算法,并且使用遗传算法(GA)从训练样本再选择、参数寻优以及每代种群的最优保存策略三方面对SVM进行升级,提升了SVM性能。     

基于多特征融合的红外图像分类研究

针对传统红外图像目标分类方法准确率低的问题,提出了一种用结合多特征融合的粒子群优化(Particle Swarm Optimization, PSO)算法来优化支持向量机(Support Vector Machine, SVM)的方法。该方法采用方向梯度直方图(Histogram of Oriented Gradient, HOG)和局部二值模式(Local Binary Pattern, LBP)两类特征描述红外图像中目标的轮廓特征和局部纹理,从不同的方面展现红外图像的特点,在图像的特征表达上具有一定的互补性。在特征提取后对样本数据进行凸包算法计算,得到一些具有代表性的样本数据,从而提高分类计算效率;在分类模型训练时,采用PSO算法优化SVM,寻找SVM的最优惩罚因子和核参数,从而提高分类模型的准确率。实验结果表明,多特征融合的分类模型的准确率比单一特征的分类模型提高近10%,且经PSO优化的SVM最终模型的分类准确率高达99%。     

Human Activity Classification Based on Micro-Doppler Signatures Using a Support Vector Machine

The feasibility of classifying different human activities based on micro-Doppler signatures is investigated. Measured data of 12 human subjects performing seven different activities are collected using a Doppler radar. The seven activities include running, walking, walking while holding a stick, crawling, boxing while moving forward, boxing while standing in place, and sitting still. Six features are extracted from the Doppler spectrogram. A support vector machine (SVM) is then trained using the measurement features to classify the activities. A multiclass classification is implemented using a decision-tree structure. Optimal parameters for the SVM are found through a fourfold cross-validation. The resulting classification accuracy is found to be more than 90%. The potentials of classifying human activities over extended time duration, through wall, and at oblique angles with respect to the radar are also investigated and discussed.     

Classifying Multilevel Imagery From SAR and Optical Sensors by Decision Fusion

A strategy for the joint classification of multiple segmentation levels from multisensor imagery is introduced by using synthetic aperture radar and optical data. At first, the two data sets are separately segmented, creating independent aggregation levels at different scales. Each individual level from the two sensors is then preclassified by a support vector machine (SVM). The original outputs of each SVM, i.e., images showing the distances of the pixels to the hyperplane fitted by the SVM, are used in a decision fusion to determine the final classes. The fusion strategy is based on the application of an additional classifier, which is applied on the preclassification results. Both a second SVM and random forests (RF) were tested for the decision fusion. The results are compared with SVM and RF applied to the full data set without preclassification. Both the integration of multilevel information and the use of multisensor imagery increase the overall accuracy. It is shown that the classification of multilevel-multisource data sets with SVM and RF is feasible and does not require a definition of ideal aggregation levels. The proposed decision fusion approach that applies RF to the preclassification outperforms all other approaches.     

基于支持向量机的说话人辨认研究

支持向量机是统计学理论的一个重要的学习方法，也是解决模式识别问题的一个有力的工具，本文提出了用支持向量机来解决说话人辨认问题。结合语音信号的特点，解决了大数据量情况下支持向量机的训练问题。支持向量机对两类的分类问题有着突出的优势，本文用两种判决规则将两类问题应用到多类的识别问题。用支持向量机实现了一个与文本无关的说话人辨认系统，实验表明，本方法有良好的效果。     

Robust support vector machine with bullet hole image classification

This paper proposes a robust support vector machine for pattern classification, which aims at solving the over-fitting problem when outliers exist in the training data set. During the robust training phase, the distance between each data point and the center of class is used to calculate the adaptive margin. The incorporation of the average techniques to the standard support vector machine (SVM) training makes the decision function less detoured by outliers, and controls the amount of regularization automatically. Experiments for the bullet hole classification problem show that the number of the support vectors is reduced, and the generalization performance is improved significantly compared to that of the standard SVM training.     

基于决策树SVM的某型无人机发射机故障诊断

为能够准确地对无人机数据链发射机进行故障诊断,通过对某型无人机数据链发射机工作原理和故障模型分析,结合长期的维护、保障经验,提出了一种基于故障优先级的决策树支持向量机故障诊断方法,避免了现有的多类分类支持向量机在多类故障诊断方面存在不足,优化了多类分类支持向量机组合策略。经试验,与几种常用的多类分类支持向量机方法对比,该诊断策略有效得提高了故障诊断正确率,能够准确地定位发射机内部故障功能模块,具有一定的实际意义。     

支持向量机方法在文本分类中的改进

提出了一种应用于文本分类的KNN和SVM相结合的算法,将SVM近似看成每类只有一个代表点的1NN分类器,对于待识别样本,如果其离支持向量机的最优分界面较远,则用SVM分类;如果其离分界面较近,采用KNN对测试样本分类,将每个支持向量作为代表点,计算待识别样本和每个支持向量的距离对其作出判断.该算法综合了KNN和SVM在分类问题中的优势,既有效地降低了分类候选的数目,又提高了文本分类的精度.最后用实验验证了该算法的有效性.     

基于统计的高效决策树分组分类算法

基于决策树的分组分类算法因易于实现和高效性,在快速分组分类中广泛使用。决策树算法的基本目标是构造一棵存储高效且查找时间复杂度低的决策树。设计了一种基于规则集统计特性和评价指标的决策树算法——HyperEC 算法。HyperEC算法避免了在构建决策树过程中决策树高度过高和存储空间膨胀的问题。HyperEC算法对IP地址长度不敏感,同样适用于IPv6的多维分组分类。实验证明,HyperEC算法当规则数量较少时,与HyperCuts基本相同,但随着规则数量的增加,该算法在决策树高度、存储空间占用和查找性能方面都明显优于经典的决策树算法。     

基于先验信息的SVM红外光谱定性分析方法

通过将类不变性先验信息融入到支持向量机(Support Vector Machine,SVM)算法的目标函数中,提出了一种基于漂移约束的SVM红外光谱定性分析算法。该算法将红外光谱的漂移项模拟成一个低阶多项式,并在SVM优化目标中要求决策面的法向量与漂移方向垂直,从而使分类器能够消除样本漂移影响。详细讨论了波段选择和正则化参数对分类准确率的影响,并对比了各种变形SVM算法的分类效果。实验结果表明,与标准的SVM算法及其各种变形算法相比,本文提出的DCSVM算法具有更高的分类准确度。