一种改进的支持向量机E-SVM算法

在文本分类中,应用支持向量机(SVM)算法能使分类在小样本的条件下具有良好的泛化能力,但支持向量机的参数取值决定了其学习性能和泛化能力.为提高支持向量机算法的性能,提出了一种支持向量机优化算法E-SM,引入信息熵来表征惩罚系数C,提出了加权系数,算法实现了SVM训练过程中参数的智能化,减少了对支持向量机参数选择的盲目性,减少了部分训练样本集数目,提高了SVM性能.实验表明,E-SVM算法较传统算法具有更好的分类精度和时间效率.     

一种新型的增式SVM训练算法

针对传统的增式支持向量机算法在计算时间和分类效率上的不足,提出了一种新型的增式SVM训练算法。该算法不是简单地保留上一步训练的支持向量,而是通过增加KKT(Karush-Kuhn-Tucke)限制条件并对决策函数的输出设定一个阈值,使得保留下来的样本都是最有效的样本,从而可减少训练样本的数目。在仿真实验中,选择了一组UCI数据,并选用RBF核函数作为核函数。实验结果表明:与传统增式算法相比,新算法在保证传统SVM性能的同时,在迭代速度和分类放率上分别提高了14%和4.39%。     

组合核支持向量机高光谱图像分类

为了提高高光谱遥感图像分类中空间信息的利用率,提出一种将空间邻域信息和光谱信息结合的组合核支持向量机(SVM)学习算法.用SVM进行预分类,从分类结果图提取各像素的空间邻域特征,与光谱特征结合构造组合核SVM进行分类,并再次提取空间邻域特征进行多次空-谱信息组合核SVM迭代分类,如此迭代10次,从中选择合适的结果作为最终输出.结果表明,该方法对传统支持向量机的分类精度提升幅度可达10%左右.同时,与其他组合核支持向量机相比,该算法用更少的训练样本获得了更高分类精度.     

一种用于多分类问题的改进支持向量机

针对非均衡分布的多类分类问题,为提高支持向量机(SVM)算法的性能,提出了一种改进的SVM算法. 将遗传算法(GA)与传统SVM算法结合,构造出一种参数最优的进化SVM(GA-SVM), SVM模型采用径向基函数(RBF)作为核函数,利用格雷码编码方式对SVM算法的模型参数进行遗传编码和优化搜索,将搜索到的优化结果作为SVM的最终模型参数. 在两个不同特性的数据集上进行仿真测试,结果表明,与使用交叉验证策略的简单SVM相比,改进后的GA-SVM算法在多类非均衡问题上明显提高了分类正确率,学习速度也有提高.     

SVM算法的区间自适应PSO优化及其应用

核(Kernel)参数选取对支持向量机的推广能力和泛化能力有至关重要的作用,尤其是在对大量数据进行识别分类时,需要占用计算机大量内存,SVM参数优化速度明显缓慢,从而影响了整个系统性能.针对此问题,笔者提出一种区间自适应粒子群算法来优化SVM参数,粒子根据实际情况动态平衡其全局搜索与局部搜索能力,提高了参数优化速度.在入侵检测系统的应用中,与蚁群算法、遗传算法优化SVM参数的结果进行比较.实验证明:此方法分类精度提高约9.7%,响应时间缩短约40.6%～56.5%,具有较大的优势.     

支持向量机的快速分类算法

支持向量机（SVM）算法在训练集的规模很大特别是支持向量很多时,支持向量机的学习过程需要占用大量的内存,算法的速度较慢。为此,笔者提出一种新的SVM快速分类算法。该算法通过选择边界向量,构造新的训练样本,减少了参与训练的样本数目。实验证明,该算法不仅能保证原算法的精度,具有良好的推广能力,而且提高了算法的速度。     

改进粒子群算法优化的支持向量机及其应用

传统粒子群优化(particle swarm optimization,PSO)算法主要包含两方面问题,即易陷入局部极小和后期震荡严重,为此引入混沌序列来初始化粒子群的位置,并在简化的粒子群数学模型上从两个方面对其进行了改进。本文利用改进的PSO算法对支持向量机(support vector machine,SVM)的参数进行优化,仿真实验结果表明:与SVM、PSO-SVM以及遗传算法(genetic algorithm,GA)优化的SVM(GA-SVM)相比,改进PSO优化的SVM(IPSOSVM)算法具有较高的分类准确率,并且与PSO-SVM算法相比,准确率提高了3%~5%,与PSO-SVM算法以及GASVM算法相比,IPSO-SVM的训练和泛化速度都明显提高。本文将IPSO-SVM算法应用到遥感影像的分类中,分类结果表明,与PSO-SVM算法相比,IPSO-SVM算法具有更好的分类结果。     

基于改进粒子群优化算法和CRNN的多类SVM分类

为了提高支持向量机(SVM)在多类分类中的分类效果,提出了一种基于改进粒子群优化(IMPSO)算法和协作式递归神经网络(CRNN)的多类SVM分类方法(IMPSO_CRNN_SVM算法).首先引入自适应惯性权重及自适应粒子变异,以此改进粒子群优化算法(PSO)在优化SVM参数过程中存在的容易陷入局部最优和早熟等问题; 然后基于多类SVM设计一个CRNN,并利用随机分配的训练集对该网络进行训练并构建最终决策函数,从而实现多类数据的“一次性”分类.最后利用3种数据集和实际应用对IMPSO_CRNN_SVM算法进行验证,结果表明IMPSO_CRNN_SVM算法的分类精度优于未进行参数优化的传统SVM算法、基本PSO 进行SVM参数优化的算法和未进行PSO参数优化的基于CRNN的多类支持向量机算法,因此IMPSO_CRNN_SVM算法具有一定的实用性.     

基于信息熵和SVM多分类的飞机液压系统故障诊断

飞机液压系统是典型的非线性系统,故障机理复杂,提取故障信息困难,且故障样本较少。针对飞机液压系统部件故障,文章采用了基于信息熵特征权值分配和支持向量机(SVM)多分类的故障诊断方法。先提取飞机液压系统压力信号的统计特征,然后通过计算特征信息熵为特征分配相应权值,将权值较大的特征作为支持向量机的输入向量,最后建立SVM多分类器将正常与多种故障状态进行分类;所采用的方法不仅有效降低了支持向量机模型的计算复杂度,而且提高了分类精度。通过建立飞机起落架收放系统仿真模型,对该故障诊断方法进行了验证研究。仿真结果表明,该方法选用高斯径向基核函数能够有效对液压系统进行故障诊断。     

基于改进鲸鱼算法优化SVM参数和特征选择

针对传统支持向量机（SVM）在数据分类方面准确率识别较低的问题,提出了一种改进鲸鱼优化算法同步优化SVM的特征选择模型。首先,利用Levy飞行策略对鲸鱼优化算法的螺旋更新位置进行变异扰动,利用单纯形策略中的反射操作对种群中的精英个体进行反射点求解的改进,标准函数的测试结果证明其改进能有效提高算法的收敛速度和计算精度;其次,将SVM核参数和特征选择目标作为共同优化对象,在获得最优核参数的同时得到相对应的最优特征子集;最后,对UCI标准数据集和真实乳腺癌数据集进行特征选择仿真实验,在平均分类准确率、平均适应度值、适应度标准差和所选特征个数上进行评价。结果表明,本文算法在降低特征维度,实现数据分类上效果明显。在真实乳腺癌数据集上的分类精度与传统支持向量机相比提高了11.053%。     

基于支持向量机的增量学习算法研究

分析了支持向量机理论中支持向量的特性,利用支持向量与样本空间划分的等价性,提出一种新的基于支持向量机的增量学习算法.该算法考虑新增样本集的分布可能改变对已有样本的分类结果,利用支持向量的分布特性,用对样本的划分差集构造新的支持向量集和分类平面,使差集中的样本点对分类贡献尽可能最大,有效提高了分类精度.同时差集操作简单易行,有效降低了问题的计算复杂度.实验结果表明,与常规增量算法相比,该算法在不改变时间复杂度量级的前提下对分类精度有显著提高.     

Improved Approach Based on SVM for License Plate Character Recognition

An improved approach based on support vector machine （SVM） called the center distance ratio method is presented for license plate character recognition. First the support vectors are pre-extraeted. A minimal set called the margin vector set, which contains all support vectors, is extracted. These margin vectors compose new training data and construct the classifier by using the general SVM optimized. The experimental resuhs show that the improved SVM method does well at correct rate and training speed.     

改进的球结构SVM多分类增量学习算法

针对球结构支持向量机(support vector machine,SVM)增量学习算法在训练时间和分类精度上的不足,提出了一种改进的球结构SVM多分类增量学习算法.该算法首先构造一个完全二叉树用于多类分类;分析新增样本的加入对原支持向量集的影响,将新增样本集中部分样本和原始训练集中的支持向量以及分布在球体一定范围内的样本合并做为新的训练集,完成分类器的重构.实现通过减少训练样本缩短训练时间和完善分类器提高分类精度的目的.通过UCI标准数据集实验,结果表明,该算法在所需训练的样本数、训练时间以及准确率3方面都优于球结构SVM增量学习算法,尤其当样本分布不平衡时,该算法有更高的分类准确率.     

一种具有统计不相关性的最优边界鉴别向量集

为了解决现有维数约简算法受样本分布影响较大、不支持小样本学习等问题,在分析线性鉴别分析(LDA)中最优鉴别向量与支持向量机(SVM)中分类超平面法向量之间关系的基础上,基于统计不相关最优鉴别向量集优于正交最优鉴别向量集的事实,提出了通过对改进的SVM的二次优化问题进行递归求解来获取具有统计不相关性的最优边界鉴别向量集的算法,并使用核方法将其推广到可以解决非线性特征抽取问题.结果表明:在采用相同参数并使用k-最近邻分类器进行训练和测试的情况下,提出的算法对实际数据集Waveform,Heart,Diabetis的分类精度均高于SVM和RSVM,不会出现当抽取超过最优维数时随着抽取维数的增加分类精度反而降低的现象,体现了本算法在抽取不相关特征向量方面的有效性.     

基于改进支持向量机的人手动作模式识别方法

为了提高基于表面肌电信号（sEMG）控制的手部运动康复器对人手多种动作模式的识别率,比较常规支持向量机（SVM）多类分类器的特点,提出改进的决策树支持向量机多类分类方法.该方法引入基于sEMG特征向量的类间距离可分性测度来指导决策树的构建,能够为每个SVM子分类器的训练提供识别率较高的样本划分方案,在提高决策树内部节点分类成功率的同时,简化了分类器结构.通过实验对比可知,新方法在20种手部动作模式的识别训练过程中,单项动作最低识别率较常规决策树方式提高了7.1%,平均识别率达到88.9%,训练速度较一对一支持向量机分类器提高了5.8%.     

一种改进的加权边界调节支持向量机算法

为了改进现有支持向量机所确定的边界抗干扰能力差、对噪声数据敏感等问题,减少野点数据对形成支持向量机边界存在的影响,根据各个样本在整个训练样本集中的重要性不同,将各个训练样本的重要性程度值作为权值赋予边界值上,提出了一种基于加权边界调节的支持向量机算法.通过对标准UCI数据集和人工数据集上的仿真实验表明,基于加权边界调节的支持向量机具有较好的野点免疫能力,具有更高的分类精度、更少的支持向量和更好的推广能力.     

基于核映射的无相关鉴别矢量集算法

针对人脸识别这一非线性分类问题,提出了一种基于核的无相关鉴别矢量集算法。应用了支持向量机中核函数的思想,通过核映射将原空间的非线性分类问题转化为特征空间的线性分类问题,然后在特征空间进行无相关鉴别矢量集的求取。其优势在于:利用核函数不但可以将非线性问题转化为线性问题,而且可以提取样本图像的高阶统计特征。在ORL人脸库中的测试结果表明,与传统的全局正交鉴别矢量集算法及传统的无相关鉴别矢量集算法相比,基于核映射的无相关鉴别矢量集算法有更高的识别率,最高识别率可达到99%。     

基于威布尔分布和支持向量机的滚动轴承故障诊断方法

提出了一种基于威布尔分布模型和支持向量机的滚动轴承故障诊断方法。首先对滚动轴承原始振动信号建立威布尔分布模型,提取其形态参数和尺度参数构建表征轴承运行状态的特征向量,然后将提取的特征向量输入支持向量机分类器进行故障诊断和识别。分别与基于小波分解和小波包分解特征提取的支持向量机诊断方法进行滚动轴承故障试验仿真比较,结果表明,基于威布尔分布模型特征提取的支持向量机诊断方法具有更高的故障识别准确率。     

基于纹理特征的高分辨率遥感影像分类方法

灰度共生矩阵能较好反映影像灰度统计规律,小波变换能较好反映影像的多尺度特性,利用两者结合进行了纹理特征提取。将灰度共生矩阵和小波变换提取纹理特征作为分类特征向量,建立基于支持向量机分类模型对高分辨率遥感影像进行分类;在支持向量机参数优化问题上,利用遗传算法进行参数寻优,有效的避免多学习和欠学习状态的发生。分类实验结果表明了本方法的有效性。     

基于径向基函数网络估计密度函数的数据分类

针对样本总体分布已知的分类问题，提出了一种新的分类方法.通过非线性映射将训练样本映射到高维特征空间，基于向量投影法从训练样本中选择边界向量，运用多维二叉树搜索法确定每个边界向量同类中的k-近邻，运用统计理论中的大数定理估计样本的类条件概率密度函数，由边界向量与相应的密度函数构成新的训练样本对.对每一类数据建立一个径向基函数（RBF）网络，以相应类的边界向量作为中心，通过训练以RBF网络来估计样本的类条件概率密度，并采用基于最小错误率的贝叶斯决策来实现分类.对机器学习数据的仿真研究结果表明该方法具有与支持向量机（SVM）相似的识别率，并且能快速有效地实现多类分类.