基于SVM算法的文本分类技术研究

在优化分类技术的研究中,文本特征化后通常具有高维性和不平衡性的特点,导致传统的分类算法准确率不高的问题.针对文本分类器的性能容易受到核函数和参数的影响的问题,为提高文本分类器的准确性.采用支持向量机(SVM)的理论在文本分类技术同时将根据优化的粒子群算法(PSO)引入SVM分类算法中进行优化文本分类器的参数,将分类器的准确率作为PSO算法适应度函数通过粒子移动操作找出最佳参数并用SVM算法进行分类.在文本数据集上的仿真结果表明,与传统的算法相比,经PSO算法优化后的SVM文本分类器的准确性更高,PSO算法是一种有效的优化方法,能广泛应用于文本分类问题.     

改进的基于粒子群优化的支持向量机特征选择和参数联合优化算法

针对支持向量机(SVM)中特征选择和参数优化对分类精度有较大影响,提出了一种改进的基于粒子群优化(PSO)的SVM特征选择和参数联合优化算法(GPSO-SVM),使算法在提高分类精度的同时选取尽可能少的特征数目。为了解决传统粒子群算法在进行优化时易出现陷入局部最优和早熟的问题,该算法在PSO中引入遗传算法(GA)中的交叉变异算子,使粒子在每次迭代更新后进行交叉变异操作来避免这一问题。该算法通过粒子之间的不相关性指数来决定粒子之间的交叉配对,由粒子适应度值的大小决定其变异概率的大小,由此产生新的粒子进入到群体中。这样使得粒子跳出当前搜索到的局部最优位置,提高了群体的多样性,在全局范围内寻找更优值。在不同数据集上进行实验,与基于PSO和GA的特征选择和SVM参数联合优化算法相比,GPSO-SVM的分类精度平均提高了2%~3%,选择的特征数目减少了3%~15%。实验结果表明,所提算法的特征选择和参数优化效果更好。     

迭代再权共轭梯度q范数正则化线性最小二乘–支持 向量机分类算法

L2范数罚最小二乘–支持向量机(least square support vector machine algorithm,LS–SVM)分类器是得到广泛研究和使用的机器学习算法,其算法中正则化阶次是事先给定的,预设q=2.本文提出q范数正则化LS–SVM分类器算法,0q∞,把q取值扩大到有理数范围.利用网格法改变正则化权衡参数c和正则化阶次q的值,在所选的c和q值上,使用迭代再权方法求解分类器目标函数,找出最小分类预测误差值,使预测误差和特征选择个数两个性能指标得到提高.通过对不同领域的实际数据进行实验,可以看到提出的分类算法分类预测更加准确同时可以实现特征选择,性能优于L2范数罚LS–SVM.     

PSO-SVM及其在减速机齿轮诊断中的应用

针对支持向量机(SVM)参数一般是人为选取,无法准确取到最佳值的问题,提出了一种基于粒子群算法(PSO)对参数进行优化的支持向量机(PSO-SVM).以减速机齿轮的3类故障类型(正常、磕碰、磨损)数据作为研究资料,组成训练样本集,训练PSO-SVM分类模型,从训练集中抽取部分数据组成测试样本集,对模型进行检验测试.研究表明:PSO-SVM模型分类正确率达到了93.8%,相较未进行参数优化的SVM,算法能更好地找到全局最优解,提高了模型的分类正确率.     

基于粒子群的最大相关最小冗余混合式特征选择方法

在分析粒子群优化(PSO)算法和简化PSO算法的基础上,提出一种基于PSO的最大相关最小冗余的Filter-Wrapper混合式特征选择方法.Filter模型是基于互信息和特征的相关冗余综合测度,Wrapper模型是基于改进的简化粒子群算法.在PSO搜索过程中,引入相关冗余度量标准来选择特征子集,将Filter融合在Wrapper中,利用Filter的高效率和Wrapper的高精度提高搜索的速度和性能.最后以支持向量机(SVM)为分类器,在公共数据集UCI上进行实验,实验结果表明了所提出算法的可行性和有效性.     

一种用于高光谱遥感影像分类的改进多类支持向量机

将支持向量机(SVM)用于高光谱遥感影像分类的研究,采用决策边界特征提取(DBFE)算法对高光谱影像进行维数约简,以径向基函数(RBF)作为SVM模型的核函数,把混沌优化搜索技术引入到PSO算法中,以基本PSO算法为主体流程,对种群中最好的粒子进行给定步数的混沌优化搜索,以改进基本PSO算法进化后期收敛速度慢、易陷入局部极小值的缺陷。利用改进的混合粒子群优化算法(PSO)来实现SVM模型参数的自动选择,继而构建了一种参数最优的粒子群优化支持向量机(PSO-SVM)多类分类模型。选用220波段的AVIRIS高光谱遥感影像进行了分类试验。结果表明,与采用基于留一法(LOO)网格搜索策略的传统SVM相比,改进后的PSO-SVM算法可以提高分类精度约8.8%。该方法对于小样本、非均衡条件下的遥感影像数据分类非常有效。     

基于IPSO-Powell优化SVM的煤与瓦斯突出预测算法

针对基于支持向量机(SVM)的煤与瓦斯突出预测算法存在预测精度和可靠性不高,选择核函数时未考虑非线性数据的分类,对非线性分布的煤与瓦斯突出影响因素提取效果较差的问题,提出了一种将改进的粒子群(IPSO)算法与Powell算法相结合(IPSO-Powell)优化SVM的煤与瓦斯突出预测算法.首先通过灰色关联分析提取出煤与瓦斯突出主控因素,即瓦斯放散初速度、瓦斯压力、开采深度、瓦斯含量和煤体破坏类型,作为算法的输入样本;然后运用IPSO算法改善粒子群算法(PSO)的早熟收敛性,结合Powell算法进行局部搜索得到最优解,对SVM算法的惩罚系数和高斯核函数参数进行寻优,得到SVM的最优参数组合;最后将煤与瓦斯突出的主控因素输入到SVM中进行分类,并将其与实际测试集分类结果进行对比,实现煤与瓦斯突出预测.仿真结果表明:与SVM算法、GA-SVM算法、PSO-SVM算法相比,利用IPSO-Powell优化SVM算法进行煤与瓦斯突出预测,具有更高的预测精度,同时提高了SVM求解过程的运算效率,能同时满足煤与瓦斯突出预测的精度和可靠性要求,准确率达到95.9%.     

改进PSO的SVM回归模型及在气温预测中的应用

兰州市气温是一个非平稳序列,具有典型噪声大、不稳定的特征,气温变化越大,越不稳定.为了能够提高支持向量机在气温预测中的预测精度、强化泛化能力和降低参数选择的灵敏度.本文提出了改进的粒子群算法(improved particle swarm optimization, IPSO)优化支持向量机(support vector machine, SVM)的气温预测模型.首先在粒子群算法(particle swarm optimization, PSO)中引入了自适应惯性权重以提高PSO算法的全局寻优能力和局部开发能力,其次利用改进的IPSO算法优化SVM的惩罚因子和核函数参数,将优化后的模型(IPSO-SVM)应用于气温预测中.以兰州地面观测站点实际数据作为样本数据,运用Matlab实验工具进行训练和预测,实验结果表明,本文IPSO-SVM模型相比于BP, SVM, GRID-SVM, GWO-SVM, ABC-SVM, ACO-SVM模型具有更强的泛化能力,更好的拟合度,可以更加准确地预测气温的变化,进一步验证了该模型在气温预测方面的可行性.     

一种改进的支持向量机的文本分类算法

在文本分类中,应用支持向量机(SVM)算法能使分类在小样本的条件下具有良好的泛化能力.但支持向量机的参数取值决定了其学习性能和泛化能力.为提高支持向量机算法的性能,提出了一种采用免疫算法对支持向量机参数进行优化的文本分类算法(IA-SVM).算法减少了对支持向量机参数选择的盲目性,提高了SVM的预测精度.实验表明,IA-SVM算法在文本分类问题上明显提高了分类正确牢,学习速度也有提高.     

一种粒子群优化的SVM-ELM模型

极限学习机(extreme learning machine,ELM)是一种简单易用、有效的单隐层前馈神经网络(single hidden layer feedforward neural networks,SLFNs)学习算法,近几年来已成为机器学习研究的热门领域之一。但是ELM单个隐层节点的判断能力不足,分类正确率的高低在一定程度上取决于隐层节点数。为了提高ELM单个隐层节点的判断能力,将支持向量机(support vector machine,SVM)和ELM结合,建立一种精简的SVM-ELM模型。同时,该模型为了避免人为选择参数的主观性,利用粒子群算法(particle swarm optimization,PSO)的全局搜索最优解对参数进行自动优化选取,建立了PSO-SVM-ELM模型。实验证明,该模型较SVMELM和ELM分类精度有较大的提高,具有很好的稳健性和泛化性。     

基于Fisher 准则和最大熵原理的SVM核参数选择方法

针对支持向量机(SVM)核参数选择困难的问题,提出一种基于Fisher准则和最大熵原理的SVM核参数优选方法.首先,从SVM分类器原理出发,提出SVM核参数优劣的衡量标准;然后,根据此标准利用Fisher准则来优选SVM核参数,并引入最大熵原理进一步调整算法的优选性能.整个模型采用粒子群优化算法(PSO)进行参数寻优.UCI标准数据集实验表明了所提方法具有良好的参数选择效果,优选出的核参数能够使SVM具有较高的泛化性能.     

基于支持向量机的机载吊舱故障诊断优化算法

提升机载吊舱的后勤保障能力,适应吊舱测试中多型号、多故障类型和测试环境动态变化的测试要求,是打赢现代化战争的重要保障。支持向量机（SVM）算法适用于小样本、高维度、非线性分类问题,SVM相关参数是影响算法性能的重要因素。基于K-CV算法和粒子群算法两种改进的SVM模型可以实现SVM参数优化,K-CV算法可以交叉验证优化模型参数,粒子群算法可以对SVM参数进行动态寻优,建立多核SVM吊舱故障诊断模型。两种算法都可以提高吊舱故障诊断模型的准确率,提高模型的学习能力和泛化能力,有效对吊舱的故障进行定量和定位诊断。     

一种基于多粒子群协同进化的高光谱图像波段选择与分类方法

针对高光谱图像分类过程中数据波段多以及信息冗余量大引起的处理速度慢及Hughes现象等问题,提出了一种基于多粒子协同进化算法进行高光谱图像自动波段选择与分类的方法:使用多粒子群协同进化算法搜索特征子集,对粒子群优化算法进行改进,定义新的位置和速度的更新策略,并以支持向量机为分类器,同时对特征子集和SVM核函数参数进行优化。在协同搜索过程中,引入遗传算法改善粒子群优化的"早熟"收敛问题,构建了一种新的MPSO-SVM(Multiple particle swarm optimization-SVM)分类模型。对高光谱遥感图像的实验结果表明:MPSO-SVM方法不仅能有效地压缩光谱的特征维数,得到最佳的波段组合,还能得到最优的SVM参数,达到较好的分类效果,提高分类精度。     

基于PSO-SVM的电机故障检测

传统智能故障检测模型中算法初始参数复杂,选取难度较大,缺乏自学习、自组织能力、泛化能力弱,极易陷入局部极小值、算法单一等缺点.组合应用智能检测算法可整合不同算法优势,避免单一算法缺点,为此,文中提出支持向量机算法与改进粒子群算法相结合的电机故障检测模型:以电机故障特征频率特征数据为基础,首先使用改进全局求解性能的粒子群算法求解影响支持向量机分类检测性能的最佳参数,然后把最佳参数应用于的擅长模式识别的支持向量机算法,进行样本数据的训练,构建故障检测模型;最后,使用故障检测模型对电机的状态进行预测.实验结果表明,采用该方法进行故障检测的准确率,比传统的神经网络方法提高17%,比纯支持向量机算法提高3.33%.     

基于一种改进粒子群算法的SVM参数选取

支持向量机作为一个新兴的数学建模工具已经被广泛地应用到很多工业控制领域中,其良好的泛化能力和预测精度在很大程度上受到其参数选取的影响.根据智能群体进化模式改进粒子群优化算法.利用模糊C均值聚类算法分类粒子群体,并用子群体最优点取代速度更新公式中的个体历史最优点,并利用该算法搜索支持向量机的最优参数组合.对比仿真实验表明:所提优化算法是支持向量机参数选取的有效算法,在非线性函数估计中体现出优良的性能.     

基于PSO优化的SVM预测应用研究*

支持向量机参数对支持向量机的性能有着重要影响,参数选择问题是支持向量机的重要研究内容。针对此问题,提出一种基于粒子群优化算法的支持向量机参数选择方法。实验结果表明,经粒子群优化算法优化的支持向量机回归模型具有较高的预测精度,粒子群优化算法是选取支持向量机参数的有效方法。     

乌鸦搜索算法在SVM参数优化中的应用

参数的选择对支持向量机（SVM）分类精度和泛化能力有至关重要的影响，而群体智能算法近年来在参数优化方面应用广泛，在此背景下提出CSA-SVM模型。该模型将分类准确率作为目标函数，利用乌鸦搜索算法（CSA）求得SVM的最优参数组合。为了验证CSA-SVM模型的分类性能，将该模型应用于6个标准分类数据集，并分别与遗传算法（GA）和粒子群（PSO）算法优化后的SVM模型进行性能比较。实验结果表明，CSA算法在SVM参数选择中具有更好地寻优能力和更快地寻优速度，CSA-SVM模型具有较高的分类准确率。     

基于二进制PSO算法的特征选择及SVM参数同步优化

特征选择及分类器参数优化是提高分类器性能的两个重要方面,传统上这两个问题是分开解决的。近年来,随着进化优化计算技术在模式识别领域的广泛应用,编码上的灵活性使得特征选择及参数的同步优化成为一种可能和趋势。为了解决此问题,本文研究采用二进制PSO算法同步进行特征选择及SVM参数的同步优化,提出了一种PSO-SVM算法。实验表明,该方法可有效地找出合适的特征子集及SVM参数,并取得较好的分类效果;且与文[4]所提出的GA-SVM算法相比具有特征精简幅度较大、运行效率较高等优点。     

基于PCA融合PSO-SVM的运动想象脑电信号分类方法

运动想象脑电信号的分类识别是当前脑机接口(BCI)技术面临的难点.针对该问题,提出一种融合主成分分析(PCA)和粒子群优化-支撑向量机(PSO-SVM)的运动想象脑电信号分类方法.首先利用PCA对采集到的高维脑电信号进行分析,剔除其中噪声分量并提取三维反应不同脑电信号差异特性的特征向量.然后利用SVM对特征向量进行分类...     

Hadoop平台分布式SVM算法分类研究

随着大数据的发展,分布式支持向量机（SVM）成为该领域研究热点.传统层级分布式SVM算法（Cascade SVM）,在Hadoop平台下寻找全局最优支持向量的过程十分缓慢.本文提出了一种改进方法,先将传统的网格法与粒子群（PSO）算法结合,改进了单机PSO算法,再将单机PSO算法与Hadoop平台结合实现了一种新型卫星并行PSO算法（NPP-PSO）.实验结果表明,相比于单机SVM算法,本文的分布式SVM算法,在保证了准确率的前提下大幅提高了计算速度;而使用NPP-PSO参数寻优后的分布式SVM,分类准确率相比于分布式SVM算法又有了明显提高.