SVM算法的区间自适应PSO优化及其应用

核(Kernel)参数选取对支持向量机的推广能力和泛化能力有至关重要的作用,尤其是在对大量数据进行识别分类时,需要占用计算机大量内存,SVM参数优化速度明显缓慢,从而影响了整个系统性能.针对此问题,笔者提出一种区间自适应粒子群算法来优化SVM参数,粒子根据实际情况动态平衡其全局搜索与局部搜索能力,提高了参数优化速度.在入侵检测系统的应用中,与蚁群算法、遗传算法优化SVM参数的结果进行比较.实验证明:此方法分类精度提高约9.7%,响应时间缩短约40.6%～56.5%,具有较大的优势.     

模式识别中的支持向量机方法

针对模式识别问题，描述了支持向量机的基本思想，着重讨论了v—SVM、最小二乘SVM、加权SVM和直接SVM等新的支持向量机方法，用于降低训练时间和减少计算复杂性的海量样本数据训练算法分块法、分解法，提高泛化能力的模型选择方法，以及逐一鉴别法、一一区分法、M—ary分类法、一次性求解等多类别分类方法，最后给出了污水生化处理过程运行状态监控的多类别分类实例，作为结构风险最小化准则的具体实现，支持向量机具有全局最优性和较好的泛化能力。     

基于ADASYN与AdaBoostSVM相结合的不平衡分类算法

对于平衡数据集支持向量机(support vector machine,SVM)通常具有很好的分类性能和泛化能力,然而对于不平衡数据集,SVM只能得到次优结果,针对该问题提出了一种基于SVM的AS-Ada Boost SVM分类算法.首先,通过使用ADASYN采样,提高少类样本在边界区域的密度;然后,使用基于径向基核支持向量机(radial basis function kernel mapping support vector machine,RBFSVM)模型弱分类器的Ada Boost SVM算法训练得到决策分类器.通过将该算法在各种不平衡数据集上的测试结果与单纯运用ADASYN技术、Ada Boost SVM、SMOTEBoost等其他分类器进行比较,验证了该算法的有效性和鲁棒性.     

基于果蝇优化的SVM回归模型及其应用研究

为了有效解决支持向量机模型在参数选择上的盲目性,提高该模型的学习性能和泛化能力,提出一种基于果蝇优化的SVM方法。该方法首先运用果蝇优化算法选择全局最优的SVM惩罚因子和核函数参数,建立SVM分类模型,进而将该模型应用于对有机化合物的熔点预测问题中。实验结果表明,基于果蝇优化的SVM模型效率高,实际应用效果好。     

支持向量机的快速分类算法

支持向量机（SVM）算法在训练集的规模很大特别是支持向量很多时,支持向量机的学习过程需要占用大量的内存,算法的速度较慢。为此,笔者提出一种新的SVM快速分类算法。该算法通过选择边界向量,构造新的训练样本,减少了参与训练的样本数目。实验证明,该算法不仅能保证原算法的精度,具有良好的推广能力,而且提高了算法的速度。     

基于后验概率加权的模糊支持向量机

针对支持向量机对训练样本内的噪音和孤立点特别敏感、极大地影响了支持向量机分类性能的弱点,提出了一种基于后验概率的加权模糊支持向量机.在模糊支持向量机中引入样本后验概率加权系数后,得到的样本点的隶属度在减弱噪音及孤立点对支持向量机分类的影响的同时,不影响支持向量对分类超平面的作用.实验结果证明,在抗击孤立点和噪音点的干扰方面,该法取得了很好的效果,提高了支持向量机分类的泛化能力和应用范围.     

最小二乘大间隔孪生支持向量机

针对最小二乘孪生支持向量机（LSTWSVM）精度较低和可能存在的"奇异性"问题,提出了一种最小二乘大间隔孪生支持向量机（LSLMTSVM）.该算法在最小二乘孪生支持向量机的优化目标函数中引入了间隔分布,提高了算法的泛化性能.在目标函数中加入正则项,实现了结构风险最小化,进一步提高了分类能力.实验结果表明,最小二乘大间隔孪生支持向量机比已有的相关算法性能更优.     

双边界支持向量机的理论研究与分析

根据统计学习理论,间隔大小是反映泛化能力的一个很重要的方面. 受一类支持向量机(SVM)的启发,提出的双边界SVM能分别用2个边界对2类问题分类. 它能在保证分类正确的同时保证分类间隔的最大化,理论上分别从推广性能和不平衡类分布2方面证明了其优越性. 标准数据集上的实验表明,双边界SVM得到的分类间隔要大于SVM, 泛化性有了显著提高;另外,不平衡数据集上分析得到它对少数类识别率有明显提升. 真实入侵数据测试结果表明,双边界SVM算法比边界样本选择算法的检测率高出2%以上.     

小波框架支持向量机的模糊小波网络分类方法

针对现有的支持向量机(SVM)不具有多分辨率学习的特点,提出一种新的小波框架的多尺度支持向量机(SVM)的模糊小波网络(FWN)算法.将小波多尺度学习和模糊推理方法相结合,由于FWN对应着多个模糊规则,而每个模糊规则的后件对应一个小波网络,解决了模糊规则后件难以描述的问题;对高维输入的小波网络的初始参数和网络结构的确定困难问题,用基于正交小波框架的支持向量机代替小波网络的方法,使FWN模型具有更好的泛化性能;为了提高FWN模型的逼近精度,使用梯度下降方法调节FWN参数.仿真结果表明,与传统的模糊神经网络(FNN)相比,该方法能显著地提高分类精度.     

SVM和DT-CWT的纹理图像分类方法研究

提出了一种将支持向量机（SVM）和二元树复小波变换（DT-CWT）相结合的纹理图像分类方法.通过DT-CWT对纹理图像进行4层分解,提取各子频带小波系数模的均值和标准方差组成特征向量,利用SVM作为分类器实现纹理图像分类.从Brodatz图像库中随机选取了30幅纹理图像进行了分类试验,结果表明：该方法具有较高的分类精度,尤其在有限训练样本的情况下分类正确率明显优于其它的分类算法,体现了该方法的有效性和良好的泛化能力.     

基于支持向量机的短期负荷预测的方法改进

在对支持向量机（Support Vector Machines,SVM）方法的参数性能进行分析的基础上,提出了将Grid-search方法引入至基于支持向量机的短期负荷预测算法中,以解决支持向量机方法的参数选择问题。该参数选择方法减少了参数选择的盲目性,提高了SVM的预测精度。通过在East-Slovakia Power Distribution Company提供的电网运行数据上验算,证明了该改进方法的正确性和有效性。     

基于混沌粒子群优化支持向量机的变压器故障诊断

为了提高电力变压器故障诊断的准确性,也要克服人工神经网络(ANN)中存在的收敛速度慢、容易陷入局部极值等缺陷,提出一种混沌的粒子群优化支持向量机的变压器诊断方法,该方法不仅具有很强的全局搜索能力,而且适用于支持向量机(SVM)参数优化,提高算法的鲁棒性.首先利用混沌的粒子群算法优化支持向量机的参数,把气体的特征参数代入优化的支持向量机分类模型中进行诊断,能够准确地分类变压器故障,从而达到故障诊断的目的.实验结果与常规方法比较,该方法能简单有效,诊断速度快,诊断正确率高.     

一种改进的快速嵌入式字符识别方法

针对手持式字符识别系统开发中系统对实时性要求较高、系统资源有限以及传统的支持向量机(SVM)分类方法难以同时满足识别率和识别速度的缺点,提出一种快速的SVM(FCSVM)分类算法。对支持向量集采用变换的方式,用少量的支持向量代替全部支持向量进行分类计算,在保证不损失分类精度的前提下使得分类速度较传统SVM算法有较大提高。实验结果表明,FCSVM算法较大幅度地减少了计算复杂度,提高了分类速度,尤其在嵌入式系统中效果更加明显。     

基于最小二乘支持向量机的黏着状态辨识

针对重载机车黏着状态辨识中分类准确率不高的问题,提出采用布谷鸟遗传算法对最小二乘支持向量机的参数进行优化,并采用交叉验证原理提高该模型的整体泛化性能。首先,采用布谷鸟算法寻找惩罚因子和核参数的初始值;然后,采用遗传算法对最小二乘支持向量机进行训练,从而得到具有最佳参数的最小二乘支持向量机的分类模型。该分类模型将重载机车黏着状态分为正常、故障征兆、微小故障和严重故障4个状态。实验结果表明,提出的最小二乘支持向量机模型在黏着状态辨识中的分类准确率高达94.59%,高于极限学习机的分类准确率(84.61%),证明布谷鸟遗传算法能够有效提高最小二乘支持向量机的分类准确率。     

基于改进粒子群优化算法和CRNN的多类SVM分类

为了提高支持向量机(SVM)在多类分类中的分类效果,提出了一种基于改进粒子群优化(IMPSO)算法和协作式递归神经网络(CRNN)的多类SVM分类方法(IMPSO_CRNN_SVM算法).首先引入自适应惯性权重及自适应粒子变异,以此改进粒子群优化算法(PSO)在优化SVM参数过程中存在的容易陷入局部最优和早熟等问题; 然后基于多类SVM设计一个CRNN,并利用随机分配的训练集对该网络进行训练并构建最终决策函数,从而实现多类数据的“一次性”分类.最后利用3种数据集和实际应用对IMPSO_CRNN_SVM算法进行验证,结果表明IMPSO_CRNN_SVM算法的分类精度优于未进行参数优化的传统SVM算法、基本PSO 进行SVM参数优化的算法和未进行PSO参数优化的基于CRNN的多类支持向量机算法,因此IMPSO_CRNN_SVM算法具有一定的实用性.     

一种混合核函数支持向量机算法

提出一种基于混合核函数的支持向量机算法.首先证明了常用核函数的非负线性组合也是满足Mercer条件的核函数.然后通过最小化衡量二次损失函数支持向量机泛化能力的RM界来进行各子核函数参数、混合核函数组合系数以及惩罚系数的选取.仿真实验表明,基于混合核函数的支持向量机的泛化性能优于基于单一核函数的支持向量机.     

基于改进S变换和DSVM的电能质量扰动识别

针对采用S变换和支持向量机(SVM)的电能质量识别扰动信号时存在的受噪声较大及泛化能力低的缺陷,本文结合电能质量扰动信号的特点,在围绕S变换这一时频分析工具上,增加了参数g用于调整时频分辨率,解决了常规S变换受噪声较大的特征提取问题.然后引入直接支持向量机(DSVM)模型,通过典型数值试验,证明DSVM比SVM和LSSVM模型的学习和预测速度更快的优势.最后使用DSVM对扰动信号进行训练,实现电能质量扰动信号自动识别和分类.通过与已有文献的分类结果对比试验表明,该算法不仅求解更简单,且泛化能力也并未降低,拓展了SVM在电能质量扰动中的应用.     

粗支持向量机分类建模方法

为了克服样本模式的复杂性、噪声的影响以及信息的不完整性问题,利用粗糙集和支持向量机(SVM)的优点,把粗糙集理论用于二分类球形SVM,提出一种称为粗支持向量机分类建模方法.粗糙集具有刻画不确定、不完整数据和复杂模式的能力,分类结果能够体现出数据的不确定性,但是它不仅不具备良好的学习能力,而且也不能保证分类模型具有良好的推广能力;SVM具有良好的推广性能,但是对不确定数据的建模能力较差.本文把分类结果分为正域、边界域和负域,由此来判断不确定数据样本的分类结果的不确定性程度.通过调整参数来调节边界的宽度和允许建模的在野点样本的比例,提高分类模型的灵活性.仿真结果说明了算法的有效性.     

一种支持向量机参数选择的改进分布估计算法

支持向量机(support vector machine,SVM)的学习性能和泛化能力在很大程度上取决于参数的合理设置. 将支持向量机的参数选择问题转化为优化问题,以模型预测均方根误差为评价函数,提出一种引入混沌变异操作的改进分布估计算法(estimation of distributionalgorithm,EDA),并将其用于优化求解ε-支持向量机的参数:惩罚因子、不敏感损失系数以及高斯径向基核函数的宽度. 由于改进EDA利用混沌运动的随机性和遍历性等特点在解空间内进行优化搜索,能够较好解决传统EDA易于陷入局部极小的缺陷. Chebyshev混沌时间序列预测仿真结果表明:改进EDA是选取SVM参数的有效方法.     

优化SVM在锅炉负荷预测中的应用

提出智能优化支持向量机算法来提高模型的预测能力和泛化能力。该算法针对支持向量机噪声敏感问题采用小波方法对数据集去噪;利用核主成分分析方法提取数据特征;采用量子粒子群算法优化支持向量机超参数。将该优化算法应用于锅炉负荷短期预测,实验结果表明,该优化算法预测精度较高,收敛速度较快,泛化性能优于其他预测方法,且工程实现容易。