首页 | 本学科首页   官方微博 | 高级检索  
相似文献
 共查询到20条相似文献,搜索用时 125 毫秒
1.
为解决SVR(支持向量回归)自动模型选择的问题,提出一种基于梯度下降算法的支持向量回归机模型参数优化方法.通过最小化模型选择准则R2w2,对核参数集采用梯度下降算法得到局部最优的模型参数.依据黎曼几何为理论,提出一种适合于SVR的保角变换,对核函数进行数据依赖的改进,进一步提高SVR的泛化能力.仿真试验的结果验证了该方...  相似文献   

2.
针对不确定数据的二分类问题,提出了一种鲁棒双参数化间隔支持向量机。考虑样本是服从多元高斯分布,并给出了几种协方差矩阵的构造方式。提出的鲁棒双参数化间隔支持向量机通过处理一对较小规模的凸优化问题,寻找两个非平行的参数化间隔超平面,并针对优化问题设计了相应的随机梯度下降算法。当训练样本的方差趋近于零时,鲁棒双参数化间隔支持向量机可退化为传统的双参数化间隔支持向量机。数值实验结果表明,该方法具有较好的泛化性能。  相似文献   

3.
于新星  王永 《计算机工程》2012,38(3):270-272,275
提出一种变参数在线核聚类算法(OKCAP),将其应用于未知雷达辐射源信号分选中。OKCAP基于支持向量机的思想,采用核映射技术将数据映射到高维线性空间中进行处理,利用随机梯度下降法更新类的边界函数,且梯度下降步长和惩罚项参数可根据雷达信号动态调整,从而实现雷达辐射源信号的在线分选。仿真结果证明,该方法具有较快的聚类分选速度和较高的分选准确率。  相似文献   

4.
提出一种基于梯度下降法的混合进化算法,用于确定径向基函数(RBF)神经网络结构和优化其参数.在进化算法中嵌入梯度下降算子,对每一代中若干个精英个体以一定概率利用梯度下降法进行搜索,以加强算法的局部搜索能力.利用混合进化算法对RBF网络结构和参数同时进行训练和优化,对网络节点数和参数进行混合编码.仿真实验结果表明该RBF网络具有较强的泛化能力.  相似文献   

5.
秦传东  杨旭 《计算机应用研究》2023,(12):3655-3659+3665
为了更好地应对当今时代的大规模高维稀疏数据集,融合BB方法、小批量算法与随机方差缩减梯度法(SVRG)优势,提出一种带有随机改进Barzilai-Borwein步长的小批量稀疏随机方差缩减梯度法(MSSVRG-R2BB)。首先,在SVRG外循环中全梯度计算的基础上加入L1范数次梯度设计出一种稀疏近似梯度用于内循环,得到一种稀疏的SVRG算法(SSVRG)。在此基础上,在小批量的稀疏随机方差缩减梯度法中使用随机选取的改进BB方法自动计算、更新步长,解决了小批量算法的步长选取问题,拓展得到MSSVRG-R2BB算法。数值实验表明,在求解大规模高维稀疏数据的线性支持向量机(SVM)问题时,MSSVRG-R2BB算法不仅可以减小运算成本、更快达到收敛上界,同时能达到与其他先进的小批量算法相同的优化水平,并且对于不同的初始参数选取表现稳定且良好。  相似文献   

6.
混沌粒子群算法对支持向量机模型参数的优化   总被引:1,自引:1,他引:0  
研究支持向量机模型优化问题,支持向量机的参数选择决定了其学习性能和泛化能力,由于在参数的选择范围内可选择的数量很多,在多个参数中进和盲目搜索最优参数是需要极大的时间代价,并且很难得到最优参数.常用的支持向量机优化方法有遗传算法、粒子群算法都存在易陷入局部极值,优化效果较差.为解决支持向量机参数寻优问题,提出一种基于混沌粒子群的支持向量机参数选择方法.将混沌理论引入粒子群优化算法中,从而提高种群的多样性和粒子搜索的遍历性,从而有效地提高了PSO算法的收敛速度和精度,得了优化支持向量机模型.并以信用卡案例数据作为研究对象进行了仿真,实验结果表明,混沌粒子群优化的SVM分类器比传统算法优化的SVM分类器的精度高和更高的效率,应用效果好.  相似文献   

7.
李景灿    丁世飞   《智能系统学报》2019,14(6):1121-1126
孪生支持向量机(twin support vector machine, TWSVM)是在支持向量机的基础上产生的机器学习算法,具有训练速度快、分类性能优越等优点。但是孪生支持向量机无法很好地处理参数选择问题,不合适的参数会降低分类能力。人工鱼群算法(artificial fish swarm algorithm, AFSA)是一种群智能优化算法,具有较强的全局寻优能力和并行处理能力。本文将孪生支持向量机与人工鱼群算法结合,来解决孪生支持向量机的参数选择问题。首先将孪生支持向量机的参数作为人工鱼的位置信息,同时将分类准确率作为目标函数,然后通过人工鱼的觅食、聚群、追尾和随机行为来更新位置和最优解,最后迭代结束时得到最优参数和最优分类准确率。该算法在训练过程中自动确定孪生支持向量机的参数,避免了参数选择的盲目性,提高了孪生支持向量机的分类性能。  相似文献   

8.
郭丽娜  杨明  涂金金 《计算机科学》2014,41(2):127-130,135
支持向量机的次梯度投影算法是解决支持向量机优化求解问题的一种简单有效的迭代算法。该算法通过梯度下降和投影两个步骤的多轮迭代,找到两类最大间隔的分类面。针对该算法忽略了对寻找分类面同样有指导意义的样本分布信息这一问题,在分类器设计中融入结构信息,并且采用MapReduce并行计算框架,提出了一种并行结构化支持向量机的次梯度投影算法,该算法能够充分利用集群的计算和存储能力,适用于海量数据的优化问题。在NASA的两个软件模块缺陷度量数据集CM1和PC1上的实验结果表明,该算法能够加快收敛速度,提高分类性能,有效地解决海量数据的优化求解问题。  相似文献   

9.
陶秉墨  鲁淑霞 《计算机科学》2018,45(Z6):487-492
对于不平衡数据分类问题,传统的随机梯度下降方法在求解一般的支持向量机问题时会产生一定的偏差,导致效果较差。自适应随机梯度下降算法定义了一个分布p,在选择样例进行迭代更新时,其依据分布p而非依据均匀分布来选择样例,并且在优化问题中使用光滑绞链损失函数。对于不平衡的训练集,依据均匀分布选择样例时,数据的不平衡比率越大,多数类中的样例被选择的次数就越多,从而导致结果偏向少数类。分布p在很大程度上解决了这个问题。普通的随机梯度下降算法没有明确的停机准则,这导致何时停机成为一个很重要的问题,尤其是在大型数据集上进行训练时。以训练集或训练集的子集中的分类准确率为标准来设定停机准则,如果参数设定恰当,算法几乎可以在迭代的早期就停止,这种现象在大中型数据集上表现得尤为突出。在一些不平衡数据集上的实验证明了所提算法的有效性。  相似文献   

10.
基于混沌搜索的模糊控制器参数最优设计   总被引:4,自引:0,他引:4  
基于混沌变量,本文提出一种模糊控制器最优设计方案.离线优化采用混沌算法,将混沌因子引入到模糊控制器参数域的优化搜索中,用载波方式将优化变量转变成混沌变量,再利用混沌运动的遍历性和随机性直接寻优,得到模糊控制器参数的全局次优解.在线优化采用共轭梯度下降法,把混沌搜索后得到的全局次优值作为梯度下降搜索的初始值,实现混沌全局粗搜索和梯度下降局部细搜索相结合的优化目的,能很快找到模糊控制器参数的全局最优解.最后对算法的收敛性进行了证明.  相似文献   

11.
在快速搜索算法中,基于梯度下降搜索算法对搜索速度的改善非常明显,但搜索质量下降较大,尤其是对于帧间图像运动较大的序列。对该算法进行针对性扩展,提出基于梯度下降搜索扩展算法。与全搜索、新三步搜索、四步搜索、基于块的梯度下降搜索、钻石搜索算法相比较,实验结果表明该算法在搜索速度和质量上表现良好。  相似文献   

12.
针对近红外光下现有的人眼定位算法普遍存在准确性不高、泛化能力不佳等问题,提出了一种基于方向梯度直方图(HOG)和支持向量机(SVM)相结合的双眼虹膜图像的人眼定位算法。利用HOG提取虹膜图像的人眼特征,并结合SVM分类器对HOG特征进行训练从而实现人眼的精确定位。为了减少漏检和误检,进一步提高定位准确率,又提出了多级级联SVM分类器算法;另外针对近红外光线下虹膜图像独特的灰度分布特点,设计了一种图像预处理方法,能够显著提高人眼定位速度。在MIR2016和CASIA-IRIS-Distance数据集上的实验结果表明,基于HOG和SVM的双眼虹膜图像的人眼定位算法具有高准确率、强泛化能力和高实时性。  相似文献   

13.
机器学习问题通常会转换成求解一个目标函数问题。继随机梯度下降(Stochastic Gradient Descent,SGD)之后,随机方差缩减梯度法(Stochastic Variance Reduction Gradient,SVRG)成为如今优化目标函数参数的主流算法,它由于不受方差影响达到线性收敛而被人们广泛研究。它的提出导致陆续出现如SAGA(Stochastic Average Gradient Average)和SCSG(Stochastically Controlled Stochastic Gradient)等新型方差缩减算法,它们有着过量消耗内存、迭代缓慢等问题。为了实现小成本存储以及快速迭代的目的,设计了一种以SVRG为基础的新型变异方差缩减算法BSUG(Batch Subtraction Update Gradient)。改进在于:使用小批量样本代替全部样本进行平均梯度计算,同时对平均梯度进行减数更新。每轮迭代中,随机抽取一批小样本进行平均梯度计算,同时在内部迭代时通过对过去模型梯度的舍去来达到更新平均梯度的目的。通过合适地降低批大小[B],可以减少内存存储以及迭代次数。理论分析算法的收敛性,并基于Python进行算法实现,通过与Mini-Batch SGD、AdaGrad、RMSProp、SVRG和SCSG等算法进行比较证明了BSUG算法的有效性,并且通过对超参数进行探究证明了算法的稳定性。  相似文献   

14.
综合考虑识别率、时间复杂度以及鲁棒性,提出一种边缘、纹理、颜色多特征融合和支持向量机(SVM)的交通标志识别算法。通过提取能够描述交通标志图像边缘信息的方向梯度直方图(HOG)特征并进行统计平均,与能够表示标志图像内部纹理信息的局部二值模式(LBP)特征融合得到降维后的HOG-maxLBP特征,再级联交通标志的颜色特征作为最终的特征向量,最后利用SVM进行交通标志训练和分类。实验结果表明,该算法不仅提高了交通标志的识别率,而且降低了时间复杂度,增强了系统鲁棒性。  相似文献   

15.
对支持向量机(Twin Support Vector Machine,TWSVM)的优化思想源于基于广义特征值近似支持向量机(Proximal SVM based on Generalized Eigenvalues,GEPSVM)。该算法将传统SVM问题分解为两个凸规划问题,使得训练速度缩减到原来的1/4。对TWSVM做了修正,基于新的优化准则设计了一种特殊TWSVM(GTWSVM),在此基础上,提出了快速GTWSVM(FGTWSVM),其将GTWSVM转换为无约束凸规划问题求解。该算法在保证得到与TWSVM相当的分类性能以及较快的计算速度的同时,还减少了输入空间的特征数以及内存占用。对于非线性问题,FGTWSVM可以减少核函数数目。  相似文献   

16.
针对基于监控视频的车辆检测识别问题,给出了一种基于视频监控的面包车识别算法。该方法对监控视频中已跟踪的车辆,提取车辆的方向梯度直方图(HOG)特征作为支持向量机(SVM)分类检测的输入,分类识别该车辆是否为面包车;通过车辆大小的检测,增强了分类识别算法的准确性与鲁棒性。实验证明,该方法能准确进行面包车的分类识别,基于实际的标清监控视频,面包车的分类准确率达到90%左右。  相似文献   

17.
针对形状特征在车辆检测中存在的误检现象,在分析误检原因的基础上,提出一种融合形状和纹理特征的车辆检测方法。对检测窗口中划分的胞元进行方向梯度直方图特征和统一化局部二进制模式算子的求解,统计检测窗口中各胞元的特征情况,在形成浏览窗口的形状和纹理特征过程中,采用主成分分析解决特征的高维度和冗余问题,结合支持向量机进行特征训练和检测实验。实验结果证明,该方法有效兼顾车辆图像的形状和纹理两方面的特征,在不影响检测速度的同时,明显降低了车辆检测的误检率,在时效和精度两方面都取得较好的效果。  相似文献   

18.
秦臻  赵建勇  严义 《计算机工程》2011,37(9):201-203,206
针对电梯群控系统中的交通模式识别问题,提出一种基于多值分类支持向量机(SVM)的电梯交通模式识别方法。采用直接多值分类SVM对采集的电梯交通流数据进行分析,得到交通模式分类器,从而解决电梯交通流模式识别中多输入、多输出的非线性系统辨识问题。实验结果表明,该方法可实现全局最优且分类误差较小,能满足群控系统的要求。  相似文献   

19.
参数的选择对支持向量机(SVM)分类精度和泛化能力有至关重要的影响,而群体智能算法近年来在参数优化方面应用广泛,在此背景下提出CSA-SVM模型。该模型将分类准确率作为目标函数,利用乌鸦搜索算法(CSA)求得SVM的最优参数组合。为了验证CSA-SVM模型的分类性能,将该模型应用于6个标准分类数据集,并分别与遗传算法(GA)和粒子群(PSO)算法优化后的SVM模型进行性能比较。实验结果表明,CSA算法在SVM参数选择中具有更好地寻优能力和更快地寻优速度,CSA-SVM模型具有较高的分类准确率。  相似文献   

20.
非限制环境下光照、姿势、表情等变化已成为户外人脸识别的主要瓶颈所在。针对这一问题,提出了一种学习原型超平面融合线性判别边信息的算法进行人脸识别。利用支持向量机将弱标记数据集中的每个样本表示成一个原型超平面中层特征;使用学习组合系数从未标记的通用数据集中选择支持向量稀疏集;借助于Fisher线性判别准则最大化未标记数据集的判别能力,并使用迭代优化算法求解目标函数;利用线性判别边信息进行特征提取、余弦相似性度量以完成最终的人脸识别。在Extended YaleB和户外标记人脸(LFW)和通用人脸数据集上进行实验,验证了所提算法的有效性和可靠性。实验结果表明,相比其他几种较为先进的人脸识别算法,所提算法取得更好的识别性能。  相似文献   

设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号