首页 | 本学科首页   官方微博 | 高级检索  
相似文献
 共查询到10条相似文献,搜索用时 15 毫秒
1.
研究l2范数正则化最小二乘支持向量机的坐标下降算法实现.在图像处理、人类基因组分析、信息检索、数据管理和数据挖掘中经常会遇到机器学习目标函数要处理的数据无法在内存中处理的场景.最近研究表明大规模线性支持向量机使用坐标下降方法具有较好的分类性能,在此工作基础上,文中扩展坐标下降方法到最小二乘支持向量机上,提出坐标下降l2范数LS-SVM分类算法.该算法把LS-SVM目标函数中模型向量的优化问题简化为特征分量的单目标逐次优化问题.在高维小样本数据集、中等规模数据集和大样本数据集上的实验验证了该算法的有效性,与LS-SVM分类算法相比,在数据内存中无法处理的情况下可作为备用方法.  相似文献   

2.
针对支持向量数据描述(SVDD)训练大规模样本时计算复杂度太大的问题,利用支持向量的稀疏特性,提出了一种基于核密度估计(KDE)的实时SVDD算法;该算法首先通过KDE方法从原始样本集中选择εk比例的稀疏样本用于SVDD训练;然后用训练得到的支持向量对特征空间中的样本中心进行估计;最后计算原始样本集中所有样本到中心的距离,并对所有距离按降序排列,通过提取εd比例距中心较大的样本作为训练样本集对SVDD进行训练,最终实现了训练样本规模约简;仿真结果表明:算法在保证训练精度的前提下训练复杂度削减为经典算法的1/10以内,满足了SVDD故障检测的实时性要求。  相似文献   

3.
交替方向乘子法(ADMM)在机器学习问题中已有一些实际应用。针对大规模数据的处理和非光滑损失凸优化问题,将镜面下降方法引入原ADMM批处理算法,得到了一种新的改进算法,并在此基础上提出了一种求解非光滑损失凸优化问题的坐标优化算法。该算法具有操作简单、计算高效的特点。通过详尽的理论分析,证明了新算法的收敛性,在一般凸条件下其具有目前最优的收敛速度。最后与相关算法进行了对比,实验结果表明该算法在保证解稀疏性的同时拥有更快的收敛速度。  相似文献   

4.
L1正则化在稀疏学习的研究中起关键作用,使用截断L1正则化项往往可以获得更好的准确率,但却导致了非凸优化问题.目前,主要采用多阶段凸松弛(multi-stage convex relaxation,MSCR)算法进行求解,由于每一阶段都需要求解一个凸优化问题,计算代价较大.为了弥补上述不足,提出了一种求解截断L1正则化项非凸学习问题的坐标下降算法(Non-convex CD).该算法只需在多阶段凸松弛算法的每一阶段执行单步的坐标下降算法,有效降低了计算复杂性.理论分析表明所提出的算法是收敛的.针对Lasso问题,在大规模真实数据库作了实验,实验结果表明,Non-convex CD在取得和MSCR几乎相同准确率的基础上,求解的CPU时间甚至优于求解凸问题的坐标下降方法.为了进一步说明所提算法的性能,进一步研究了Non-convex CD在图像去模糊化中的应用问题.  相似文献   

5.
支撑向量数据域描述优化问题最优解理论分析   总被引:1,自引:0,他引:1  
王晓明  王士同 《软件学报》2011,22(7):1551-1560
  相似文献   

6.
提出一种L1/2正则化Logistic回归模型,并针对此模型构造有效的求解算法.文中模型基于L1/2正则化理论建立,有效改善传统模型存在的变量选择与计算过拟合问题.文中算法基于"坐标下降"思想构造,快速有效.在一系列人工和实际数据集上的实验表明,文中算法在分类问题中具有良好的变量选择能力和预测能力,优于传统Logistic回归和L1正则化Logistic回归.  相似文献   

7.
针对SVDD背景建模时混入异常点造成的检测率下降的问题,提出了基于主成分建模的SVDD方法并应用于高光谱图像异常检测。利用高光谱图像的光谱特征提取背景的主要成分,并分别对不同成分构建超球体,形成单种背景成分SVDD模型,最后利用综合决策函数对单个SVDD背景模型进行综合判断待检测像元,从而实现高光谱图像异常像元的检测。用仿真数据和真实数据对算法的性能进行验证,并将其与SVDD方法进行性能比较。结果表明,新算法在低虚警概率下较之SVDD模型有更高的检测概率,实验结果证明了算法的有效性。  相似文献   

8.
针对商业银行的信用评估问题,笔者在现有的SVDD算法基础上提出了一种新的个人信用评估方法——改进的SVDD算法。笔者首先详细介绍了此算法的理论知识以及一些推导过程,然后通过案例验证了该算法的可行性和有效性,结果表明改进的SVDD算法效果较好。  相似文献   

9.
流形嵌入的支持向量数据描述   总被引:3,自引:0,他引:3  
测地距离能在宏观层面上较真实地反映数据中所隐含的几何结构,可基于它的支持向量数据描述(SVDD)无法直接优化.为此,文中提出一种流形分类学习算法的设计框架.用原空间测地距离近似各向同性的特征映射(ISOMAP)降维空间上的欧氏距离,即在隐含ISOMAP降维后空间上执行原学习算法.按照该框架,以SVDD为例发展出嵌入的ISOMAP发现的低维流形的SVDD(mSVDD),从而解决基于测地距离的SVDD的优化问题.USPS手写体数字数据集上的实验表明,mSVDD的单类性能较SVDD有较显著提高.  相似文献   

10.
提出了一种基于支持向量数据描述(SVDD)算法的快速事件检测方法.该算法把有事件样本和无事件样本分别用全体样本优化的SVDD算法进行优化.但每次只对那些对超球体边界有影响的数据进行优化.该方法既保留了全体样本优化SVDD算法的优点,又达到加快训练速度的目的.采用1-880数据库中实际交通的历史数据进行实验,并与全体样本优化SVDD实验结果相比较.实验证明该分类方法能够获得较高检测率和较低的误报率,且需要较短的训练时间,表明了所给方法的有效性和可行性.  相似文献   

设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号