首页 | 本学科首页   官方微博 | 高级检索  
     

正则化最小二乘分类的AlignLoo模型选择方法
引用本文:杨辉华,王行愚,王勇,高海华.正则化最小二乘分类的AlignLoo模型选择方法[J].控制与决策,2006,21(1):7-0012.
作者姓名:杨辉华  王行愚  王勇  高海华
作者单位:1. 华东理工大学,信息科学与工程学院,上海,200237;桂林电子工业学院,计算机系,广西,桂林,541004
2. 华东理工大学,信息科学与工程学院,上海,200237
3. 华东理工大学,信息科学与工程学院,上海,200237;桂林电子工业学院,网络信息中心,广西,桂林,541004
基金项目:国家重点基础研究发展规划项目(2002CB312200);高等学校博士点基金项目(20040251010).
摘    要:正则化最小二乘分类(RLSC)是一种基于二次损失函数的正则化网络,其推广能力受模型参数影响,传统的模型选择方法是耗时的参数网格搜索.为此,提出一种新颖的AlignLoo模型选择方法,其关键在于将核参数与超参数分开优化,即最大化核-目标配准以选择最优核参数,最小化RLSC的留一法误差的界以选择最优超参数.该方法效率高且不需验证样本,并在IDA数据集上进行了测试,结果表明方法有效.

关 键 词:棱函数  正则化  最小二乘法  分类  模型选择  支持向量机
文章编号:1001-0920(2006)01-0007-06
收稿时间:2005-01-04
修稿时间:2005-03-15

AlignLoo Model Selection Approach for Regularized Least-squares Classification
YANG Hui-hua,WANG Xing-yu,WANG Yong,GAO Hai-hua.AlignLoo Model Selection Approach for Regularized Least-squares Classification[J].Control and Decision,2006,21(1):7-0012.
Authors:YANG Hui-hua  WANG Xing-yu  WANG Yong  GAO Hai-hua
Abstract:Regularized Least-Squares Classification(RLSC) is a kind of kernel-based square loss regularization network,and its generalization performance is severely influenced by the setting of its kernel and hyper parameters.A novel approach named AlignLoo is presented for optimal parameters selection,and the key of this approach lies in tuning the kernel parameter and hyper parameter sequentially.First,the optimal kernel parameter is selected by maximizing kernel target alignment,and then the optimal hyper-parameter is determined via minimizing RLSC's leave-one-out error bound.The experimental results on IDA benchmark datasets demonstrate that the proposed approach is superior to traditional grid search method in that it is much more time efficient and it needs no independent validation set.
Keywords:Kernel function t Regularizationt Least-squares methods  Classification t Model selection t Support vector machines
本文献已被 CNKI 维普 万方数据 等数据库收录!
点击此处可从《控制与决策》浏览原始摘要信息
点击此处可从《控制与决策》下载全文
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号