首页 | 本学科首页   官方微博 | 高级检索  
     

基于局部后悔的在线核选择
引用本文:张骁,廖士中. 基于局部后悔的在线核选择[J]. 计算机学报, 2019, 42(1): 61-72
作者姓名:张骁  廖士中
作者单位:天津大学计算机科学与技术学院,天津,300350;天津大学计算机科学与技术学院,天津,300350
摘    要:在线核选择是在线核学习的关键问题.不同于离线核选择,在线核选择需要在保证亚线性收敛率的同时单趟(one-pass)地进行核选择和假设更新,并且现有在线核选择方法的时间复杂度至少是关于回合数平方的,计算效率较低.针对这些问题,该文提出了一种新的基于局部后悔的在线核选择方法.该方法具有亚线性的后悔界和关于回合数对数的时间复杂度.首先,定义了基于局部后悔的核选择准则(LRC),证明该准则是假设序列期望风险的上界.然后,应用相干性来度量新实例与缓冲区中实例的相关性,并结合蓄水池采样来设计缓冲区实例的添加和删除策略.最后,构造LRC的增量更新方法,并应用在线梯度下降方法来更新假设,实现具有亚线性后悔界的在线核选择和在线核学习的高效算法.实验结果表明,该文所提出的在线核选择方法在保证精度的同时可显著提高核选择的计算效率.

关 键 词:在线学习  核方法  在线核选择  后悔分析  预算保持

Online Kernel Selection with Local Regret
ZHANG Xiao,LIAO Shi-Zhong. Online Kernel Selection with Local Regret[J]. Chinese Journal of Computers, 2019, 42(1): 61-72
Authors:ZHANG Xiao  LIAO Shi-Zhong
Affiliation:(School of Computer Science and Technology,Tianjin University,Tianjin 300350)
Abstract:ZHANG Xiao;LIAO Shi-Zhong(School of Computer Science and Technology,Tianjin University,Tianjin 300350)
Keywords:online learning  kernel methods  online kernel selection  regret analysis  budget maintenance
本文献已被 维普 万方数据 等数据库收录!
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号