双支持向量回归的牛顿算法

为提高支持向量回归的运算速度,提出一种双支持向量回归的牛顿算法。求解2个只带一组约束的支持向量问题,以减少运算量,将2个约束优化问题转化为无约束最优化问题,并采用牛顿迭代算法求解。实验结果表明,在保证与支持向量回归和双支持向量回归拟合能力相当的同时,该算法能减少训练时间。     

支持向量机的人脸检测方法

提出了一种基于离散余弦变换(DCT)和支持向量机(SVM)相结合的人脸检测方法。采用DCT系数作为分类器输入,可以大大减少输入矢量维数,利用改进的SMO学习算法建立了一套基于SVM的人脸检测系统。     

在线Lagrangian支撑向量回归

为快速求解在线支撑向量回归算法,给出了一种基于Lagrangian支撑向量回归(LSVR)的在线增量学习算法.LSVR得到的无约束最优化问题可以采用快速迭代算法求解,该迭代算法可以从任何初始点收敛.LSVR求解时,在迭代开始只需要对阶数为输入样本数加一的矩阵求逆.在线增量LSVR学习算法在线性情况下采用S-M-W公式可以明显减少运算时间,在非线性情况下矩阵求逆充分利用了历史学习结果,减少了很多重复计算.通过在多个数据集上进行对比,实验结果表明:该算法与以前算法相比不仅保持了较好的精度,同时训练时间大大减少.     

Lagrange双支撑向量回归机

提出一种快速的支撑向量回归算法。首先将支撑向量回归的带有两组约束的二次规划问题转化为两个小的分别带有一组约束的二次规划问题,而每一个小的二次规划问题又采用一种快速迭代算法求解,该迭代算法能从任何初始点快速收敛,避免了二次优化问题求解,因此能显著提高训练速度。在多个标准数据集上的实验表明,该算法比传统支撑向量机快很多,同时具有良好的泛化性能。     

核扩展判定及核扩展方法

给出一种判定模式识别算法能否核扩展的方法,该方法具有不被算法具体形式所限制的优点.传统核扩展方法是通过将输入数据映射到特征空间,然后在特征空间运行原始算法,得到相应的核方法.给出另外一种核扩展策略,与传统核扩展方法具有等价性.分析及试验过程都表明,本文的核扩展方法具有可行性.     

拉格朗日支持向量回归的有限牛顿算法

拉格朗日支持向量回归是一种有效的快速回归算法,求解时需要对维数等于样本数加一的矩阵求逆,求解需要较多的迭代次数才能收敛。采用一种Armijo步长有限牛顿迭代算法求解拉格朗日支持向量回归的优化问题,只需有限次求解一组线性等式而不需要求解二次规划问题,该方法具有全局收敛和有限步终止的性质。在多个标准数据集上的实验验证了所提算法的有效性和快速性。