最小二乘隐空间支持向量机

在隐空间中采用最小二乘损失函数,提出了最小二乘隐空间支持向量机（LSHSSVMs）．同隐空间支持向量机（HSSVMs）一样,最小二乘隐空间支持向量机不需要核函数满足正定条件,从而扩展了支持向量机核函数的选择范围．由于采用了最小二乘损失函数,最小二乘隐空问支持向量机产生的优化问题为无约束凸二次规划,这比隐空间支持向量机产生的约束凸二次规划更易求解．仿真实验结果表明所提算法在计算时间和推广能力上较隐空间支持向量机存在一定的优势．     

基于偏最小二乘的支持向量机多分类方法

该文提出了一种基于偏最小二乘（PLS）的支持向量机（SVM）多分类方法,该算法利用偏最小二乘思想对样本进行预处理,消除了样本属性之间的相关性,而且得到的综合属性与类信息的相关程度达到最大。通过实验可以看出,该方法不仅可以减少用支持向量机进行分类过程中的支持向量数目,而且当样本属性较多时,可以提高一定的识别率。     

稀疏最小二乘支持向量机及其应用研究

提出一种构造稀疏化最小二乘支持向量机的方法．该方法首先通过斯密特正交化法对核矩阵进 行简约,得到核矩阵的基向量组;再利用核偏最小二乘方法对最小二乘支持向量机进行回归计算,从而使最 小二乘向量机具有一定稀疏性．基于稀疏最小二乘向量机建立了非线性动态预测模型,对铜转炉造渣期吹炼 时间进行滚动预测．仿真结果表明,基于核偏最小二乘辨识的稀疏最小二乘支持向量机具有计算效率高、预 测精度好的特点．     

最小二乘双支持向量回归机

提出了一个最小二乘双支持向量回归机,它是在双支持向量回归机基础之上建立的,打破了标准支持向量回归机利用两条平行超平面构造ε带的思想。事实上,它是利用两条不一定平行的超平面构造ε带,每条超平面确定一个半ε-带,从而得到最终的回归函数,这使该回归函数更符合数据本身的分布情况,回归算法有更好的推广能力。另外,最小二乘双支持向量机只需求解两个较小规模的线性方程组就能得到最后的回归函数,其计算复杂度相对较低。数值实验也表明该回归算法在推广能力和计算效率上有一定的优势。     

最小二乘支持向量机在故障诊断中的应用

为了提高机械设备故障诊断的精度，将小波包分析与最小二乘支持向量机进行了有机的结合。首先对故障信号功率谱进行小波分解，简化了故障特征向量的提取。然后提出了一种基于最小二乘支持向量机的故障诊断模型，用二次损失函数取代支持向量机中的不敏感损失函数，将不等式约束条件变为等式约束，从而将二次规划问题转变为线性方程组的求解，用最小二乘法实现了支持向量机算法，并提出对核函数的σ参数进行动态选取，提高了诊断的准确率。仿真结果表明该模型具有较强的非线性处理和抗干扰能力。     

最小二乘支持向量机算法研究

1 引言支持向量机(SVM,Support Vector Machines)是基于结构风险最小化的统计学习方法,它具有完备的统计学习理论基础和出色的学习性能,在模式识别和函数估计中得到了有效的应用(Vapnik,1995,1998)。支持向量机方法一方面通过把数据映射到高维空间,解决原始空间中数据线性不可分问题;另一方面,通过构造最优分类超平面进行数据分类。神经网络通过基于梯度迭代的方法进行数据学习,容易陷入局部最小值,支持向量机是通过解决一个二次规划问题,来获得     

最小二乘支持向量机在黑液波美度软测量中的应用

支持向量机是近几年发展起来的机器学习的新方法,它能兼顾模型的通用性和推广性,较好地解决了小样本、非线性、高维数、局部极小点等实际问题。针对造纸工业碱回收蒸发工段黑液浓度不易在线实时测量的现状,本文提出了一种基于最小二乘支持向量机的软测量建模方法,实践结果表明该方法是可行的和有效的,其测量的精度完全能够满足生产的需要。     

最小二乘小波支持向量机的DNA序列分类方法

目前使用的已有SVM核函数,在分类中不能逼近某一L₂（R）（平方可积空间）子空间上的任意分类界面。针对上述问题,在支持向量机的核函数方法和小波框架理论的基础上,提出了LS-WSVM结构模型。实验结果表明,和标准的SVM和LS-SVM比较起来,在同等条件下,LS-WSVM在分类方面具有优良的特征提取性能。     

基于多类最小二乘支持向量机的神经元信号识别

针对大脑运动皮层群体神经元信号与运动行为关系的分析,提出一种基于二叉树的最小二乘支持向量机多类分类算法.在对猴子进行三维空间中8个方向手臂运动实验记录的多通道神经元信号的分析中,通过与标准支持向量机和学习矢量量化神经网络的比较,说明该方法不仅与标准支持向量机同样具有比学习矢量量化方法更强的学习能力和预测能力,而且运算时间比标准支持向量机更短.比较结果表明最小二乘支持向量机对于神经元信号分析的有效性和优越性,进而有利于实现性能更高的用于神经康复的脑机接口系统.     

基于最小二乘支持向量机的多属性决策

分析多属性决策问题, 提出了基于最小二乘支持向量机的多属性决策方法。该方法从决策问题本身出发,构造学习样本,再通过最小二乘支持向量机拟合出多属性效用函数,从而实现对方案的排序。该模型与支持向量机相比,参数少,算法简单、可靠。最后通过算例表明方法的可行性与有效性。     

一种快速最小二乘支持向量机分类算法

最小二乘支持向量机不需要求解凸二次规划问题,通过求解一组线性方程而获得最优分类面,但是,最小二乘支持向量机失去了解的稀疏性,当训练样本数量较大时,算法的计算量非常大。提出了一种快速最小二乘支持向量机算法,在保证支持向量机推广能力的同时,算法的速度得到了提高,尤其是当训练样本数量较大时算法的速度优势更明显。新算法通过选择那些支持值较大样本作为训练样本,以减少训练样本数量,提高算法的速度;然后,利用最小二乘支持向量机算法获得近似最优解。实验结果显示,新算法的训练速度确实较快。     

基于LS-SVM的位置指纹室内定位

基于无线接入点（Access Point,AP）接收信号强度（Received Signal Strength,RSS）的位置指纹室内定位技术近几年已经成为国内外位置感知研究的热点。提出了基于最小二乘支持向量机（Least Squares Support Vector Machines,LS-SVM）的位置指纹定位方法。给出了基于LS-SVM的指纹定位模型,描述了LS-SVM指纹样本训练的具体实现过程。重点在于将定位问题转化为一个多类别分类问题,并分别采用一对一（OAO）和一对多（OAA）方法将其转化为多个二值分类问题。仿真结果表明,LS-SVM较传统支持向量机（SVMs）、K近邻（k-Nearest Neighbors,K-NN）定位方法的分类准确率高且计算代价小,平均分类准确率达92.00%。     

基于AdaBoost算法的加权二乘向量回归机

针对二乘向量机(LS-SVM)对所有样本误差惩罚相同、预测精度不高的问题,提出了一种基于AdaBoost模型的二乘向量回归机。该算法使用多个二乘向量机按照某种学习规则协调各二乘向量机的输出,同时根据回归精度,建立各二乘向量机中每一个样本的误差惩罚权重,以突出样本的惩罚差异性,提高算法的泛化性能。实验结果表明,提出的算法提高了二乘向量回归机的预测精度,优化了学习机的性能。     

基于遗传优化最小二乘支持向量机的导引头故障诊断

为提高导引头故障诊断准确率,提出了一种采用改进遗传算法优化的最小二乘支持向量机（LSSVM）构造导引头多故障分类模型的方法。该方法基于一对一策略及改进的投票法建立两层LSSVM多故障分类器,并利用一种自适应变步长搜索策略改进的遗传算法对LSSVM的核参数和正则化参数进行自动优选。通过对某型导引头实测数据的仿真并和标准SVM及BP神经网络诊断方法相比较,结果表明该方法具有更高诊断准确率和计算效率。     

一种广义最小二乘支持向量机算法及其应用

最小二乘支持向量机(LS SVM)是处理不可分样本集情况下模式分类的有效工具,但是该算法在处理很多实际分类问题时,表现出了一定的局限性。为了进一步增强最小二乘支持向量机的推广能力,提出一种通用的广义最小二乘支持向量机算法,并且把这种新算法首先应用到雷达一维距离像的识别中,实验表明新的算法能取得更好的识别效果。     

支持向量机和最小二乘支持向量机的比较及应用研究

介绍和比较了支持向量机分类器和量小二乘支持向量机分类器的算法。并将支持向量机分类器和量小二乘支持向量机分类器应用于心脏病诊断，取得了较高的准确率。所用数据来自UCI bench—mark数据集。实验结果表明，支持向量机和量小二乘支持向量机在医疗诊断中有很大的应用潜力。     

双链DNA解链温度的最小二乘支持向量机预测方法

在DNA计算中,为了确保计算结果的精度和可靠性,要求每个进行编码的DNA分子具有相同或者近似的热力学性质,解链温度T_m是评价DNA分子的热力学稳定性的一个重要的参数。以DNA序列的邻近法参数为基础,应用最小二乘支持向量机（LSSVM）的方法对解链温度进行预测。结果表明,DNA序列的解链温度误差可以达到±5 ℃的范围。     

Improved conjugate gradient implementation for least squares support vector machines

As a promising method for pattern recognition and function estimation, least squares support vector machines (LS-SVM) express the training in terms of solving a linear system instead of a quadratic programming problem as for conventional support vector machines (SVM). In this paper, by using the information provided by the equality constraint, we transform the minimization problem with a single equality constraint in LS-SVM into an unconstrained minimization problem, then propose reduced formulations for LS-SVM. By introducing this transformation, the times of using conjugate gradient (CG) method, which is a greatly time-consuming step in obtaining the numerical solution, are reduced to one instead of two as proposed by Suykens et al. (1999). The comparison on computational speed of our method with the CG method proposed by Suykens et al. and the first order and second order SMO methods on several benchmark data sets shows a reduction of training time by up to 44%.     

基于鲁棒最小二乘支持向量机的气动参数拟合

最小二乘支持向量机（LS－SVM）比标准支持向量机具有更高的计算效率,但是却散失了标准支持向量机的稀疏特性,而且当考虑异常值或者误差变量的高斯假设不成立时,会导致不稳健的估计结果。为了克服这两个缺点,在飞行器的气动参数拟合计算中引入了一种鲁棒最小二乘支持向量机（RLS－SVM）,该方法通过加权的支持向量机来获得鲁棒估计,并通过对支持值谱进行剪枝最终得到稀疏解。仿真结果表明：RLS－SVM方法简单,学习速度快,拟合精度高,鲁棒性强,是一种在飞行器轨迹计算中值得推广和采用的方法。     

支持向量机在字符识别中的应用研究

本文应用SVM对字符图像识别进行实验研究,并在此基础上,研究了SVM对含有高斯噪声的字符图像的识别问题。研究结果表明,SVM能够在有限样本的情况下,获得较高的识别率,是目前小样本学习的最佳解决方案。