稀疏最小二乘支持向量机

针对大规模数据集的回归和分类问题，改进了最小二乘支持向量机.以再生核希尔伯特空间中的线性分析为基础，把样本集映射到再生空间中，然后张成再生空间的一个线性子空间，并求出这个子空间的基.利用基线性表示子空间中的其他元素，减小了求解矩阵的维数，通过求解规模相对较小的线性方程组完成对支持向量机的训练.采用该方法对较大规模的数据样本进行了回归和分类仿真试验，并与普通的最小二乘支持向量机进行比较.结果表明，采用该方法解决复杂非线性函数的回归和分类问题，不但可以得到稀疏解，而且计算速度比普通最小二乘支持向量机提高了约20％.     

最小二乘支持向量机变型算法研究

推导出最小二乘支持向量机(LSSVM)的分类几何意义,再将近似支持向量机(PSVM)等价推广至回归问题,最后提出PSVM的另一种非线性模型——直接支持向量机(DSVM)．与LSSVM相比,PSVM和DSVM增强了问题的凸性,计算复杂度低．且对非线性时,DSVM比PSVM更简单,替换核函数就可实现线性与非线性的统一．数值实验表明,线形情况下PSVM比LSSVM的训练速度至少快一倍,非线性时,DSVM比PSVM速度要快一倍左右;在泛化能力方面线性PSVM不低于LSSVM,非线性时DSVM最高．     

基于最小二乘支持向量机的数控机床热误差预测

为实现数控机床热误差的补偿控制,提出基于最小二乘支持向量机进行数控机床热误差建模预测的方法.根据最小二乘支持向量机回归预测的原理,优化选择最小二乘支持向量机参数,对数控车床热误差进行最小二乘支持向量机建模.通过测量数控车床主轴温升值与主轴热变形量,将获得的数据进行最小二乘支持向量机建模训练,以建立机床热误差预测模型.实验结果表明,该模型能有效描述热动态误差,与最小二乘法建模进行比较,结果显示,基于最小二乘支持向量机的数控机床热误差预测模型精度高、泛化能力强;采用最小二乘支持向量机得到的预测模型可用于数控机床热误差实时补偿,以提高机床的加工精度.     

基于最小二乘孪生支持向量机的不确定数据学习算法

孪生支持向量机通过计算2个二次规划问题,得到2个不平行的超平面,用于解决二分类问题。然而在实际的应用中,数据通常包含不确定信息,这将会对构建模型带来困难。对此,提出了一种用于求解带有不确定数据的最小二乘孪生支持向量机模型。首先,对于每个实例,该方法都分配一个噪声向量来构建噪声信息。其次,将噪声向量结合到最小二乘孪生支持向量机,并在训练阶段得到优化。最后,采用一个2步循环迭代的启发式框架求解得到分类器和更新噪声向量。实验表明,跟其他对比方法比较,本方法采用噪声向量对不确定信息进行建模,并将孪生支持向量机的二次规划问题转化为线性方程,具有更好的分类精度和更高的训练效率。     

和声搜索最小二乘支持向量机预测模型及其应用

为了改进目前最小二乘支持向量机(LSSVM)参数选择的盲目性,将和声搜索(Harmony Search)算法引入到最小二乘支持向量机中来.利用具有全局优化功能的和声搜索算法对LSSVM中正则化参数γ和核函数参数σ的进行自动优选,提出了和声搜索最小二乘支持向量机(Harmony Search Least Squares Support Vector Machine,HS-LSSVM)算法.通过对丰满大坝位移的建模预测并和BP神经网络模型及传统统计回归模型的分析比较,表明HS-LSSVM模型具有更小的预测误差和更高的预测精度.     

最小二乘支持向量机的自适应数字水印算法

为了提高数字水印的安全性,提出了一种新的基于对比度掩蔽特性的数字水印算法. 根据人眼视觉系统（HVS）的视觉特性,人眼对于亮度信号（Y）的改变较色度信号（U、V）的改变更加敏感,在图像学国际标准CCIR601当中,图像YUV空间中的Y∶U∶V通常会取4∶2∶2. 首先引入对比度敏感函数模型,选择一些对比度函数值最大的子块,并升序排列;接着,对于前一半子块,使用最小二乘支持向量机建立图像邻域像素之间的关系模型;最后,通过动态地调整模型的输出值与中心像素值之间的大小关系,在另一半子块中实现水印的嵌入与提取. 同时,还利用粒子群算法优化了最小二乘支持向量机的超参数. 仿真实验表明,该数字水印算法具有着良好的不可感知性与鲁棒性,对一些常规的攻击操作也有着很强的抵抗能力.     

最小二乘支持向量机的参数优化算法研究

该文针对最小二乘支持向量机的参数优化存在的问题,提出交叉验证的最小二乘支持向量机的参数自调整优化算法,用非线性测试函数的数据进行训练,并用于水下FCAW熔深多信息在线监测。最后把最小二乘支持向量机与传统的BP网络预测结果进行比较,结果证明,该模型的预测精确度是令人满意的,该文提出的方法是可行的。     

应用最小二乘支持向量机预测煤的发热量

为解决现有的煤发热量预测神经网络法的过学习与局部极小点问题,通过对煤热量数据的分析,在统计学习理论和结构风险最小化准则的基础上,建立了基于最小二乘支持向量机(LS-SVM)的煤发热量预测数学模型。在算例分析中与BP神经网络、RBF神经网络预测法进行对比,发现该方法比BP和RBF神经网络具有更高的预测精度,且具有收敛速度快、泛化能力强等优点,为燃煤发热量的预测提供了一种有效的方法。     

最小二乘大间隔孪生支持向量机

针对最小二乘孪生支持向量机（LSTWSVM）精度较低和可能存在的"奇异性"问题,提出了一种最小二乘大间隔孪生支持向量机（LSLMTSVM）.该算法在最小二乘孪生支持向量机的优化目标函数中引入了间隔分布,提高了算法的泛化性能.在目标函数中加入正则项,实现了结构风险最小化,进一步提高了分类能力.实验结果表明,最小二乘大间隔孪生支持向量机比已有的相关算法性能更优.     

回归型模糊最小二乘支持向量机

为了克服最小二乘支持向量机对于孤立点过分敏感的问题,将模糊隶属度概念引入最小二乘支持向量机中,提出了基于支持向量域描述的模糊最小二乘支持向量回归机.该方法先对样本进行数据域描述得到一个包含该组数据的最小半径的超球,再根据特征空间中样本与超球球心的距离确定它们的隶属度,减少了奇异点(噪声)的影响;把所要求解的约束凸二次优化问题转化为正定线性方程组,并采用快速Cholesky分解的方法求解该方程组.实验结果表明该方法在不牺牲训练速度的前提下,比支持向量机和最小二乘支持向量机具有更高的预测精度.     

基于最小二乘支持向量机算法的测量数据时序异常检测方法

将最小二乘支持向量机方法引入火电厂DCS的测量数据时序异常检测领域,该方法很好地建立了火电厂DCS的测量数据时序预测模型,具有预测真实值能力强、全局优化及泛化性好等优点。将该方法应用于某600 MW超临界火电机组DCS测量数据中,经过训练后的LS-SVM模型对再热蒸汽温度数据的检验样本进行不良值检测与真实值预测,均方根误差和平均相对误差分别为0.067%和0.050%,均方根误差是BP网络模型、RBF网络模型的8.756%和8.272%,平均相对误差是BP网络模型、RBF网络模型的7.541%和7.236%。应用结果表明,最小二乘支持向量机方法优于多层BP与RBF神经网络法,能很好地满足异常检测与真实值预测要求。     

Nonlinear correction of photoelectric displacement sensor based on least square support vector machine

A model of correcting the nonlinear error of photoelectric displacement sensor was established based on the least square support vector machine. The parameters of the correcting nonlinear model, such as penalty factor and kernel parameter, were optimized by chaos genetic algorithm. And the nonlinear correction of photoelectric displacement sensor based on least square support vector machine was applied. The application results reveal that error of photoelectric displacement sensor is less than 1.5%, which is rather satisfactory for nonlinear correction of photoelectric displacement sensor.     

用于小样本模式识别的最小平方支持向量机

为了进一步提高支持向量机分类器的推广性能,采用最小二乘原理,形成最小平方支持向量机,编制了相应的MATLAB程序,并将其应用于小样本模式识别中.仿真实验结果表明,最小平方支持向量机分类器在小样本模式识别中,有着优良的推广性能.     

基于最小二乘支持向量机的混合动力挖掘机负载功率预测

为实现液压挖掘机并联式混合动力总成与负载功率的精确匹配,在对变量泵工作原理分析的基础上,提出基于最小二乘支持向量机(LS-SVM)算法的双联式恒功率变量泵功率预测模型。以液压挖掘机实际挖掘作业时采集的载荷谱作为训练样本,以泵出口压力、负流量控制压力和极限载荷控制压力作为训练模型的输入,以泵的排量作为输出建立模型,从而使模型对于作业环境具有更好的适用性。用网格搜索和交叉验证的方法对LS-SVM的参数进行了优化,研究结果表明该模型具有良好的预测精度和泛化能力。     

基于支持向量机的增量式算法

为了扩展支持向量机在大规模数据集和成批出现数据领域的应用,提出了一种基于支持向量机的增量式学习算法.利用标准的支持向量机算法训练得到初始的目标概念,通过增量式步骤不断更新初始的目标概念.更新模型是求解一个与标准支持向量机具有类似的数学形式的凸二次规划问题.证明了在可分情况下,如果新增加的样本不是位于边界区,那么增量式过程既不会改变分类平面也不会改变分类平面的表达.与现有的增量式支持向量机算法相比,该算法无需额外计算就可实现增量式的逆过程并且训练时间与增量式步骤数成反比.实验结果表明,该算法满足稳定性、能够不断改进性能以及性能回复三个准则.     

基于多支持向量机分类器的增量学习算法研究

为了将一般增量学习算法扩展到并行计算环境中,提出一种基于多支持向量机分类器的增量学习算法.该算法根据多分类器对新增样本集的分类结果,以样本到分类超平面的平均距离为条件重新构造支持向量集更新分类器,直到所有分类器的分类精度满足指定阈值.实验结果表明了该算法的可行性和正确性.     

基于壳向量的线性支持向量机快速增量学习算法

提出了一种新的基于壳向量的增量式支持向量机快速学习算法.在增量学习的过程中，利用训练样本集中的几何信息，在样本中选取一部分最有可能成为支持向量的样本--壳向量，它是支持向量集的一个规模较小的扩展集，将其作为新的训练样本集，再进行支持向量训练.这在很大程度上减少了求取支持向量过程中的二次优化运算时间，使增量学习的训练速度大为提高.与单纯使用支持向量代表样本数据集合进行增量学习的传统算法相比，使用该算法使分类精度得到了提高.针对肝功能检测标准数据集（BUPA）的实验验证了该算法的有效性.