二尺度最小二乘小波支持向量回归

基于小波多尺度理论和最小二乘支持向量机的优越性能,提出了多尺度最小二乘小波支持向量回归,弥补了普通最小二乘小波支持向量回归在单尺度小波空间上对函数进行逼近的不足,使用多尺度上的小波线性组合来逼近L^2（R^d）空间上的任意函数,真正意义上实现了小波分解和最小二乘支持向量机的最佳结合,更有效地继承了小波多尺度学习算法和最小二乘支持向量机的优点,既能达到有效精度而且还计算简便。本文以两尺度为例,通过仿真实验说明了所提算法的有效性。     

最小二乘支持向量机分类问题的算法实现

介绍了支持向量机理论、常用的支持向量机内积核函数以及最小二乘支持向量机算法.采用最小二乘法实现了支持向量机分类算法.数字仿真结果表明,该算法的识别正确率可达100%.     

最小二乘支持向量机的半监督学习算法

将最小二乘支持向量机引入到半监督学习中,提出了一种最小二乘支持向量机的半监督学习算法.采用最小二乘支持向最机训练混合样本集,利用最小二乘支持向量机训练速度快、效率高等优点有效地克服了目前一些半监督支持向量机学习算法时间代价大、效率低的缺陷.在训练过程中采用区域标注法,减少达到收敛所需要的迭代次数,并给出了SLS-SVM算法具体的数学描述.在人造数据集及实际数据集上的实验表明,最小二乘支持向量机的半监督学习算法可以有效的减少训练时问,提高训练的速度,从而具有更好的推广能力.     

双核函数最小二乘支持向量机汽油干点软测量建模

针对单核函数最小二乘支持向量机容易陷入局部最优值,提出双核函数最小二乘支持向量机软测量建模算法。该方法利用Sigmoid核函数与RBF核函数线性加权构成双核函数,去除部分较小支持向量样本的方法,改善最小二乘支持向量机的稀疏特性,提高模型运算速度,用k-交叉验证法进行部分参数的优化,最后将此方法用于建立汽油干点软测量模型,并与标准支持向量机、单核最小二乘支持向量机比较,结果表明双核函数最小二乘支持向量机软测量模型具有更高的计算精度和更好的推广能力。     

克隆规划-交叉验证参数优化的LSSVM及惯性器件预测

为改善最小二乘支持向量机的泛化性能,将克隆规划、交叉验证相结合的优化算法用于最小二乘支持向量机的参数优化．克隆规划算法是具有局部、全局搜索能力的优化算法,能有效避免陷入局部极值;交叉验证算法的无偏估计性抑制了训练过程中“过拟合”和“欠拟合”．在该优化算法中,用交叉验证误差构造抗体抗原亲合度,用克隆规划算法寻找最小二乘支持向量机的最优参数．用优化的最小二乘支持向量机回归模型建立了惯性器件时间序列预测模型．实验结果验证了算法的有效性及预测模型的泛化性能．预测模型为动态补偿、故障预测提供了依据．     

基于LS-SVM的光纤智能结构损伤诊断

针对目前结构损伤诊断方法的局限以及最小二乘支持向量机算法优点,提出采用最小二乘支持向量机来对光纤智能结构损伤位置识别进行研究,并在Matlab中编制了相应的支持向量机程序,建立了相应损伤诊断模型.以实例数据为学习样本和测试样本,讨论了基于最小二乘支持向量机的光纤智能结构损伤诊断可行性.试验研究结果表明,基于最小二乘支持向量机光纤智能结构损伤诊断识别方法具有较高的可靠性和精度且操作方便,是一种性能优良的智能识别方法,为智能结构实现损伤自诊断提供了更为先进的方法.     

基于最小二乘支持向量机的刀具磨损预报建模

最小二乘支持向量机是支持向量机的一种扩展,已在模式识别和函数逼近等领域得到了成功应用.将最小二乘支持向量机应用于刀具磨损的预报,在网格搜索的基础上采用交叉验证法确定模型的参数,并同偏最小二乘回归的建模结果进行了比较.     

支持向量机模型改进及在短期边际电价预测中的应用

传统的最小二乘支持向量机模型对训练样本的各个输入点同等看待,各输入向量的贡献度是相同,未对离群点加以考虑.在最小二乘支持向量机模型中引入隶属度的相关理论并建立模糊隶属度函数,对离群点和正常点赋予不同的贡献度,建立了模糊最小二乘支持向量机模型.最后,以美国PJM电力市场的边际电价预测为例,验证了本文模型的预测精度比传统的最小二乘向量机模型高50％左右,且复杂程度基本不变.     

PSO-LSSVM的核电站破口故障程度评估方法

为了保证从核电站大量数据中有效地挖掘信息以及故障下运行状态的智能表征,本文提出一种基于粒子群优化和最小二乘支持向量机的系统级故障程度评估方法,用于完善故障诊断系统的功能.针对最小二乘支持向量机算法的超参数选取对于回归精度影响较大问题,应用基于粒子群优化算法借助智能搜索策略来优化模型的超参数.基于最优超参数的回归模型能够提取系统级参数间的约束关系,以进行实时故障程度的评估.性能测试表明:采用提出的方法能够有效评估核电站系统级故障的程度,相较于粒子群优化-支持向量机以及最小二乘支持向量机算法具有更高的回归精度,且抗噪性能良好,保证了故障诊断系统的精度及可靠性.     

基于最小二乘孪生支持向量机的不确定数据学习算法

孪生支持向量机通过计算2个二次规划问题,得到2个不平行的超平面,用于解决二分类问题。然而在实际的应用中,数据通常包含不确定信息,这将会对构建模型带来困难。对此,提出了一种用于求解带有不确定数据的最小二乘孪生支持向量机模型。首先,对于每个实例,该方法都分配一个噪声向量来构建噪声信息。其次,将噪声向量结合到最小二乘孪生支持向量机,并在训练阶段得到优化。最后,采用一个2步循环迭代的启发式框架求解得到分类器和更新噪声向量。实验表明,跟其他对比方法比较,本方法采用噪声向量对不确定信息进行建模,并将孪生支持向量机的二次规划问题转化为线性方程,具有更好的分类精度和更高的训练效率。     

基于最小二乘支持向量机的黏着状态辨识

针对重载机车黏着状态辨识中分类准确率不高的问题,提出采用布谷鸟遗传算法对最小二乘支持向量机的参数进行优化,并采用交叉验证原理提高该模型的整体泛化性能。首先,采用布谷鸟算法寻找惩罚因子和核参数的初始值;然后,采用遗传算法对最小二乘支持向量机进行训练,从而得到具有最佳参数的最小二乘支持向量机的分类模型。该分类模型将重载机车黏着状态分为正常、故障征兆、微小故障和严重故障4个状态。实验结果表明,提出的最小二乘支持向量机模型在黏着状态辨识中的分类准确率高达94.59%,高于极限学习机的分类准确率(84.61%),证明布谷鸟遗传算法能够有效提高最小二乘支持向量机的分类准确率。     

基于支持向量机的多传感器探测目标分类方法

针对传感器探测的数据常含有噪声,分类算法易受噪声数据干扰、容错能力差而产生错分问题,研究对多传感器探测目标进行分类的方法.提出容噪最小二乘投影双支持向量机(NLSPTSVM),去除离群点,提高容噪性能;通过定义NLSPTSVM置信度,以样本的最小超球体距为依据,根据“越是上层分类器的分类性能对分类模型的推广性能影响越大”的思想,以置信度NLSPTSVM作为二分类器,将NLSPTSVM的降噪过程提前到生成有向图之前,提出分类精度高、容噪性和容错性强的多分类支持向量机--容噪上层择优多路支持向量机(NUMDAG-SVMs).实验表明,NUMDAG-SVMs与同类算法相比具有更优的分类准确率和更强的容噪性和容错性.采用NUMDAG-SVMs对传感器采集的真实数据进行分类,取得了很好的结果.     

Least squares weighted twin support vector machines with local information

A least squares version of the recently proposed weighted twin support vector machine with local information(WLTSVM) for binary classification is formulated. This formulation leads to an extremely simple and fast algorithm, called least squares weighted twin support vector machine with local information(LSWLTSVM), for generating binary classifiers based on two non-parallel hyperplanes. Two modified primal problems of WLTSVM are attempted to solve, instead of two dual problems usually solved. The solution of the two modified problems reduces to solving just two systems of linear equations as opposed to solving two quadratic programming problems along with two systems of linear equations in WLTSVM. Moreover, two extra modifications were proposed in LSWLTSVM to improve the generalization capability. One is that a hot kernel function, not the simple-minded definition in WLTSVM, is used to define the weight matrix of adjacency graph, which ensures that the underlying similarity information between any pair of data points in the same class can be fully reflected. The other is that the weight for each point in the contrary class is considered in constructing equality constraints, which makes LSWLTSVM less sensitive to noise points than WLTSVM. Experimental results indicate that LSWLTSVM has comparable classification accuracy to that of WLTSVM but with remarkably less computational time.     

一种改进的双支持向量机

双支持向量机是近年提出的一种新的支持向量机。在处理模式分类问题时,双支持向量机速度远远超过传统支持向量机,而且显示出较好的推广能力。但双支持向量机没有考虑不同输入样本点可能会对分类超平面的形成产生不同影响,在某些实际问题中具有局限性。为了克服这个缺点,提出了一种基于模糊隶属度的双支持向量机。该算法设计了一种基于距离的模糊隶属度函数,给不同的训练样本赋予不同的模糊隶属度,构建两个最优非平行超平面,最终实现二值分类。实验结果表明,这种改进双支持向量机的分类性能优于传统的双支持向量机。     

基于鲁棒最小二乘支持向量机的齿轮磨损预测

为了降低包含噪声的现场齿轮磨损数据对最小二乘支持向量机(least squares support vector machine,LSSVM)模型稳健性的影响,采用迭代鲁棒最小二乘支持向量机(iteratively robust least squares support vector machine,IRLSSVM)对齿轮磨损数据进行建模和预报.首先,增加权函数迭代次数以保证建模过程的鲁棒性;然后,将具有全局搜索的耦合模拟退火(coupled simulated annealing,CSA)与局部优化的单纯形法(simplex method,SM)相结合的方法用于优化IRLSSVM模型超参数,进而采用鲁棒交叉验证作为CSA-SM算法拟合目标函数,提高IRLSSVM模型超参数优化过程的鲁棒性;最后,利用K727840ZW变速箱现场齿轮磨损数据进行了数值实验,结果验证了所提出方法的有效性.     

支持向量机的给水管网水质综合评价研究

提出了基于支持向量机(SVM)的给水管网水质综合评价模型.在给水管网水质评价标准的基础上采用内插法获得学习样本,利用最小二乘支持向量机回归算法和高斯核函数对支持向量机进行训练,并用K-折交叉验证法优化模型参数,以优化参数的模型建立网络水质分级标准.将训练好的网络模型应用于水体实例并与其它几种评价模型加以比较,分析结果表明,SVM方法评价结果比较客观、合理,尤其在体现指标的极值作用方面具有独到的优势.     

基于CCA对LSSVM分类器的稀疏化

为了对分类最小二乘支持向量机实施有效的稀疏化，以提高分类速率，采用分类相关分析算法，按序提取样本核矩阵的全部分类相关成分，并依据样本核矩阵各列与分类相关成分的相关性，对训练集所有个体按分类的重要性排序，进而可选取最重要的部分个体作为支持向量，并将其余非支持向量的信息转移至支持向量，以提高支持向量的分类表达能力.由此构建一种新的稀疏型最小二乘支持向量机CS LSSVM，并将其应用于多个模式分类的实际问题.测试结果表明，CS LSSVM稀疏性很强，且保持了标准LSSVM的分类性能，还可直接适用于多类问题.     

基于高斯噪声的孪生近端最小二乘支持向量回归模型研究及应用

孪生近端最小二乘支持向量回归机(twin proximal least squares support vector regression,TPLSSVR)是在PLSSVR模型的理论基础上结合TSVR模型的双超平面理念而设计的一种新的回归模型. 本文利用TPLSSVR模型框架构建了基于高斯噪声的孪生近端最小二乘支持向量回归模型. 该模型利用最小二乘方法,分别加入正则化项b²₁、b²₂,将一个不等式约束问题转化为两个更简单的等式约束问题,提高了模型的泛化能力,有效提升了预测精度. 为解决模型的参数选择问题,选用收敛速度快、鲁棒性好的粒子群优化算法对模型参数进行优化选择. 将新构建的模型应用于人工数据集和风速数据集,实验结果显示该模型有较好的预测效果.