多尺度最小二乘小波支持向量机的回归建模

普通最小二乘支持向量机算法用于多尺度回归建模时精度较低。针对该问题,选取墨西哥草帽小波函数作为最小二乘支持向量机的核函数,设计一种基于小波核的多尺度最小二乘小波支持向量机。在此基础上,通过解二次优化问题求出多尺度回归建模问题的全局最优解,最终得出的多尺度回归模型能够有效地逼近多尺度信号。仿真结果表明,该算法具有较高的精度。     

基于多尺度小波LSSVR的污水处理过程软测量

针对污水处理中某些生物参数难以在线测量的情况,本文提出了一种基于小波核的多尺度最小二乘小波支持向量机软测量建模方法:。首先,选取墨西哥草帽小波函数作为最小二乘支持向量机的核函数,进而设计出多尺度小波最小二乘支持向量回归机(MW-LSSVR)。然后利用该支持向量机和出水水质参数特性建立混合软测量模型,实现对出水BOD浓度、COD浓度在线预测。通过在实际污水处理过程的应用,结果:表明本建模方法:具有较高的预测精度和较快的模型学习速度,能对BOD的做出准确的预测,一定程度上可以替代某些昂贵的在线测量仪表,给污水处理厂工作人员提供了控制操作依据,具有一定的实际应用价值。     

基于协同最小二乘支持向量机的Q学习

针对强化学习系统收敛速度慢的问题, 提出一种适用于连续状态、离散动作空间的基于协同最小二乘支持向量机的Q学习. 该Q学习系统由一个最小二乘支持向量回归机(Least squares support vector regression machine, LS-SVRM)和一个最小二乘支持向量分类机(Least squares support vector classification machine, LS-SVCM)构成. LS-SVRM用于逼近状态--动作对到值函数的映射, LS-SVCM则用于逼近连续状态空间到离散动作空间的映射, 并为LS-SVRM提供实时、动态的知识或建议(建议动作值)以促进值函数的学习. 小车爬山最短时间控制仿真结果表明, 与基于单一LS-SVRM的Q学习系统相比, 该方法加快了系统的学习收敛速度, 具有较好的学习性能.     

混合核函数稀疏LS-SVM软测量建模与应用

针对最小二乘支持向量机存在的稀疏性欠缺和单核函数局限性问题,本文提出一种基于混合核函数稀疏最小二乘支持向量机的软测量建模方法.该方法使用多项式核函数和RBF核函数线性加权构成混合核函数,兼顾最小二乘支持向量机的全局拟合能力与局部拟合能力,以矢量基学习作为稀疏解算法,改善最小二乘支持向量机的稀疏性,在精简模型结构的同时,避免冗余信息中的噪声过多的拟合到模型参数中,进而采用粒子群算法优化模型部分参数.将此方法分别应用于Mackey- Glasss混沌模型的时间序列预测和乙烯精馏塔塔釜乙烯浓度预测,应用结果表明该方法较最小二乘支持向量机、稀疏最小二乘支持向量机以及混合核最小二乘支持向量机具有更好的泛化效果和预报精度,兆示出其良好的应用潜力.     

基于尺度核函数的最小二乘支持向量机

支持向量机的核函数一直是影响其学习效果的重要因素.本文基于小波分解理论和支持向量机核函数的条件,提出一种多维允许支持向量尺度核函数.该核函数不仅具有平移正交性,且可以以其正交性逼近二次可积空间上的任意曲线,从而提升支持向量机的泛化性能.在尺度函数作为支持向量核函数的基础之上,提出基于尺度核函数的最小二乘支持向量机(LS-SSVM).实验结果表明,LS-SSVM在同等条件下比传统支持向量机的学习精度更高,因而更适用于复杂函数的学习问题.     

代价约束多核最小二乘支持向量机及其应用

针对多核最小二乘支持向量机(multiple kernel least squares support vector machine,MK-LSSVM)忽略了核函数的代价以及缺乏稀疏性的问题,提出了一种代价约束的稀疏多核最小二乘支持向量机方法.将MK-LSSVM的原始优化问题转化为二阶锥规划形式,引入核函数代价因子,约束复杂核函数的权重,以节约变量存储空间利计算时间,利用Schmidt 正交化理论约简核矩阵,进一步减小计算量,并根据支持向量的数目以及活动核函数的类型评估多核学习的总代价.测试数据集仿真结果表明,相比传统的MK-LSSVM,该方法利用更少的支持向量和更简单的组合核函数达到了相同的精度要求,代价更小.采用该方法预测浮选回收率的代价值降低了27.56.     

基于多尺度稀疏LSSVM的时间序列预测

最小二乘支持向量机在提高了支持向量机的运算速度的同时,失去了解的稀疏性.构造的多尺度稀疏最小二乘支持向量机,首先通过小波包分解对于数据进行多尺度描述,同时采用最小二乘支持向量机的学习算法获得数据之间的尺度相关性,可以实现解的稀疏性和可解释性,从而实现了系统的多尺度分解、子系统建模与合成的一体化.通过在时间序列预测上的应用可以发现,此模型在获得稀疏解的同时,极大地提高了系统的性能.而且,可以获得输出结果在不同尺度上的贡献度,增加了系统的可解释性.     

最小二乘Littlewood-Paley小波支持向量机

基于小波分解理论和支持向量机核函数的条件，提出了一种多维允许支持向量核函数——Littlewood-Paley小波核函数．该核函数不仅具有平移正交性，而且可以以其正交性逼近二次可积空间上的任意曲线，从而提升了支持向量机的泛化性能．在Littlewood-Paley小波函数作为支持向量核函数的基础上，提出了最小二乘Littlewood-Paley小波支持向量机(LS-LPWSVM)．实验结果表明，LS-LPWSVM在同等条件下比最小二乘支持向量机的学习精度要高，因而更适用于复杂函数的学习问题．     

稀疏最小二乘支持向量机及其应用研究

提出一种构造稀疏化最小二乘支持向量机的方法．该方法首先通过斯密特正交化法对核矩阵进 行简约,得到核矩阵的基向量组;再利用核偏最小二乘方法对最小二乘支持向量机进行回归计算,从而使最 小二乘向量机具有一定稀疏性．基于稀疏最小二乘向量机建立了非线性动态预测模型,对铜转炉造渣期吹炼 时间进行滚动预测．仿真结果表明,基于核偏最小二乘辨识的稀疏最小二乘支持向量机具有计算效率高、预 测精度好的特点．     

基于多尺度核函数的铆接件腐蚀疲劳预测

目前腐蚀疲劳破坏预测方法精度不高.提出基于小波多分辨分析法(MRA),在再生核希尔伯特空间构建一种多尺度核函数的最小二乘支持向量机(multi-scale kernel LSSVM,MSK_LSSVM)预测算法.根据Mercer平移不变核定理,构造了多尺度复Gaussian小波核函数.由于多尺度核函数能够通过平移生成L2(R2)子空间的一组完备基,因此MSK_LSSVM可以任意逼近目标函数,更具灵活性.经仿真实验验证,与BP神经网络方法、标准支持向量机、灰色系统预测模型方法对比,机械结构中铆接件腐蚀变化的趋势通过MSK_LSSVM预测,准确率高、时间短.     

基于KPLS和LS-SVM的过程参数预测及其应用

针对有色冶炼净化过程流程长、影响因素多以及非线性强等特点,提出了一种结合最小二乘支持向量机和核偏最小二乘回归的过程参数预测方法。考虑到过程参数时间序列具有高噪声和非平稳等特性,首先基于小波多分辨率分析方法将参数时间序列分解成具有不同频率特征的子序列,然后根据分解后各自序列的特点,利用最小二乘支持向量机和核偏最小二乘回归法对各子序列进行建模,最后对各分量预测信号重构合成得到最终的预测结果。将该建模方法应用于锌湿法冶炼净化除钴过程钴离子浓度的预测,并应用工业现场的数据进行了实验验证,结果表明,该预测模型性能优于最小二乘支持向量机模型,具有较好的泛化能力和较强的鲁棒性。     

一种基于全局代表点的快速最小二乘支持向量机稀疏化算法

非稀疏性是最小二乘支持向量机（Least squares support vector machine,LS-SVM）的主要不足,因此稀疏化是LS-SVM研究的重要内容.在目前LS-SVM稀疏化研究中,多数算法采用的是基于迭代选择的稀疏化策略,但是时间复杂度和稀疏化效果还不够理想.为了进一步改进LS-SVM稀疏化方法的性能,文中提出了一种基于全局代表点选择的快速LS-SVM稀疏化算法（Global-representation-based sparse least squares support vector machine,GRS-LSSVM）.在综合考虑数据局部密度和全局离散度的基础上,给出了数据全局代表性指标来评估每个数据的全局代表性.利用该指标,在全部数据中,一次性地选择出其中最具有全局代表性的数据并构成稀疏化后的支持向量集,然后在此基础上求解决策超平面,是该算法的基本思路.该算法对LS-SVM的非迭代稀疏化研究进行了有益的探索.通过与传统的迭代稀疏化方法进行比较,实验表明GRS-LSSVM具有稀疏度高、稳定性好、计算复杂度低的优点.     

增量式约简最小二乘孪生支持向量回归机

为了解决增量式最小二乘孪生支持向量回归机存在构成的核矩阵无法很好地逼近原核矩阵的问题,提出了一种增量式约简最小二乘孪生支持向量回归机(IRLSTSVR)算法.该算法首先利用约简方法,判定核矩阵列向量之间的相关性,筛选出用于构成核矩阵列向量的样本作为支持向量以降低核矩阵中列向量的相关性,使得构成的核矩阵能够更好地逼近原核...     

基于OWPB和LS-SVM的电路板故障诊断系统

针对雷达电路板检修困难的问题,提出了基于最优小波包基和最小二乘支持向量机相结合的雷达电路板故障诊断方法。利用小波变换对采样数据进行去噪处理,通过小波包分解选择最优小波包基提取熵值作为故障特征向量,并作为基于最小二乘支持向量机的雷达故障诊断模型的输入向量,经诊断模型输出后,完成雷达电路板故障诊断。基于此方法设计了雷达电路板故障诊断系统,提高了雷达故障诊断的正确性和效率。     

用多波长和LS-SVM补偿土壤温度的方法研究

针对近红外光谱易受样品温度的影响,采用多尺度小波变换对光谱数据进行消噪,运用最小二乘支持向量机(LS-SVM)在全谱范围内建立了近红外光谱预测模型,研究土壤温度对土壤含水率预测结果的影响,提出了应用多波长和LS-SVM回归法补偿土壤温度对土壤含水率预测精度的影响.试验结果表明,土壤温度影响近红外光谱预测土壤含水率,模型...     

Error tolerance based support vector machine for regression

Most existing online algorithms in support vector machines (SVM) can only grow support vectors. This paper proposes an online error tolerance based support vector machine (ET-SVM) which not only grows but also prunes support vectors. Similar to least square support vector machines (LS-SVM), ET-SVM converts the original quadratic program (QP) in standard SVM into a group of easily solved linear equations. Different from LS-SVM, ET-SVM remains support vectors sparse and realizes a compact structure. Thus, ET-SVM can significantly reduce computational time while ensuring satisfactory learning accuracy. Simulation results verify the effectiveness of the newly proposed algorithm.     

基于最小二乘小波支持向量机的数据拟合实验

针对目前使用的SVM核函数在回归中不能逼近任意目标函数的问题,在支持向量机的核方法和小波框架理论的基础上,提出了LS-WSVM结构模型。该模型在LS－SVM中使用一种新的由小波构成的SVM核函数。实验结果表明,与标准的SVM及LS－SVM比较起来,在同等条件下,LS-WSVM在函数回归方面LS-WSVM具有优良的逼近性能,拟合效果更为细腻。     

基于LS-SVM求解非线性常微分方程组的近似解

提出了一种基于最小二乘支持向量机(LS-SVM)的改进方法求解非线性常微分方程组初值问题的近似解.利用径向基核函数(RBF)可导的特点对LS-SVM模型进行改进,将含核函数导数形式的LS-SVM模型转化为优化问题进行求解.方法可在原始对偶集中获得近似解的最佳表示,所得近似解连续可微,且精度较高.给出数值算例,通过与真实解的对比验证了所提方法的准确性和有效性.