混合核函数稀疏LS-SVM软测量建模与应用

针对最小二乘支持向量机存在的稀疏性欠缺和单核函数局限性问题,本文提出一种基于混合核函数稀疏最小二乘支持向量机的软测量建模方法.该方法使用多项式核函数和RBF核函数线性加权构成混合核函数,兼顾最小二乘支持向量机的全局拟合能力与局部拟合能力,以矢量基学习作为稀疏解算法,改善最小二乘支持向量机的稀疏性,在精简模型结构的同时,避免冗余信息中的噪声过多的拟合到模型参数中,进而采用粒子群算法优化模型部分参数.将此方法分别应用于Mackey- Glasss混沌模型的时间序列预测和乙烯精馏塔塔釜乙烯浓度预测,应用结果表明该方法较最小二乘支持向量机、稀疏最小二乘支持向量机以及混合核最小二乘支持向量机具有更好的泛化效果和预报精度,兆示出其良好的应用潜力.     

基于图像特征提取的浮选关键参数智能预测算法

针对矿物浮选过程中回收率参数难以在线检测的问题,提出了一种智能预测算法．首先采用相对红色分量提取泡沫颜色特征,采用改进面积重构变换与分水岭方法分割泡沫图像并提取尺寸特征;然后在此基础上,通过斯密特正交化对最小二乘支持向量机（ＬＳＳＶＭ）核矩阵进行简约,利用核偏最小二乘方法进行回归计算,得到具有稀疏性的ＬＳＳＶＭ 预测模型．实验结果表明,该预测算法能有效地对矿物回收率进行预测．     

一类非平坦函数的多核最小二乘支持向量机的鲁棒回归算法

给出了标准最小二乘支持向量机的数学回归模型,并提出了多核最小二乘支持向量机算法,用于提高非平坦函数的回归精度.运用谱系聚类方法解决多核最小二乘支持向量机的解缺乏稀疏性的问题.利用偏最小二乘回归方法对多核最小二乘支持向量机进行了鲁棒回归.通过仿真实例证实了所提方法的有效性.     

改进的最小二乘支持向量机在入侵检测系统中的应用

介绍最小二乘支持向量机的基本原理论．提出基于最小二乘支持向量机的网络入侵检测系统模型。由于计算经验风险的损失函数为二次函数形式．LSSVM丧失了标准支持向量机的稀疏性,为使LSSVM具有稀疏性,从统计分析的角度出发,应用主成分分析的方法,对样本集进行特征提取,消除变量间的相关性。选取训练样本中分类作用最大的若干样本个体作为支持向量,并将非支持向量上的分类信息转移至支持向量上．提出新的LSSVM稀疏化算法——基于主成分分析的最小二乘支持向量机算法。实验结果表明,由此构建的稀疏LSSVM分类器保持了支持向量机的良好分类性能．而稀疏率相对高,其支持向量数甚至少与标准支持向量机,明显提高了LSSVM的分类效率和实时性。     

基于核的偏最小二乘特征提取的最小二乘支持向量机回归方法

提出了用核的偏最小二乘进行特征提取．首先把初始输入映射到高维特征空间，然后在高维特征空间中计算得分向量，降低样本的维数，再用最小二乘支持向量机进行回归．通过实验表明，这种方法得到的效果优于没有特征提取的回归．同时与PLS提取特征相比，KPLS分析效果更好．     

增量式剪枝最小二乘支持向量机的时间序列预测

根据分块矩阵计算公式和支持向量机核函数矩阵本身特点,在增量式最小二乘支持向量机算法的基础上,通过引入剪枝方法改善最小二乘支持向量机的稀疏性,并将这种方法应用于时间序列预测,试验表明这一方法在预测精度及速度上具有一定的优越性。     

基于压缩感知的多尺度最小二乘支持向量机

提出一种基于压缩感知(Compressive sensing, CS)和多分辨分析(Multi-resolution analysis, MRA)的多尺度最小二乘支持向量机(Least squares support vector machine, LS-SVM). 首先将多尺度小波函数作为支持向量核, 推导出多尺度最小二乘支持向量机模型, 然后基于压缩感知理论, 利用最小二乘匹配追踪(Least squares orthogonal matching pursuit, LS-OMP)算法对多尺度最小二乘支持向量机的支持向量进行稀疏化, 最后用稀疏的支持向量实现函数回归. 实验结果表明, 本文方法利用不同尺度小波核逼近信号的不同细节, 而且以比较少的支持向量能达到很好的泛化性能, 大大降低了运算成本, 相比普通最小二乘支持向量机, 具有更优越的表现力.     

一种基于Cholesky分解的动态无偏LS-SVM学习算法

针对最小二乘支持向量机用于在线建模时存在的计算复杂性问题,提出一种动态无偏最小二乘支持向量回归模型.该模型通过改进标准最小二乘支持向量机结构风险的形式消除了偏置项.得到了无偏的最小二乘支持向量机,简化了回归系数的求解.根据模型动态变化过程中核函数矩阵的特点,设计了基于Cholesky分解的在线学习算法.该算法能充分利用历史训练结果,减少计算复杂性.仿真实验表明了所提出模型的有效性.     

基于边界近邻的最小二乘支持向量机实现

最小二乘支持向量机采用最小二乘线性系统代替传统的支持向量即采用二次规划方法解决模式识别问题,能够有效地减少计算的复杂性。但最小二乘支持向量机失去了对支持向量的稀疏性。文中提出了一种基于边界近邻的最小二乘支持向量机,采用寻找边界近邻的方法对训练样本进行修剪,以减少了支持向量的数目。将边界近邻最小二乘支持向量机用来解决由1-a-r(one-against-rest)方法构造的支持向量机分类问题,有效地克服了用1-a-r(one-against-rest)方法构造的支持向量机分类器训练速度慢、计算资源需求比较大、存在拒分区域等缺点。实验结果表明,采用边界近邻最小二乘支持向量机分类器,识别精度和识别速度都得到了提高。     

一种稀疏最小二乘支持向量分类机

一般的支持向量分类机需要求解二次规划问题,最小二乘支持向量机只需求解一个线性方程组,但其缺乏稀疏性.为了改进最小二乘支持向量分类机,本文结合中心距离比值及增量学习的思想提出一种基于预选、筛选支持向量的稀疏最小二乘支持向量机.该方法既能弥补最小二乘向量机的稀疏性,减少计算机的存储量和计算量,加快最小二乘支持向量机的训练速度和决策速度,又能对非均衡训练数据造成的分类面的偏移进行纠正,还不影响最小二乘支持向量机的分类能力.3组实验结果也证实了这一点.     

回归最小二乘支持向量机的增量和在线式学习算法

首先给出回归最小二乘支持向量机的数学模型，并分析了它的性质，然后在此基础上根据分块矩阵计算公式和核函数矩阵本身的特点设计了支持向量机的增量式学习算法和在线学习算法．该算法能充分利用历史的训练结果，减少存储空间和计算时间．仿真实验表明了这两种学习方法的有效性．     

增量式约简最小二乘孪生支持向量回归机

为了解决增量式最小二乘孪生支持向量回归机存在构成的核矩阵无法很好地逼近原核矩阵的问题,提出了一种增量式约简最小二乘孪生支持向量回归机(IRLSTSVR)算法。该算法首先利用约简方法,判定核矩阵列向量之间的相关性,筛选出用于构成核矩阵列向量的样本作为支持向量以降低核矩阵中列向量的相关性,使得构成的核矩阵能够更好地逼近原核矩阵,保证解的稀疏性。然后通过分块矩阵求逆引理高效增量更新逆矩阵,进一步缩短了算法的训练时间。最后在基准测试数据集上验证算法的可行性和有效性。实验结果表明,与现有的代表性算法相比,IRLSTSVR算法能够获得稀疏解和更接近离线算法的泛化性能。     

基于- 范数约束的LSSVR 多核学习算法

针对核函数选择对最小二乘支持向量机回归模型泛化性的影响, 提出一种新的基于????- 范数约束的最小二乘支持向量机多核学习算法. 该算法提供了两种求解方法, 均通过两重循环进行求解, 外循环用于更新核函数的权值, 内循环用于求解最小二乘支持向量机的拉格朗日乘数, 充分利用该多核学习算法, 有效提高了最小二乘支持向量机的泛化能力, 而且对惩罚参数的选择具有较强的鲁棒性. 基于单变量和多变量函数的仿真实验表明了所提出算法的有效性.

     

基于LLSSVM的MUH高度信息融合技术的研究

应用基于局部最小二乘支持向量机(LLSSVM)的多传感器融合技术实现了高度信息融合技术的研究。针对无法精确测量的微小型无人直升机(MUH)飞行高度问题,用LLSSVM建立了以数据驱动的黑箱模型,并用该多传感器信息融合模型对高度信息进行预测。将基于LSSVM和LLSSVM模型的仿真结果进行对比,结果表明后者效果明显优于前者,说明基于LLSSVM的信息融合模型更为合理有效,解决了LSSVM模型的预测延迟和误差积累放大的问题。     

基于二次仿射传播聚类的非线性系统多模型LSSVM建模

针对复杂非线性系统单模型建模存在计算量大和精度差的问题,提出一种采用仿射传播聚类的多模型LSSVM建模方法,通过仿射传播聚类对样本数据按输入集和输出集二次聚类划分,并分别建立LSSVM子模型,非线性系统模型通过子模型加权合成.将该方法应用于两电机变频调速系统的张力和速度模型辨识,仿真结果表明,该建模方法具有较高的精度,能准确拟合系统的非线性特性.     

局部惩罚加权核偏最小二乘算法及其应用

为改善软测量模型精度,提出了一种局部惩罚加权核偏最小二乘算法.该方法通过核映射将原始输入映射到高维特征空间实现对非线性问题的线性化处理,并通过偏最小二乘算法进行主成分提取,降低数据维数;对由主成分构成的新数据集,依据局部学习思想构建局部惩罚加权最小二采回归模型,降低模型对异常数据的敏感度、优化模型参数.鉴于多模型可以改...     

最小二乘支持向量机用于常压塔汽油干点的软测量

最小二乘支持向量机(least squares support vector machine,LSSVM)为一种遵循结构风险最小化原则的核函数学习机器,其训练仅需求解一个线性方程组,且超参数较标准支持向量机更少.由于其实现简单且预测效果良好,近年来在化学、化工领域的应用日益广泛.本文研究了基于LSSVM的软测量建模过程中的数据预处理和优选超参数等问题,并将其应用于常压塔塔顶汽油干点的软测量建模.计算结果表明,其预测精度能够满足生产实际要求,是一种简单有效的非线性软测量建模工具.     

无轴承永磁同步电机最小二乘支持向量机非线性建模

无轴承永磁同步电机的磁链特性表现为严重的非线性, 常规的解析法所建立的模型难以准确反映无轴承永磁同步电机的实际特性. 因此, 提出利用最小二乘支持向量机建立无轴承永磁同步电机非线性模型的新方法. 在介绍最小二乘支持向量机回归理论的基础上, 利用有限元法得到的样本建立了无轴承永磁同步电机的最小二乘支持向量机非线性模型, 并与神经网络方法进行了比较. 仿真结果表明, 所建模型具有较好的鲁棒性和预测精度. 最后给出了应用该模型实现无轴承永磁同步电机优化控制的方法.     

基于改进PSO优化LSSVM的MEMS陀螺随机漂移预测

提出一种基于改进粒子群算法（PSO）优化最小二乘支持向量机（LSSVM）的MEMS陀螺随机漂移的预测模型建立方法。该方法首先应用最小二乘支持向量机对MEMS陀螺随机漂移建立预测模型,然后应用改进粒子群算法对该模型进行优化,最后应用参数优化后的LSSVM预测模型对随机漂移进行预测。该方法不仅解决了支持向量机训练速度慢和所需计算资源多的问题,而且文中提出的改进的惯性权值递减策略使PSO算法在全局或局部搜索能力上的侧重具有更好的适应度。实验结果表明,该预测模型可以有效地进行陀螺随机漂移的预测,且预测效果优于基本PSO优化的最小二乘支持向量机。