基于最小二乘支持向量机的非线性系统鲁棒自适应跟踪控制

提出了一种基于最小二乘支持向量机的非线性系统鲁棒自适应跟踪控制方法. 该方法通过最小二乘支 持向量机在线修正由于建模误差、不确定因素等引起的非线性系统逆误差,使得系统输出可以准确跟踪参考模型输 出. 最小二乘支持向量机的参数调整规律由李亚普诺夫稳定性理论导出. 文中证明了非线性系统的稳定性,仿真结果 证明了该方法的有效性.     

动态贝叶斯最小二乘支持向量机

为了对涡扇发动机的运行参数变化进行实时高精度预测,提出一种基于动态贝叶斯最小二乘支持向量机(LS-SVM)的时间序列预测算法。该算法将贝叶斯证据框架理论用于推断LS-SVM的初始模型参数;然后,利用样本增减迭代学习算法实现LS-SVM的参数动态调整。对某型涡扇发动机的摩擦力矩时间序列进行动态预测,并与动态LS-SVM模型的预测结果进行比较。结果显示,动态贝叶斯LS-SVM具有较好的预测精度。     

基于支持向量机的一类混沌系统自适应逆控制

本文研究了基于支持向量机回归自适应逆控制的混沌控制方法,用支持向量机建立系统的辨识器,同时在控制过程可逆的条件下设计基于支持向量回归的系统逆控制器.将该自适应逆控制的方法应用于Lorenz混沌系统的控制,仿真结果表明在系统带有不确定性和测量噪声的情况下,该方法可以有效的将混沌系统的状态控制到给定状态.     

一类非线性系统基于最小二乘支持向量机的直接自适应控制

提出一类非线性系统基于最小二乘支持向量机的直接自适应控制方法.该方法采用最小二乘支持向量机构造自适应控制器,自适应控制器参数的在线调整规律由Lyapunov稳定性理论导出,并严格证明了闭环系统的渐近稳定性.仿真研究表明了此控制方案的可行性和有效性.     

最小二乘隐空间支持向量机

在隐空间中采用最小二乘损失函数,提出了最小二乘隐空间支持向量机（LSHSSVMs）．同隐空间支持向量机（HSSVMs）一样,最小二乘隐空间支持向量机不需要核函数满足正定条件,从而扩展了支持向量机核函数的选择范围．由于采用了最小二乘损失函数,最小二乘隐空问支持向量机产生的优化问题为无约束凸二次规划,这比隐空间支持向量机产生的约束凸二次规划更易求解．仿真实验结果表明所提算法在计算时间和推广能力上较隐空间支持向量机存在一定的优势．     

基于最小二乘支持向量机逆系统的赖氨酸发酵过程解耦控制

将逆系统方法与支持向量机相结合,提出了一种基于最小二乘支持向量机（LS-SVM）的阶逆系统的赖氨酸发酵过程多变量非线性解耦控制方法．在分析了系统可逆性的基础上,利用具有高斯核函数的LS-SVM离线建立赖氨酸发酵过程的非线性逆模型．将得到的LS-SVM逆系统串联在原反应系统之前,使得复杂的非线性多变量系统解耦成多个相对独立的单输入单输出伪线性子系统,从而可用线性系统控制方法对其进行控制．仿真结果表明,LS-SVM逆系统解耦控制方法具有良好的逼近非线性系统的性能．该方法为实现多输入多输出非线性系统的解耦控制提供了一条新的思路．     

最小二乘双支持向量回归机

提出了一个最小二乘双支持向量回归机,它是在双支持向量回归机基础之上建立的,打破了标准支持向量回归机利用两条平行超平面构造ε带的思想。事实上,它是利用两条不一定平行的超平面构造ε带,每条超平面确定一个半ε-带,从而得到最终的回归函数,这使该回归函数更符合数据本身的分布情况,回归算法有更好的推广能力。另外,最小二乘双支持向量机只需求解两个较小规模的线性方程组就能得到最后的回归函数,其计算复杂度相对较低。数值实验也表明该回归算法在推广能力和计算效率上有一定的优势。     

基于最小二乘支持向量机的一类非自治系统自适应控制

提出了一种基于最小二乘支持向量机(LS-SVM)的一类不确定非自治系统自适应控制器设计方法.该方法基于最小二乘支持向量机来估计对象的部分未知非线性项,并给出了最小二乘支持向量机权向量和偏移值的在线学习规则.利用李亚普诺夫理论严格证明了整个闭环系统的跟踪误差、控制器参数以及最小二乘支持向量机权参数和偏移值的一致最终有界.此控制方法可以保证对象在线稳定地跟踪任何光滑的目标轨迹,仿真结果表明了此控制方法的可行性和有效性.     

基于支持向量机和最小二乘支持向量机的入侵检测比较

将支持向量机和最小二乘支持向量机用于入侵检测之中,利用主元分析对数据进行约简,然后使用SVM和 LS-SVM对数据进行训练和测试.基于KDDCUP'99做了三组对比实验,对支持向量机和最小二乘支持向量机的性能做了统计.实验结果表明,SVM比LS-SVM分类能力强,但是LS-SVM耗时较少.     

一种贝叶斯证据框架下支持向量机建模方法的研究

研究贝叶斯证据框架下标准支持向量机和最小二乘支持向量机的估计算法和建模方法，给出一种高斯桉支持向量机估计算法的参数选择和调整方法，将贝叶斯证据框架下支持向量机的建模方法应用于非线性系统的辨识，仿真结果表明，该方法对于工业过程建模是十分有效的。     

基于约简核矩阵的稀疏最小二乘支持向量机

为了解决最小二乘支持向量机模型稀疏性不足的问题,提出了一种约简核矩阵的LS-SVM稀疏化方法.按照空间两点的欧式距离寻找核矩阵中相近的行(列),并通过特定的规则进行合并,以减小核矩阵的规模,进而求得稀疏LS-SVM模型.以高斯径向基核函数为例,详细阐述了改进方法的实现步骤,并通过仿真表明了采用该方法求得的稀疏LS-SVM模型泛化能力良好.     

Benchmarking Least Squares Support Vector Machine Classifiers

In Support Vector Machines (SVMs), the solution of the classification problem is characterized by a (convex) quadratic programming (QP) problem. In a modified version of SVMs, called Least Squares SVM classifiers (LS-SVMs), a least squares cost function is proposed so as to obtain a linear set of equations in the dual space. While the SVM classifier has a large margin interpretation, the LS-SVM formulation is related in this paper to a ridge regression approach for classification with binary targets and to Fisher's linear discriminant analysis in the feature space. Multiclass categorization problems are represented by a set of binary classifiers using different output coding schemes. While regularization is used to control the effective number of parameters of the LS-SVM classifier, the sparseness property of SVMs is lost due to the choice of the 2-norm. Sparseness can be imposed in a second stage by gradually pruning the support value spectrum and optimizing the hyperparameters during the sparse approximation procedure. In this paper, twenty public domain benchmark datasets are used to evaluate the test set performance of LS-SVM classifiers with linear, polynomial and radial basis function (RBF) kernels. Both the SVM and LS-SVM classifier with RBF kernel in combination with standard cross-validation procedures for hyperparameter selection achieve comparable test set performances. These SVM and LS-SVM performances are consistently very good when compared to a variety of methods described in the literature including decision tree based algorithms, statistical algorithms and instance based learning methods. We show on ten UCI datasets that the LS-SVM sparse approximation procedure can be successfully applied.     

基于最小二乘支持向量机的预测控制

最小二乘支持向量机（LS—SVM）方法克服了经典二次规划方法求解支持向量机的维数灾问题。适合于大样本的学习。提出一种新的基于LS—SVM模型的预测控制结构,对一典型非线性系统-连续搅拌槽反应器（CSTR）的仿真表明,该控制方案表现出优良的控制品质并能适应被控对象参数的变化,具有较强的鲁棒性和自适应能力。     

基于最小二乘支持向量机的双模控制

提出一种保证闭环系统稳定性的双模控制:采用预测控制将状态驱动到终端约束域,再利用局部线性控制将状态驱动到原点.在分析一类基于最小二乘支持向量机(LS-SVM)的预测控制的基础上,在常规的性能指标后附加了一个终端约束,并利用李亚普诺夫方法推导了确保闭环系统稳定性的4个充分条件.在此基础上,推导了基于最小二乘支持向量机的双模控制算法.仿真结果显示了算法的优越性.     

Least Squares Support Vector Machine Classifiers

In this letter we discuss a least squares version for support vector machine (SVM) classifiers. Due to equality type constraints in the formulation, the solution follows from solving a set of linear equations, instead of quadratic programming for classical SVM's. The approach is illustrated on a two-spiral benchmark classification problem.     

基于LS-SVM/PID复合逆系统的预测控制

为了提高预测控制算法的控制性能,提出一种基于最小二乘支持向量机(LS-SVM)/PID复合逆系统的预测控制算法。该算法在PID控制的基础上,利用LS-SVM离线建立被控对象的非线性逆模型作为前馈控制器,形成直接逆控制,其克服了逆系统方法鲁棒性不强的缺陷,并与原系统串联构成一个伪线性系统;然后,结合预测控制算法实现系统的预测控制。仿真结果表明,该算法具有较好的跟踪性能和抗干扰能力。     

迭代重加权最小二乘支持向量机快速算法研究

迭代重加权(Iteratively Reweighted)方法是提高最小二乘支持向量机(LS-SVM)稳健性的重要手段,但由于涉及到多次加权和重复训练,该方法需要大量运算,无法广泛应用.通过数值推导,获得了求解迭代重加权最小二乘支持向量机(IRLS-SVM)的快速算法,大幅度减少了其运算复杂度.引入了3种经典的加权函数,并在多个仿真数据集和实际数据集上进行实验,证实了IRLS-SVM能获得相当稳健的学习结果,所提出的快速算法也确实能够大幅度减少训练时间.实验结果同时表明,在快速训练算法的框架下,3种不同的权重函数可能要求不同的训练时间.     

最小二乘支持向量机算法研究

1 引言支持向量机(SVM,Support Vector Machines)是基于结构风险最小化的统计学习方法,它具有完备的统计学习理论基础和出色的学习性能,在模式识别和函数估计中得到了有效的应用(Vapnik,1995,1998)。支持向量机方法一方面通过把数据映射到高维空间,解决原始空间中数据线性不可分问题;另一方面,通过构造最优分类超平面进行数据分类。神经网络通过基于梯度迭代的方法进行数据学习,容易陷入局部最小值,支持向量机是通过解决一个二次规划问题,来获得     

最小二乘双支持向量机的在线学习算法

针对具有两个非并行分类超平面的最小二乘双支持向量机,提出了一种在线学习算法。通过利用矩阵求逆分解引理,所提在线学习算法能充分利用历史的训练结果,避免了大型矩阵的求逆计算过程,从而降低了计算的复杂性。仿真结果验证了所提学习算法的有效性。