一类非线性逆系统的加权最小二乘支持向量机辨识方法

文中依据T-S模型的思想,提出了一种加权最小二乘支持向量机辨识算法.它采用模糊c均值(FCM)聚类确定规则数目,通过Gauss型函数将原输入输出空间分成若干子空间,在子空间中使用最小二乘支持向量机(LS-SVM)拟合获得子模型,然后由一个权重机制合成这些子模型,得到系统的模型.文中使用该方法去辨识关键反馈变量难以获得的非线性逆系统.为了得到这类逆系统的有效建模数据,采用了联合逆系统方法.仿真结果表明,加权最小二乘支持向量机辨识方法是有效的,它能够实现这类非线性逆系统的辨识,而且拟合误差平稳,波动幅度小,拟合精度和泛化能力都较好.     

维纳模型的最小二乘支持向量机辨识

针对传统维纳模型辨识方法存在算法复杂、精度低的问题,通过对最小二乘支持向量机建模原理和维纳模型结构特点的分析,提出一种基于最小二乘支持向量机的维纳模型辨识新方法.该方法充分利用了维纳模型中具有线性环节这一先验知识,实现了线性和非线性环节参数的同时辨识.对于多变量维纳模型,该方法同样适用.给出并证明了该方法存在唯一解的约束条件 - 参数部分列满秩.仿真实验表明了该方法的有效性,与标准最小二乘支持向量机辨识方法相比,该方法具有更高的精度.     

基于最小二乘支持向量机的T-S模型在线辨识

提出一种基于时间窗最小二乘支持向量机的T-S模型在线辨识算法，包括结构辨识和参数辨识．该算法以时间窗内数据的势能作为结构辨识依据，同时采用最小二乘支持向量机辨识系统参数：具有辨识速度快、精度高的特点．仿真结果证明了算法的有效性．     

基于GEP的最小二乘支持向量机模型参数选择

针对最小二乘支持向量机的多参数寻优问题,提出了一种基于基因表达式编程的最小二乘支持向量机参数优选方法.该算法将最小二乘支持向量机参数(C,σ)样本作为GEP的基因,按其变异算子随着进化代数和染色体所含基因数目动态变化的机制执行,其收敛速度和精确度大大提高.并与基于粒子群算法和遗传算法参数优选方法比较,通过标准测试函数验证了该算法的拟合误差最低.最后用其建立氧化铝生产蒸发过程参数预测模型,应用工业生产数据进行验证,实验结果表明该方法有效且获得了满意的效果.     

基于支持向量机N4SID辨识模型的非线性预测控制

针对工业控制领域中非线性系统的模型辨识与预测控制问题,采用最小二乘支持向量机回归方法构造非线性函数,运用状态子空间（N4SID）模型辨识方法辨识非线性状态空间模型.在此基础上建立非线性预测控制器,利用拟牛顿算法进行非线性预测控制律的求解,从而实现了一种新的基于支持向量机N4SID辨识模型的非线性预测控制算法.仿真实验验证了该算法的有效性和可行性.     

基于改进的LSSVM辨识动态非线性时变系统

针对非线性时变系统难以辨识的问题,提出了一种基于改进最小二乘支持向量机的辨识新方法。该方法在加权最小二乘支持向量机的基础上,引入用矢量基学习和自适应迭代相结合的方式得到一个小的支持向量,同时采用加权方法确定权值系数以减小训练样本中非高斯噪声的影响。通过对动态非线性时变系统的仿真,结果表明该算法具有较好的鲁棒性、支持向量稀疏性和动态建模实时性。     

T-S模型的遗传算法和支持向量机辨识

基于非线性系统的输入输出数据,辩识对象的T-S模型.提出基于遗传算法和最小二乘支持向量机的辨识方法,利用遗传算法聚类进行结构辨识,每个类代表一条规则,规则数等于类数量,类中心作为该规则的隶属度函数中心类数;同时考虑模型辨识精度,实现全局优化;参数辨识采用基于结构风险最小化的最小二乘支持向量机方法,综合考虑模型复杂度和辨识误差.仿真结果证明了算法的有效性,辨识精度高,泛化能力强.     

基于柯西分布加权的最小二乘支持向量机

针对Suykens等提出的加权最小二乘支持向量机(WLS-SVM)回归建模的不足和防止辨识模型的"过拟合",利用柯西分布函数的一些特性,提出了基于柯西分布加权的最小二乘支持向量机,根据预测误差的统计特性,以确定加权规则的参数,从而赋予训练样本不同的权值,由于考虑了生产过程中样本的实际特性,与已有的加权方法相比,新的加权最小二乘支持向量机更具有鲁棒性,仿真结果验证了该方法的可行性和有效性.     

基于Householder变换的贪婪正交最小二乘辨识算法

针对含有未知时滞的多输入受控自回归系统模型的时滞与参数辨识问题,基于Householder变换探讨一种贪婪正交最小二乘辨识算法.首先,由于各输入通道的时滞未知,通过设置输入数据回归长度对系统模型进行过参数化,得到一个含有稀疏参数向量的高维辨识模型;其次,为了避免最小二乘算法中对高维协方差矩阵的求逆运算,利用Householder变换对信息矩阵进行正交分解,推导基于Householder变换的正交最小二乘算法;然后,为了提高辨识效率,降低辨识成本,推导基于Householder变换的贪婪准则,进而得到基于Householder变换的贪婪正交最小二乘辨识算法,该算法能够在少量采样数据的条件下获得稀疏参数向量的估计值;最后,根据估计的稀疏参数向量的结构得到系统时滞估计.仿真结果表明了所提出算法的有效性.     

基于粒子群算法的煤气化过程LS_SVM预测模型

针对最小二乘支持向量机参数选择对模型性能的重要影响,并且以往的参数优选方法效果差且耗时长这一问题,提出基于粒子群算法优化最小二乘支持向量机预测模型.该模型用最小二乘支持向量机理论建立,用粒子群算法优化模型参数.论文将此模型用于预测评价固定床煤气化气化效果的三个主要性能指标(气体热值、气化效率、气体产率),通过现场实际数据仿真结果表明,该算法有效地提高了模型预测精度,验证了此模型的可靠性和可用性.     

一种改进的在线最小二乘支持向量机回归算法

针对一般最小二乘支持向量机处理大规模数据集会出现训练速度幔、计算量大、不易在线训练的缺点,将修正后的遗忘因子矩形窗方法与支持向量机相结合,提出一种基于改进的遗忘因子矩形窗算法的在线最小二乘支持向量机回归算法,既突出了当前窗口数据的作用,又考虑了历史数据的影响.所提出的算法可减少计算量,提高在线辨识精度.仿真算例表明了该方法的有效性.     

基于- 范数约束的LSSVR 多核学习算法

针对核函数选择对最小二乘支持向量机回归模型泛化性的影响, 提出一种新的基于????- 范数约束的最小二乘支持向量机多核学习算法. 该算法提供了两种求解方法, 均通过两重循环进行求解, 外循环用于更新核函数的权值, 内循环用于求解最小二乘支持向量机的拉格朗日乘数, 充分利用该多核学习算法, 有效提高了最小二乘支持向量机的泛化能力, 而且对惩罚参数的选择具有较强的鲁棒性. 基于单变量和多变量函数的仿真实验表明了所提出算法的有效性.

     

Data filtering based least squares algorithms for multivariable CARAR-like systems

This paper focuses on the identification problem of multivariable controlled autoregressive autoregressive (CARAR-like) systems. The corresponding identification model contains a parameter vector and a parameter matrix, and thus the conventional least squares methods cannot be applied to directly estimate the parameters of the systems. By using the hierarchical identification principle, this paper presents a hierarchical generalized least squares algorithm and a filtering based hierarchical least squares algorithm for the multivariable CARAR-like systems. The simulation results show that the two hierarchical least squares algorithms are effective.     

An on-line hybrid learning algorithm for multilayer perceptron in identification problems

A hybrid learning algorithm for multilayered perceptrons (MLPs) and pattern-by-pattern training, based on optimized instantaneous learning rates and the recursive least squares method, is proposed. This hybrid solution is developed for on-line identification of process models based on the use of MLPs, and can speed up the learning process of the MLPs substantially, while simultaneously preserving the stability of the learning process. For illustration and test purposes the proposed algorithm is applied to the identification of a non-linear dynamic system.     

Least squares support vector machines with tuning based on chaotic differential evolution approach applied to the identification of a thermal process

In the past decade, support vector machines (SVMs) have gained the attention of many researchers. SVMs are non-parametric supervised learning schemes that rely on statistical learning theory which enables learning machines to generalize well to unseen data. SVMs refer to kernel-based methods that have been introduced as a robust approach to classification and regression problems, lately has handled nonlinear identification problems, the so called support vector regression. In SVMs designs for nonlinear identification, a nonlinear model is represented by an expansion in terms of nonlinear mappings of the model input. The nonlinear mappings define a feature space, which may have infinite dimension. In this context, a relevant identification approach is the least squares support vector machines (LS-SVMs). Compared to the other identification method, LS-SVMs possess prominent advantages: its generalization performance (i.e. error rates on test sets) either matches or is significantly better than that of the competing methods, and more importantly, the performance does not depend on the dimensionality of the input data. Consider a constrained optimization problem of quadratic programing with a regularized cost function, the training process of LS-SVM involves the selection of kernel parameters and the regularization parameter of the objective function. A good choice of these parameters is crucial for the performance of the estimator. In this paper, the LS-SVMs design proposed is the combination of LS-SVM and a new chaotic differential evolution optimization approach based on Ikeda map (CDEK). The CDEK is adopted in tuning of regularization parameter and the radial basis function bandwith. Simulations using LS-SVMs on NARX (Nonlinear AutoRegressive with eXogenous inputs) for the identification of a thermal process show the effectiveness and practicality of the proposed CDEK algorithm when compared with the classical DE approach.     

基于最小二乘支持向量机的声波测距系统消噪处理

针对声波测距系统噪声复杂,淹没在噪声中的回波难以检测的问题,以机器统计学习理论为基础,采用最小二乘支持向量机(LS-SVM)建立系统模型,实现了声波测距系统异常值的预测和噪声的消除,并与传统的时间序列分析方法建立的自回归滑动平均求和模型(ARIMA)的消噪效果进行了仿真对比。仿真结果表明,利用最小二乘支持向量机建立的模型预测精度高,能有效地抑制声波测距系统中的噪声。     

基于KRLS的非均匀采样非线性系统辨识

利用提升技术可将非均匀采样非线性系统离散化为一个多输入单输出传递函数模型,从而将系统输出表示为非均匀刷新非线性输入和输出回归项的线性参数模型,进一步基于非线性输入的估计或过参数化方法进行辨识.然而,当非线性环节结构未知或不能被可测非均匀输入参数化表示时,上述辨识方法将不再适用.为了解决这个问题,利用核方法将原始非线性数据投影到高维特征空间中使其线性可分,再对投影后的数据应用递推最小二乘算法进行辨识,提出基于核递推最小二乘的非均匀采样非线性系统辨识方法.此外,针对系统含有有色噪声干扰的情况,参考递推增广最小二乘算法的思想,利用估计残差代替不可测噪声,提出核递推增广最小二乘算法.最后,通过仿真例子验证所提算法的有效性.     

协方差重置的两阶段递推贝叶斯参数辨识算法

为了在有色噪声干扰情况下获得无偏估计,基于辅助模型思想和分解技术,提出了一种带协方差重置的两阶段递推贝叶斯辨识算法。该算法首先把待辨识模型分解成两个虚拟子模型,然后分别辨识;同时,把估计到的噪声方差引入算法,并加入了一种新的协方差重置方法。计算量分析表明,与带协方差重置的最小二乘算法相比,所提算法可以减少计算量。仿真结果显示,所提算法的估计误差比传统最小二乘算法要小。实例建模证明了算法的有效性。     

Box-Jenkins模型偏差补偿方法与其他辨识方法的比较

对于存在相关噪声干扰的Box—Jenkins系统,本文借助于偏差补偿原理,推导了一个偏差补偿最小二乘(BCLS)辨识方法;理论分析说明BCLS方法能够给出系统模型参数的无偏估计,并将提出的方法与递推增广最小二乘算法和递推广义增广最小二乘算法进行了比较研究;用仿真试验分析了这些算法的各自特点和适用范围。