l1鲁棒辨识: 最小二乘算法及试验设计

现有的l¹鲁棒辨识方法依赖于观测数据自的起始时刻因而不能用来辨识时变系统, 针对该问题基于最小二乘法提出了一种l¹鲁棒辨识算法. 该算法与观测窗的起始时刻无关, 可用于时变系统的辨识, 证明了当试验输入为持续激励信号时所提出的算法为本质最优算法, 进一步证明了周期持续激励序列为最优试验信号, 并给出了辨识误差紧界的计算公式. 最后利用提出的算法研究了慢时变系统的l¹鲁棒辨识问题.     

一种鲁棒的总体最小二乘自适应辨识算法

针对输入输出观测数据均含有噪声的系统辨识问题，提出了一种鲁棒的总体最小二乘自适应辨识算法．该算法在对总体最小二乘问题与向量的瑞利商及其性质研究的基础上，以被辨识系统的增广权向量的瑞利商(RQ)作为损失函数，利用梯度最陡下降原理导出权向量的自适应迭代算法，并利用随机离散学习规律对权向量模的分析修正了算法梯度，提高了算法的噪声鲁棒性，构成了一种噪声鲁棒的总体最小二乘自适应辨识算法．文中研究了该算法的收敛性能．仿真实验结果表明该算法的鲁棒抗噪性能和稳态收敛精度明显高于其它同类方法，而且可使用较大的学习因子，在较高的噪声环境下仍然保持良好的收敛性．     

正电子发射层析成像的鲁棒最小二乘重建

提出的鲁棒最小二乘算法综合考虑了正电子发射层析成像中的各种误差,适用于实际正电子发射层析成像系统．实验结果表明：该算法比传统的最小二乘重建算法具有更加鲁棒的重建特性．     

RBF网络的鲁棒最小二乘学习算法

首先,针对径向基函数(RBF)神经网络参数学习中最小二乘法(LS)难以获得较高鲁棒性的问题,假定训练数据扰动上界可知,并基于鲁棒最小二乘原理,提出一种RBF网的最优鲁棒参数学习算法;然后分析指出,扰动上界可依据训练数据集自适应学习估计;最后通过实验分析结果表明了所提算法具有较高的参数鲁棒学习能力.与LS相似,新算法无额外参数,易于实际应用.     

非线性系统辨识的改进双对角化最小二乘算法

本文提出了一种新的有效的非线性系统最小二乘辨识算法－－改进的双对角化最小二乘（ＭＢＬＳ）算法，在存在舍入误差的条件下，给出了算法的收敛性证明，事实上，算法的收敛性几何不受舍入误差的影响，算法是大范围数值稳定的，仿真结果说明了新算法的有效性。     

在线鲁棒最小二乘支持向量机回归建模

鉴于工业过程的时变特性以及现场采集的数据通常具有非线性特性且包含离群点,利用最小二乘支持向量机回归（least squares support vector regression,LSSVR）建模易受离群点的影响.针对这一问题,结合鲁棒学习算法（robust learning algorithm,RLA）,本文提出了一种在线鲁棒最小二乘支持向量机回归建模方法.该方法首先利用LSSVR模型对过程输出进行预测,与真实输出相比较得到预测误差;然后利用RLA方法训练LSSVR模型的权值,建立鲁棒LSSVR模型;最后应用增量学习方法在线更新鲁棒LSSVR模型,从而得到在线鲁棒LSSVR模型.仿真研究验证了所提方法的有效性.     

学习辨识:最小二乘算法及其重复一致性

针对重复时变系统, 提出学习辨识方法用于估计系统的时变参数. 讨论了有限时间作业区间上重复运行的时变系统以及周期时变系统两种情形. 文中给出最小二乘学习算法的推导过程, 并分析了所提算法的收敛性. 结果表明, 当重复持续激励条件成立时, 提出的学习算法具有重复一致性, 能够给出时变参数的完全估计. 通过数值算例进一步验证了学习算法的有效性.     

L1鲁棒辨识中的一般中心估计算法及其特例

本文分析具了Ｌ１误差的线性时不变系统的最不利情况的辨识问题，对系统假设的先验信息未知系统的脉冲响应函数控制稳定，并且假定实验数据具有噪声干扰的，本文提出了一般中心估计算法并分析了最不利情况的误差界限，并进一步研究了在某些特殊情况下，中心估计的简单求法及其性质，本文所给算法和辨识结果是面向鲁棒控制的。     

鲁棒最小二乘孪生支持向量机及其稀疏算法

最小二乘孪生支持向量机通过求解两个线性规划问题来代替求解复杂的二次规划问题,具有计算简单和训练速度快的优势。然而,最小二乘孪生支持向量机得到的超平面易受异常点影响且解缺乏稀疏性。针对这一问题,基于截断最小二乘损失提出了一种鲁棒最小二乘孪生支持向量机模型,并从理论上验证了模型对异常点具有鲁棒性。为使模型可处理大规模数据,基于表示定理和不完全Cholesky分解得到了新模型的稀疏解,并提出了适合处理带异常点的大规模数据的稀疏鲁棒最小二乘孪生支持向量机算法。数值实验表明,新算法比已有算法分类准确率、稀疏性、收敛速度分别提高了1.97%~37.7%、26~199倍和6.6~2 027.4倍。     

改进的鲁棒总体最小二乘无源定位算法

针对机载无源定位易受异常误差影响的问题,提出一种基于角度信息的鲁棒递推总体最小二乘定位（RRTLS）算法。建立机载无源定位模型,得出总体最小二乘（TLS）解,根据机载定位的实时性、低复杂度要求将其转化为加权递推形式;根据广义M估计原理构建鲁棒TLS极值准则,利用其性质将RRTLS定位问题转化为等价权函数的设计问题;验证了利用残差识别异常误差的合理性,在此基础上建立了等价权函数。仿真结果表明,不存在异常误差时,递推总体最小二乘（RTLS）算法和RRTLS算法均能较好收敛;存在异常误差时,递推最小二乘（RLS）和RTLS定位结果受到扭曲,而RRTLS算法能够获得理想的估值,具有较强的鲁棒性。     

基于偏最小二乘法的翼型稳健设计替代模型

翼型的稳健设计就是要实现翼型对外界噪声因素不敏感,使翼型实现性能高且稳定的目标。翼型设计经过了几十年的研究发展,目前常用的翼型稳健设计主要是采用风洞和数值模拟两种方式,但它们也分别有成本高和计算量大的不足。通过对建模方法进行研究,提出了一种基于偏最小二乘法（PLS)的翼型稳健设计方法,采用该方法对基准翼型RAE2822选取11个设计变量（10个外形设计变量和马赫数）进行稳健设计后将其与基准翼型的阻力系数进行对比。结果表明使用偏最小二乘法替代模型所获得的稳健翼型,其阻力系数的均值和方差较基准翼型分别减小了44%和82%,其气动性能更好且性能更加稳定。使用偏最小二乘法替代模型进行翼型稳健设计具有成本低,计算速度快的特点,且能满足基本的结果精度要求,具有实际的应用价值。     

The least squares algorithm, parametric system identification and bounded noise

The least squares parametric system identification algorithm is analyzed assuming that the noise is a bounded signal. A bound on the worst-case parameter estimation error is derived. This bound shows that the worst-case parameter estimation error decreases to zero as the bound on the noise is decreased to zero.     

有理模型辨识的两类新方法——混合迭代与柔性最小二乘法

针对有理模型提出两类辨识方法.首先提出基于递阶辨识思想的混合辨识方法,将模型分解为分子和分母两个子模型,分别用最小二乘法辨识分子参数,用粒子群算法和智能多步长梯度迭代算法辨识分母参数.由于降低了模型维数,且信息向量与噪声不相关,相对于传统的偏差补偿最小二乘算法,混合迭代法可以提高辨识精度并降低计算量.然后,为消除模型结构已知的假设,且充分利用最新数据更新系统参数,提出柔性递推最小二乘辨识方法,将有理模型转化为时变参数系统,进而辨识出时变系统的参数.仿真例子验证了所提出方法的有效性.     

On parameter convergence in least squares identification and adaptive control

Least squares estimation is appealing in performance and robustness improvements of adaptive control. A strict condition termed persistent excitation (PE) needs to be satisfied to achieve parameter convergence in least squares estimation. This paper proposes a least squares identification and adaptive control strategy to achieve parameter convergence without the PE condition. A modified modeling error that utilizes online historical data together with instant data is constructed as additional feedback to update parameter estimates, and an integral transformation is introduced to avoid the time derivation of plant states in the modified modeling error. On the basis of these results, a regressor filtering–free least squares estimation law is proposed to guarantee exponential parameter convergence by an interval excitation condition, which is much weaker than the PE condition. And then, an identification‐based indirect adaptive control law is proposed to establish exponential stability of the closed‐loop system under the interval excitation condition. Illustrative results considering both identification and control problems have verified the effectiveness and superiority of the proposed approach.     

鲁棒辨识的l_1和H∞误差上界的估计算法

对有限参数线性系统辨识问题的l1误差上界估计和时域H∞ 插值算法误差上界估计等问题转化为一类分片线性函数的最优化问题 ,提出基于分片的混合遗传算法 .吸取进化算法的探索能力 ,并充分利用模型信息 .仿真实验结果表明了它的寻优性能 .     

新的正交最小二乘方法

正交最小二乘是一种贪婪算法,采用逐步回归建模,每一步利用搜索算法找到最小化残差的一个回归项。将其拓展为每一步搜索多个最优的回归项,从而得到一种稀疏的回归方法,并将其应用于谐波分量提取中。仿真实验说明,新方法不仅能够较为精确地逐项估计出分量的参数,而且可以对分量个数进行有效的估计。     

l1鲁棒辨识:一种递推插值方法

针对l¹鲁棒辨识不能有效利用试验数据和进行在线辨识的问题, 提出了一种在线递推插值辨识方法. 用几何方法描述试验信息, 利用系统可行集与新的试验信息所构成的半空间的包含关系判断数据信息, 有效地利用了试验数据, 提高了辨识精度. 同时提出了一种新的计算辨识误差紧界的方法. 仿真结果表明了算法的有效性和可行性.     

Stochastic adaptive control using a modified least squares algorithm

Recent papers on stochastic adaptive control have established global convergence for algorithms using a stochastic approximation iteration. However, to date, global convergence has not been established for algorithms incorporating a least squares iteration. This paper establishes global convergence for a slightly modified least squares stochastic adaptive control algorithm. It is shown that, with probability one, the algorithm will ensure that the system inputs and outputs are sample mean square bounded and the mean square output tracking error achieves its global minimum possible value for linear feedback control.