基于辅助模型的递推增广最小二乘辨识方法

针对有色噪声干扰的输出误差滑动平均系统, 将辅助模型与递推增广最小二乘算法相结合: 用辅助模型的输出代替辨识模型信息向量中的未知真实输出项, 用估计残差代替信息向量中的不可测噪声项, 从而提出了基于辅助模型的递推增广最小二乘辨识方法. 为了展示所提方法的特点, 文中还给出了经过模型变换的递推增广最小二乘算法. 理论分析和仿真研究表明, 提出的方法原理简单、计算量小, 可以给出高精度参数估计, 且能够用于在线辨识.     

有色噪声干扰输出误差系统的偏差补偿递推最小二乘辨识方法

借助于偏差补偿原理和预滤波思想, 推导了有色噪声干扰输出误差系统参数估计的偏差补偿递推最小二乘 (Bias compensation recursive least squares, BCRLS) 辨识方法. 该方法降低了辨识对输入信号平稳性的要求, 实现了偏差补偿方法参数估计的递推计算, 可以用于在线辨识. 提出的递推 BCRLS 辨识方法优于非递推偏差补偿最小二乘算法, 提高了参数估计精度. 仿真试验证实了算法的有效性.     

ARMA模型的最小二乘格型迭代递推辨识法

本文介绍了ARMA模型的格型迭代法,并以在格型算法中具有最快收敛速率的最小二乘格型算法为基础获得了 ARMA模型最小二乘格型迭代递推辨识法。针对此算法最小二乘格型迭代递推辩识法计算机模拟辨识表明,该方法具有较好的辨识性能,且有一定的抗噪能力。     

基于偏差补偿递推最小二乘的Hammerstein-Wiener模型辨识

许多实际系统可以表示成一种中间为线性动态环节、输入输出端为非线性静态环节的Hammerstein-Wiener模型. 针对含过程噪声的Hammerstein-Wiener模型, 提出一种改进在线两阶段辨识方法. 第一步采用偏差补偿递推最小二乘法在线辨识含原系统参数乘积项的参数向量. 通过在递推最小二乘算法中引入一个修正项, 补偿过程噪声引起的估计偏差. 第二步采用基于张量积逼近的奇异值分解法分离出原系统各参数的值. 通过引入两个矩阵的张量积逼近加权最小二乘的权系数, 提高参数分离精度. 理论分析和计算机仿真验证了本文方法的有效性.     

递推最小二乘参数辨识与仿真实例

介绍了基于递推最小二乘法进行系统辨识的基本原理,对给定的实际输入输出数据运用MATLAB的M语言编写递推最小二乘算法,最后给出相应的仿真结果和分析,并对得到的模型进行验证。     

递推最小二乘法辨识连续带钢热镀锌退火炉模型参数

提出了用递推最小二乘法辨识连续带钢热镀锌退火炉模型参数.在已建立的连续带钢热镀锌退火炉数学模型的基础上,经过分析计算确定模型参数.考虑到最小二乘法的缺陷,选用递推最小二乘法进行参数辨识,并结合实例给出辨识结果和分析,证明了该方法的可行性.     

基于递推最小二乘的荧光补偿参数辨识方法

研究流式细胞仪样本检测数据的荧光光谱重叠补偿问题.针对全矩阵补偿算法中补偿矩阵参数的获取,提出了一种使用多变量系统的递推最小二乘算法辨识补偿矩阵参数的方法.在全矩阵补偿方法的基础上,用单染色荧光光谱线性和对多染色荧光实际测量光谱进行近似,并使用多变量系统的递推最小二乘算法辨识系统参数获得补偿矩阵的元素.仿真结果表明,利用多变量系统的递推最小二乘算法进行荧光补偿与一般最小二乘算法相比,补偿结果的CV值相对误差在2％以内,进而验证了所采用的算法的有效性与可行性.     

广义输出误差模型的两阶段最小二乘递推辨识

在有色噪声干扰系统中有一类系统, 它具有广义输出误差模型(OEARMA), 本文提出一类广义输出误差模型的 两阶段递推最小二乘参数估计算法. 该算法基本思想是结合辅助模型辨识思想和分解技术, 将系统分解成两个子系统, 每个子系统包含一个参数向量. 借助基于辅助模型和递推最小二乘理论, 用辅助模型的输出代替辨识模型信息向量中未 知中间变量, 用估计残差代替信息向量中不可测噪声项, 从而可以运用递推辨识思想来估计系统所有参数. 该算法具有 较高的计算效率, 仿真例子说明提出算法的有效性.     

一种递推最小二乘图象参数辨识

本文提出一种递推最小二乘参数辨识方法,着重讨论了该方法用于处理空变图象的情况及与同类方法的比较,并进行了实验验证。     

小波递推最小二乘法的ARMAX模型参数估计

研究辨识系统优化问题,针对线性时不变ARMAX模型的参数估计,为了提高辨识精度,提出了直接利用小波域的数据,递推估计出模型的参数的方法.首先将时域的输入输出信号采用小波变换,得到了具有时频特征的小波域信号,可进行去噪方面的处理,去噪结果比时域和频域更有效.然后,利用小波递推最小二乘法对ARMAX模型进行参数估计,通过与时域递推最小二乘法的估计参数比较,仿真结果表明提出的方法是有效的.     

非整数阶系统频域辨识的递推最小二乘算法

非整数阶系统辨识方法是建立非整数阶系统模型的一种重要工具．本文提出了一种非整数阶系统频域辨识的最小二乘递推算法．给出了算法的详细推导，并用已知系统验证了算法的有效性．结果表明该算法是整数阶系统辨识的最小二乘递推算法的推广．使用此算法，不但能辨识整数阶系统，还能辨识非整数阶系统．     

Recursive Update Algorithm for Least Squares Support Vector Machines

In this Letter an efficient recursive update algorithm for least squares support vector machines (LSSVMs) is developed. Using the previous solution and some matrix equations, the algorithm completely avoids training the LSSVM all over again whenever new training sample is available. The gain in speed using the recursive update algorithm is illustrated on four data sets from UCI repository: the Statlog Australian credit, the Pima Indians diabetes, the Wisconsin breast cancer, and the adult income data sets.     

最小二乘估计的HOUSEHOLDER变换快速递推算法

本文利用HOUSEHOLDER交换(简称H-变换)推导出最小二乘估计的递推算法和遗忘因子法的快速算法.与现有的最小二乘递推算法相比,本文提出的算法不仅运算量大大减少,而且数值稳定性好,占用内存量少.     

A Recursive Orthogonal Least Squares Algorithm for Training RBF Networks

A recursive orthogonal least squares (ROLS) algorithm for multi-input, multi-output systems is developed in this paper and is applied to updating the weighting matrix of a radial basis function network. An illustrative example is given, to demonstrate the effectiveness of the algorithm for eliminating the effects of ill-conditioning in the training data, in an application of neural modelling of a multi-variable chemical process. Comparisons with results from using standard least squares algorithms, in batch and recursive form, show that the ROLS algorithm can significantly improve the neural modelling accuracy. The ROLS algorithm can also be applied to a large data set with much lower requirements on computer memory than the batch OLS algorithm.     

基于线性预测的自适应递归最小二乘盲源分离

为了分离具有时序结构的信号,将线性预测均方误差作为代价函数.使分离出信号的可预测性最大,这样就可以分离出源信号.这种最小均方误差型算法,其在线形式采用瞬时预测误差代替预测误差的期望值.导致收敛速度较慢.为了提高这类算法的收敛速度,本文将线性预测误差的加权平均作为代价函数,提出了递归最小二乘型线性预测盲源分离算法.计算机仿真和实际语音分离试验均表明:提出的算法与最小均方误差型线性预测盲源分离算法相比具有更快的收敛速度,且增加的计算量不大.     

递归最小二乘循环神经网络

针对循环神经网络(Recurrent neural networks, RNNs)一阶优化算法学习效率不高和二阶优化算法时空开销过大, 提出一种新的迷你批递归最小二乘优化算法. 所提算法采用非激活线性输出误差替代传统的激活输出误差反向传播, 并结合加权线性最小二乘目标函数关于隐藏层线性输出的等效梯度, 逐层导出RNNs参数的迷你批递归最小二乘解. 相较随机梯度下降算法, 所提算法只在RNNs的隐藏层和输出层分别增加了一个协方差矩阵, 其时间复杂度和空间复杂度仅为随机梯度下降算法的3倍左右. 此外, 本文还就所提算法的遗忘因子自适应问题和过拟合问题分别给出一种解决办法. 仿真结果表明, 无论是对序列数据的分类问题还是预测问题, 所提算法的收敛速度要优于现有主流一阶优化算法, 而且在超参数的设置上具有较好的鲁棒性.     

用带约束的最小二乘法拟合平面圆曲线

研究各种拟合圆的方法,提出了一个圆的代数距离表示法的系数约束条件,在此约束条件下讨论圆的几何特征参数的估计问题,并给出了特征参数在约束条件下的最小二乘估计．实例验证表明,文中算法比一般最小二乘法具有更高的拟合精度．     

非线性系统辨识的改进双对角化最小二乘算法

本文提出了一种新的有效的非线性系统最小二乘辨识算法－－改进的双对角化最小二乘（ＭＢＬＳ）算法，在存在舍入误差的条件下，给出了算法的收敛性证明，事实上，算法的收敛性几何不受舍入误差的影响，算法是大范围数值稳定的，仿真结果说明了新算法的有效性。