解非线性最小二乘问题的连续极小化方法

§1.引言设 F:D■R~n→R~m,F=(f~1,…,f_m)~T,则非线性最小二乘问题可归结为求 g(x)=1/2 F(x)~TF(x)=1/2 sum from n=1 to m(1/n) f_i~2(x) (1)的极小点和极小值,即求x~*∈D使 g(x~*)=ming(x)/x∈D. (2) 本文应用解非线性方程组的连续极小化思想,将求解非线性最小二乘问题转化为解常微分方程的初值问题。用常微数值解法为求最小二乘问题提供了一种新的途径,如用Euler法和后退Euler法解初值问题,实际上就得到解最小二乘问题的最速下降法与     

改进的非线性系统最小二乘算法

本文给出了可以统一处理线性系统，非线性系统参数辨识的改进最小二乘算法，包括批量形式及递推形式，它是文１，２中算法的综合及推广，改进了收敛速度，能克服病态，算法简单，易于应用，并且给出了算法的收敛性证明。     

解线性最小二乘问题的一个半正交化算法

1.引言 我们知道,对于满秩线性最小二乘问题,可以用正交化方法(如Householder正交化,修正的Gram-Schmidt正交化和快速Givens正交化等)有效地求解。对于秩亏损的最小二乘问题,可用带列主元的QR分解求解;但一般说来,用这种方法求得的解只是可行解而不是最短解。要求出最短解,则必须作出秩的判定。对于秩亏损的最小二乘问     

非线性最小二乘全局解的混合计算智能算法

通过在遗传算法中嵌入牛顿算子，并定义适当的适应度和数据结构，从而得到可结合遗传算法和牛顿法两者长处，既有较快收敛性，又能以较大概率求得非线性最小二乘全局解的混合计算智能算法．数值结果表明了该方法显著优于遗传算法和牛顿法．     

非线性系统最小二乘估计的目标补偿算法

本文提出了求解非线性系统最小二乘估计问题的一种新的分解协调方法,该方法通过对各子问题的目标直接引入适当的补偿项进行协调,具有协调计算简单,子问题仍为最小二乘形式等优点,文中对该方法收敛性进行了较为详细的研究,仿真和实际应用表明,它的收敛速度快,优于整体算法和目标协调法。     

时序数据的非线性最小二乘迭代分解算法

从时序数据中精确地分解出趋势、周期及随机噪声等数据成分，能有助于人们掌握事物在演变过程中所蕴藏的内在规律.基于非线性最小二乘法，提出一种性能更为高效的时序数据分解算法。首先，基于关键转折点和趋势导数的方法从待分解序列中概要地析出各种不同的数据成分，然后，分别利用多项式函数、正弦谐波级数及自回归模型对相应的数据成分进行拟合，最后，在加法模型中迭代求解各种数据成分的非线性最小二乘参数。实验表明，新设计的算法在分解精度和计算成本等指标上均优于现有的算法。     

随机连续系统的连续时间最小二乘辨识的数值实现

讨论了随机连续系统的连续时间最小二乘（ＣＴＬＳ）辨识的数值实现及仿真，首先回顾了随机连续系统的ＣＴＬＳ辨识法和理论分析结果，然后基于数值积分技术和求解常微分方程的数值解欧拉法和龙格－库塔法，给出了ＣＴＬＳ法的两种数值实现方法，仿真结果显示出此方法的有效性。     

混合总体最小二乘的迭代解算算法

总体最小二乘估计能够同时顾及线性模型中系数矩阵[WTHX]A和观测向量L的 误差,平差理论相对更为严密。如果系数矩阵[WTHX]A[WTBZ]的部分元素没有误差,这种总体最小二乘模 型为混合总体最小二乘模型。针对混合总体最小二乘(Least squares total least squares, LS TLS)解算问题,应用测量平差中 的 原理和方法,推导了混合总体最小二乘的迭代逼近解算公式,通过与奇异值分解法分析比较 ,分析了两种解算方法具有等价性,最后通过实验数据分析得出迭代算法的有效性 和合理性。     

非线性最小二乘估计算法拟合水泥浆流变参数

在进行固井工程设计时,水泥浆紊流临界排量及摩阻压降的计算都需要水泥浆流变参数.(H-B)模式是描述水泥浆比较好的流变模式.针对这种非线性流变方程,提出了非线性最小二乘估计新算法,并用VB程序设计语言进行了编程验证.该方法可用于水泥浆流变模式优选、流变参数的确定,水泥浆流变性能的评价以及固井设计之中.     

基于非线性最小二乘原理的原木端面识别算法

为了更好地进行原木端面识别,研究了一种基于非线性最小二乘原理的椭圆拟合算法。椭圆拟合的精度在很大程度上受初始值的影响,该方法通过对目标图像的边界点进行距离计算,得到了适当的初始值;之后运用最小二乘原理,计算边界点到拟合椭圆之间欧式距离的最小值,确定最优拟合椭圆的长短轴参数。实验结果表明,提出的算法在原木端面的识别中,具有良好的拟合精度和适用性。     

基于多新息最小二乘算法的非线性系统辨识

针对最小二乘算法辨识性能较差问题,将最小二乘算法中的单新息通过利用p组数据拓展到多新息向量,提出了多新息最小二乘算法。与最小二乘相比,所提出的算法不仅利用了当前的系统信息,而且利用了过去的系统信息,进一步提高了参数辨识的精度和收敛速度。在所提出的算法中,为了减少冗余的参数辨识和算法计算量,利用关键性分离技术构造整体辨识模型。设计了辅助模型来替代系统中未知的中间变量,提高了参数估计的精度。对比仿真结果表明,所提出的算法具有比递归最小二乘算法更高的辨识精度和收敛速度。     

相关扰动下连续系统的连续时间最小二乘辨识的数值实现

基于数值积分和常微分方程数值解的欧拉法和龙格－－库塔法，给出随机连续系统的连续时间最小二乘辨识的两种数值实现方法，仿真结果表明了该方法的有效性。     

基于非线性最小二乘法的二维码视觉定位算法研究

针对AGV视觉定位算法中存在附加约束的问题,将附加约束的相机坐标系相对于全局坐标系位姿求解问题归纳为非线性最小二乘问题,并采用高斯-牛顿法进行求解。论文所研究的AGV定位算法采用二维码作为路标进行视觉定位,算法首先通过识别经过图像预处理后的二维码,得到该二维码所包含的相对于全局坐标系中的位姿信息;其次建立包含附加约束条件的非线性最优化问题模型,接着通过高斯-牛顿法求出满足包括附加约束条件在内的约束优化问题最优解;最后通过实验验证算法能够解决存在附加约束条件的视觉定位问题,验证了算法的可行性。     

非线性系统辨识的改进双对角化最小二乘算法

本文提出了一种新的有效的非线性系统最小二乘辨识算法－－改进的双对角化最小二乘（ＭＢＬＳ）算法，在存在舍入误差的条件下，给出了算法的收敛性证明，事实上，算法的收敛性几何不受舍入误差的影响，算法是大范围数值稳定的，仿真结果说明了新算法的有效性。     

椭圆拟合的非线性最小二乘方法

为了在图像中确定椭圆目标精确的位置和边界,提出了一种基于非线性最小二乘的椭圆拟合方法。该方法在得到目标边界点的基础上,通过最小化拟合椭圆与边界点之间的欧氏距离,确定出由椭圆中心坐标、长半轴和短半轴长度、旋转角度共5个参数定义的椭圆,使得这一椭圆在非线性最小二乘意义下是最优的。在实际应用中,特别是人眼图像的瞳孔提取中,这种方法能够排除反光、睫毛、眼皮等的干扰,得到较为精确的瞳孔位置和边界。仿真实验和实际数据计算的结果表明,提出的方法有良好的准确性和鲁棒性。     

两种新的有效的非线性系统最小二乘辨识算法

提出了两种新的有效的最小二乘算法--改进的双对角化最小二乘算法MBLS-Ⅰ与MBLS-Ⅱ.在存在舍入误差的条件下,证明了算法的收敛性.该算法具有几乎不受舍入误差影响的优点,优于一般常用的最小二乘算法.包括数值性态极佳的SVD算法.同时,基于该算法及SVD算法,构造出了一种新的NARMAX模型结构与参数辨识的一体化算法.仿真结果证明了此新算法的优越性.     

一类可对称化矩阵反问题的最小二乘解

1.引言 用Rn×m,ORn×n,SRn×n及ASRn×n分别表示n×m实矩阵,n阶实正交矩阵,n阶实对称矩阵和n阶实反对称矩阵的全体组成的集合.用S⊥表示集合S的正交补,A(?)B表示A和B的正交直和.设A,B∈Rn×m,定义A与B的内积为     

基于最小二乘法的曲线拟合及其简化算法

文章简述了最小二乘法曲线拟合的原理,给出了正规方程组的公式推导过程.针对最小二乘法曲线拟合中系数求解的运算量过大问题,以及自变量为自然数序列的情况,通过推导多项式拟合的计算公式得出了一种简化算法,并结合单片机这种运算能力比较小的应用场合,给出了可以减少计算步骤的简化计算公式,根据简化后的计算公式可以快速计算出所需要的系数.最后以一组实验数据进行了实际计算的例证,该简化算法计算过程简单,计算结果精确,可以广泛应用于控制器的数据采集与处理系统中.     

结构方程模型的约束最小二乘解与确定性算法

研究了结构方程模型（SEM）的约束最小二乘解（CLS）,从分析SEM的观测方程组入手,发现了这个不定方程组的结构变量与观测变量必须满足的最小二乘关系,在对结构变量有固定模长参数约束的条件下,求出它的一组模长约束最小二乘解（MCLS）,MCLS可以作为求解结构方程组的偏最小二乘（PLS）迭代初值,在求得MCLS以后,在观测方程组中改变结构变量的模长,使得每个结构变量所对应的与观测变量的路径系数满足配方条件,是更为合理的约束,它可以保证结构变量与所辖的观测变量同质,尽管观测方程组是不定方程组,但是根据误差平方和最小以及对路径系数的配方约束,使得MCLS求解为合理的确定性算法,然后再对结构方程组直接求解,也是确定性算法,这就解决了结构方程模型求解的唯一性问题。