线性模型中最小二乘估计的相对效率

对线性模型中回归系数的最小二乘估计,本文提出了一个新的相对效率,并给出了相对效率的下界。     

多元线性模型中最小二乘估计的相对效率

考虑一般的多元线性模型Y_(n×k)=X_(n×p)_pB_(p×k)+e_(n×k),E(e)=0,COV(e)=V∑,其中V为已知参数矩阵,∑为已知协方差矩阵。当rank(X)0推广至∑≥0,从而包含了Haberman的结果,使之所得结果更具有一般性。     

一般线性模型中最小二乘估计的相对效率

对一般线性模型中回归系数的最小二乘估计,本文提出了一个新的相对效率,并给出了相对效率的下界。     

线性模型中最小二乘估计的相对效率与广义相关系数的关系

对于线性模型未知参数的最小二乘估计,对于一种新的相对效率,研究了它与某些广义相关系数的关系,并且取得了比较满意的结果。     

论线性模型中最小二乘估计的有效性

讨论线性模型中最小二估计的有效性,Gauss-Markov模型,我们提出了一个新的相对效率,并给出它的下界,对方差分量模型,我们引入了一种相对效率,并获得了与未知参数无关的下界。     

带约束最小二乘估计的分布

给定正态最小二乘线性模型Y=Xβ+ε,E(ε)=0、E(εε’)=σ~2V,V满秩,在线性不等约束条件下,本文证明了带不等约束最小二乘估计服从正态分布。     

奇异线性模型中最小二乘估计效率的一个注记

考虑奇异线性模型:Yn×1=Xn×pβp×1+εn×1,E(ε)=0,cov(ε)=∑,设β*=(X＇∑+X)+X＇∑+Y,β=(X＇X)+X＇Y。当∑≥0和rank(X)=p时,定义最小二乘估计β与最佳线性无偏估计β*相对效率为e4(β*/β)=||cov(β*)||／||cov(β)||。当∑≥0和rank(X)＜p时,对可估函数c＇β自然考虑两种估计的方差之比的下界,提出的相对效率为e5(β*/β)=var(c＇β*)／var(c＇β)。在μ(X)(?)μ(∑)条件下,给出了它们的下界。关于相对效率的讨论通常有∑＞0的假定,利用矩阵分析的方法将协方差矩阵∑＞0推广至∑≥0的情形,从而包含了Bloomfield-Watson的结果以及推广了Kantorovich不等式。     

带随机线性约束的最小二乘估计的相对效率

最小二乘估计是线性模型参数估计理论中应用最广泛的方法之一.随着研究的深入,它的一些缺点也呈现出来,例如存在非容许性、设计阵病态时严重偏离实际值等.对此问题统计学家也提出了一些改进的方法,其中之一就是充分利用一些先验信息.他主要考虑先验信息是随机线性的情形,并通过融合随机线性模型得到混合线性模型,利用最小二乘法得到参数的混合估计.为了测量引入的先验信息对估计的影响程度,引进基于矩阵行列式和欧氏范数标准下的相对效率,并给出了相对效率的上界和下界.     

最小二乘估计的有效性

对Gauss-Markov模型,本文考虑了最小二乘估计有效性的三种度量,并给出了它们的界。     

生长曲线模型中最小二乘估计的一种新的相对效率

对于生长曲线模型,Yn×k=Xn×pβp×pZq×k+en×k,E(e)=0,Cov(e)=Vk×k∑n×n,在一定条件下,引入了回归系数的最小二乘估计与最佳线性无偏估计的一种新的相对效率e4(^β*/^β),并讨论了它们的下界。修正了当未知参数矩阵β不可估时,相对效率e1(^β*/^β)。     

正则化最小二乘线性判别分析算法

线性判别分析（Linear Discriminant Analysis,LDA）是用于降维和分类的方法,然而在遇到小样本问题时,由于全局散布矩阵是奇异的．所以传统的LDA方法是不适用的。为了解决LDA的这种缺点,提出了基于最小二乘线性判别分析（LeastSquares Linear Discriminant Analysis．LS—LDA）的正则化算法,在LS—LDA中分别加入关于加权矩阵的L1范数、L2范数和弹性网络的惩罚项、来解决小样本问题,使模型具有鲁棒性和稀疏性。在对回归分析、正则化方法和LS—LDA相关技术进行深入分析的基础上,构建正则化最小二乘线性判别分析框架算法,实现数据降维。结合标准文本数据集进行实验,采用KNN（K-Nearest-Neighbor）分类器进行文本分类。实验结果表明,正则化的LS—LDA具有很好的分类性能,其中以加入了弹性网络惩罚项的Ls—LDA最优.     

最小绝对值和与最小二乘联合抗差估计

讨论了从改正数绝对值和最小条件出发的线性规划法在粗差估计中的应用,以及该法在粗差探测能力方面与多余观测数之间的联系。认为最小绝对值和与最小二乘法联合抗差估计是一种有效,可行,简单,实用的估计方法。