带有不可忽略缺失数据的联合均值与方差模型的贝叶斯估计

对响应变量带有不可忽略缺失数据的联合均值与方差模型的贝叶斯估计问题进行了研究.缺失数据机制通过logistic回归模型来指定,模型参数和缺失数据机制参数的联合贝叶斯估计通过运用MH算法及Gibbs抽样获得,并用数值计算阐明上述方法的可行性.     

函数型Logistic回归模型研究与应用

作为一种新型高维数据,函数型数据重在研究数据的内在本质而不是外在结构,通过非参数方法将数据拟合为函数型数据以捕捉更多信息.针对响应变量为二分类情形,建立贝叶斯框架下的函数型Logistic回归模型,引入适当的先验信息并利用MCMC算法获得参数的条件后验分布.具体解决流程为:选取由数据驱动的主成分基函数对回归系数函数和回归函数型自变量进行展开,对展开项数进行截断,利用主成分基函数的正交性,将高维数据进行低维表示;再利用Polya-Gamma变换,建立易于获得参数后验的Gibbs抽样算法,从而得到回归函数展开项系数的后验分布.蒙特卡洛模拟结果显示,该方法具有较好的分类性能.将该方法应用于Tecator实际数据,发现其分类效果优于别的方法.     

偏正态空间自回归模型的贝叶斯估计

空间自回归模型是空间计量经济学研究中的一个重要模型,主要用于刻画空间单元间的相关性.在空间自回归模型的现有研究中,大都假设响应变量服从正态分布,然而,实际的数据可能呈现出非正态的情况,此时,仍然在正态假设下作统计推断会获得不合理甚至错误的结论.基于响应变量服从偏正态分布的假设,研究偏正态空间自回归模型的贝叶斯估计.借助Gibbs抽样和MH算法相结合的MCMC算法讨论该模型的贝叶斯估计.数值模拟和实证分析表明:1)提出的偏正态空间自回归模型与传统模型相比,可以更好地拟合偏态数据;2)采用MCMC算法对模型进行贝叶斯估计,可以更精准地估计未知参数.研究结果显示:采用MCMC算法得到偏正态空间自回归模型未知参数的贝叶斯估计值更精准.     

最优Box—Cox变换模型的反向动态规划求解

通过构造Box—Cox变换模型加权最优目标函数，综合考虑回归系数t统计量对应p阀值、Theil系数U^2及其误差分解、修正回归拟合优度、Durbin—Watson检验量、回归残差。利用Excel矩阵向量数组函数三维动态建模，通过Excel基于稳健GRG2算法的规划求解，“反向”动态求解整体最优Box—Cox变换模型估计参数。实例给出了建模过程，显示反求建模可较有效地克服变换模型的异方差、多重共线性和序列相关性。     

基于贝叶斯神经网络的非参数回归

提高神经网络模型推广能力的关键是控制模型的复杂度.该文探索了贝叶斯神经网络的非参数回归的建模方法,通过融入模型参数的先验知识,在给定数据样本及模型假设下进行后验概率的贝叶斯推理,使用马尔可夫链蒙特卡罗算法来优化模型控制参数,实现了对神经网络模型中不同部分复杂度的控制,获得了模型参数的后验分布及预测分布.在5个含噪二维函数回归问题上的应用显示了模型的复杂度能根据数据的复杂度而自适应调整,并给出了较好的预测结果.     

有噪自回归信号参数估计的最小均方算法

提出了噪声中自咽归信号未知参数包括信号的功率和噪声方差的估计问题,通过把基本自回归模型的阶数增加一阶,提出了一种以估计噪声方差为基础的新的最小均方算法,这种方法的特点是能够得到自回归模型参数的一致估计,与以前噪声中自回归信号未知参数的估计方法相比,该方法的优点是,在没有前置滤波的情况下直接利用含有噪声的观测数据不需要参数抽取而直接估计自回归信号的参数和噪声方差,计算机仿真和数字模拟结果证实和说明了这种理论。     

基于带缺失PISA数据对中国学生科学素养的诊断分析

利用DINA模型(Deterministic inputs,noisy and gate model)对PISA2015中国学生科学素养数据进行建模,使用贝叶斯M CMC算法实现对缺失数据的自动填补和模型参数的估计.     

基于线性回归模型的贝叶斯方法的研究

线性回归模型是回归分析中比较简单且应用非常广泛的一种统计模型,它可以很好的确定变量之间的一种定量关系。但是在一些实际问题中,很多问题并不是严格的线性关系,这就需要结合历史经验来对模型做出相应的改进。针对这一问题,结合了贝叶斯理论,以多元线性回归模型和Logistic回归模型为例进行研究,使得这些没有严格线性关系的问题依然可以按照线性回归模型的思想来求解。在贝叶斯方法中,平方损失函数下,分别以无信息先验分布和联合正态分布作为参数的先验分布,得到多元线性回归模型和Logistic回归模型中参数的贝叶斯估计,以及求取了等式约束下的Logistic回归的贝叶斯参数估计,估计结果良好有效。     

部分线性变系数模型误差方差的估计

半参数模型既含有参数分量,又含有非参数分量,在保留非参数模型灵活性的同时又克服了"维数灾祸"问题.处理这类模型的方法融合了参数回归模型中常用的方法和近年来发展起来的非参数方法,但是也并非这2类方法的简单叠加,其复杂性和难度都超过了单一性质的回归模型.不同于文献中研究回归系数的统计推断问题,而是研究部分线性变系数半参数模型误差变量的方差估计问题.首先,利用局部常数化回归函数系数,将半参数模型转换为了高维线性模型,进而构造了基于最小二乘法的方差估计量,并证明了所得估计量渐近服从正态分布.为了减少最小二乘法估计量的均方误差,还提出了基于该线性模型的一类惩罚估计量,称之为岭估计.最后,通过数值模拟验证了所提2种估计方法的有限样本性质.     

半参数变系数部分线性回归模型的渐近性质

为了研究半参数变系数部分线性回归模型中非参数分量的统计推断问题,利用局部线性回归方法,给出了变系数函数的porfile最小二乘估计,证明了该估计的渐近偏差、渐近方差,同时获得了该估计的渐近正态性．     

异方差模型中估计方差的一种新方法

研究了经典回归模型中的异方差现象,讨论了该现象中的异方差估计这一热点问题,利用交表提出了一种不依赖于数据分布类型的计算简便的异方差估计方法,把这一方法应用在研究三大产业对GDP影响的一个三维数据的具体例子中,并与已有文献中得到的结果进行了比较.比较结果表明:利用正交表的方法对异方差进行估计是一种相对有效的方法.     

双重迭代变分贝叶斯自适应卡尔曼滤波算法

提出了一种新的自适应卡尔曼滤波算法。该算法假设系统过程噪声方差和量测噪声方差之间存在的函数关系已知,两种噪声方差随着时间变化且均未知。先令当前时刻的过程噪声方差等于前一时刻的过程噪声方差,通过变分贝叶斯近似的方法,在卡尔曼滤波框架下迭代求解当前时刻的量测噪声方差和状态估计,再利用假设中的函数关系获得新的过程噪声方差。对上述过程多次迭代,最终获得状态估计及协方差。仿真实验结果表明,该算法具有较高的滤波精度;在假设条件不确知的情况下仍具有较强的鲁棒性。     

贝叶斯证据框架下LS-SVM的BPMSM磁链建模

针对常规解析法建立无轴承永磁同步电机(BPMSM)磁链模型的局限性,提出一种贝叶斯证据框架下最小二乘支持向量机(LS-SVM)的BPMSM磁链建模方法.对BPMSM磁链的非线性建模进行简单分析,在介绍LS-SVM回归理论和贝叶斯证据框架基本思想的基础上,通过贝叶斯证据框架推断准则1确定模型的权向量w,通过贝叶斯证据框架推断准则2确定模型的正则化参数γ,通过贝叶斯证据框架推断准则3确定模型的核参数σ,进而建立基于贝叶斯证据框架下LS-SVM的BPMSM磁链模型.在Matlab7.0环境下进行仿真研究.仿真结果表明,贝叶斯证据框架下LS-SVM的磁链模型具有拟合精度高、泛化能力强、结构灵活、计算速度快等特点.     

一种不确定数据的朴素贝叶斯分类方法

针对不确定性数据的分类问题,提出一种基于直方图估计的不确定性朴素贝叶斯分类器(HU-NBC).基于直方图估计的思想,建立估计不确定性数据概率密度函数的数学模型,并利用该模型估计不确定性朴素贝叶斯分类器的类条件概率密度函数.实验结果表明,与同类型算法相比,基于直方图估计的HU-NBC算法拥有较优的分类精度、较小的时间代价和空间需求,适合解决数据量较大的不确定性数据分类问题.     

非参数估计方法

为了解决函数估计问题,首先讨论了传统的参数回归方法.由于传统方法需要先验知识来决定参数模型,因此不稳健,且对模型敏感.因此,引入了基于数据驱动的非参数方法,无需任何先验知识即可对未知函数进行估计.本文主要介绍最新的8种非参数回归方法：核方法、局部多项式回归、正则化方法、正态均值模型、小波方法、超完备字典、前向神经网络、径向基函数网络.比较了不同的算法,给出算法之间的相关性与继承性.最后,将算法推广到高维情况,指出面临计算的维数诅咒与样本的维数诅咒两个问题.通过研究指出前者可以通过智能优化算法求解,而后者是问题固有的.     

多元线性回归模型参数的EB估计及其收敛速度

本文采用多元函数核估计方法,构造了多元线性回归模型参数的经验贝叶斯估计,证明了该估计有如下性质:1.渐近最优,2.收敛速度可任意接近于1。     

含噪独立分量分析的期望最大化算法

把期望最大化(EM)算法应用到含噪ICA模型中,即假定源信号具有统计独立性,并将其放在贝叶斯估计框架中,提出一种解决含噪独立分量分析(ICA)的期望最大化(EM)算法。在含噪ICA模型中,假设源信号的均值和方差服从更为一般的均匀分布,提出的EM算法将混合矩阵和超参数交替进行处理,可以有效地估计混合矩阵和超参数在一定模型下的模型参数,从而能够估计出源信号。仿真结果说明,该方法能够很好地解决含有噪声ICA模型下的盲源分离问题。     

删失数据下部分线性模型的估计及渐近正态性

研究了删失数据下的部分线性回归模型,通过数据变换,利用局部多项式方法和两阶段估计,给出了函数系数和参数部分的估计。并给出了估计的渐近正态性。     

骨髓瘤数据中贝叶斯估计研究及SAS实现

基于右删失数据,借助于SAS软件,运用贝叶斯估计方法分析骨髓瘤患者的生存时间、死亡风险及影响因素。首先运用贝叶斯框架下的Cox比例风险模型对个体的死亡风险进行评估,分析死亡风险的影响因素,然后,通过极大似然估计和贝叶斯估计拟合生存数据服从不同参数分布时的回归模型,分析生存时间的影响因素。在骨髓瘤生存数据下,贝叶斯估计适用于Cox模型参数估计及参数模型的参数估计,而且比极大似然估计利用信息更多,在小样本情况下有更优良的性质,所得结果对骨髓瘤的防治具有重大实际意义。     

线性回归模型参数的贝叶斯区间估计

利用贝叶斯统计推断方法 ,给出了正态线性回归模型Y =Xβ e未知参数 (回归系数和误差方差 )的后验置信概率 1 -α的区间估计。