用贝叶斯网络进行因果分析

因果分析是贝叶斯网络的一个重要应用领域。因果分析不同于相关分析,无论对数据分析、扰动分析还是预测都是十分重要的。贝叶斯网络虽然有一定的因果语义(我们常常用变量的因果关系构造贝叶斯网络结构),但贝叶斯网络是条件独立性的表示,因此我们不能不加限定地用贝叶斯网络进行因果分析。贝叶斯     

基于贝叶斯网络的马尔科夫毯预测学习

研究变量之间的预测能力在许多领域都有重要意义,通过这种研究,能够揭示变量之间的制约机制,贝叶斯网络是研究变量之间预测能力的有力工具.本文使用依赖分析方法建立基于贝叶斯网络的马尔科夫毯预测,其核心问题是贝叶斯网络结构学习.目前,基于依赖分析的贝叶斯网络结构学习方法主要存在三个问题:(1)需要进行大量的高维条件概率计算,(2)容易丢失弱联合依赖边,(3)对边的方向的确定具有局限性.针对这些问题,本文提出了首先进行递推条件独立性检验,然后进行因果语义定向,最后进行冗余边检验的贝叶斯网络结构学习方法.该方法能够有效地避免这些问题,更准确地建立马尔科夫毯预测.     

基于因果效应的贝叶斯网络结构学习方法

从数据中学习贝叶斯网络结构是一个NP-hard问题,提高网络结构学习算法精度是研究的重难点。基于Judea Pearl因果理论,提出了一种贝叶斯网络结构学习方法,提升了现有算法的准确率。利用改进的Pearl因果效应和BDe评分,学习网络节点优先次序,利用K2算法学习初始网络,并通过BDe评分反向调节、互信息和BDe评分删除边以修正学习结果。实验在贝叶斯网络标准数据集ASIA、ALARM上进行,在样本量为2000~20000的20组实验中,学习准确率较MMHC算法平均提升16%,准确率标准差较MMHC算法平均缩小17%。实验表明,基于因果效应的方法较MMHC算法有更好地性能。     

基于类约束的贝叶斯网络分类器学习

分类能力是人类经过学习得到的重要而基本的能力，也是机器学习、模式识别和数据采掘研究的核心问题．在01损失率下，证明了基于类约束的贝叶斯网络分类器是最优分类器．建立该分类器的核心问题是基于类约束属性贝叶斯网络结构学习，给出了学习属性贝叶斯网络结构的方法，在学习过程中使用了根据弧方向因果语义确定边方向的方法，并和碰撞识别定向相结合，在边定向之后进行冗余弧检验，解决了目前冗余边检验在定向之前所导致的问题，显著提高了结构学习效率和准确性．并使用模拟数据进行了分类实验和分析。     

基于评分函数的贝叶斯网络结构融合算法

利用贝叶斯网络进行因果关系推理已广泛应用于人工智能领域。基于约束方法从观测数据中构建贝叶斯网络通常得到的是其马尔科夫等价类，因存在无向边而无法进行有效的因果推断。为此，基于贝叶斯网络评分函数，并结合集成学习提出了一种模型融合算法，通过对不同的网络结构加权融合，以减少网络中无向边的个数，进而提高其可推断性。实验结果表明，不仅显著减少了无向边条数，也提高了最终网络结构的学习效果，验证了算法的有效性。     

基于因果贝叶斯网络的急性肾损伤患者死亡风险预测

为了及早发现重症监护室中的急性肾损伤高危患者,为其提供适当的护理,实现医疗资源的合理利用,研究建立因果贝叶斯网络模型进行急性肾损伤高危患者死亡风险预测。从重症监护医学信息市场(Medical Information Mart for Intensive CareⅢ, MIMIC-Ⅲ)数据库中筛选了25个研究变量和3 870条患者数据,使用因果发现算法进行特征降维。通过NO TEARS算法构建因果图并建立因果贝叶斯网络进行实验,通过机器学习算法验证重要特征的合理性,并对网络结构进行因果效应估计,模型具有最高的受试者工作特征曲线下面积(Area Under the Receiver Operating Characteristic, AUROC)分数,为81.7%,优于逻辑回归(Logistic Regression, LR)、随机森林(Random Forest, RF)和极端梯度提升树(eXtreme Gradient Boosting, XGBoost)。此外,模型的重要特征预测能力在各种建模中都很稳健,构建的因果贝叶斯网络具有更好的预测效果并具备良好的解释能力。     

连续贝叶斯网络模型在断面调查数据的应用

研究目的是验证连续贝叶斯网络模型可以从断面调查数据获取因果信息。使用L1MB、TC、PCB和Two-Phase等连续贝叶斯网络结构学习算法,从美国健康和营养调查（NHANES）提供的真实断面调查数据,获取潜在的因果关系。实验结果表明这些算法能不同程度地从横断面调查数据发现相应的因果关系,适用于高斯和非高斯数据的PCB算法,以及Two-Phase算法的学习性能优于仅适用于高斯数据的L1MB算法和TC算法。结合PCB算法和Two-Phase算法进行因果分析,这样得到的因果结构才较为全面。     

基于扰动数据的因果网络结构的学习

因果网络是一种把节点间的有向边解释成因果关系的贝叶斯网络,它可以用来为现实中的黑盒系统建模。由于存在多个贝叶斯网络可以表述相同的条件独立声明,所以这些网络统计上是不可区分的,它们被称为是马尔科夫等价网络。这意味着,即使知道两个网络节点是相关的,也不能区分谁是原因,谁是结果。为了解决这个问题,提出一种基于扰动数据的因果网络结构的学习算法,通过引入扰动数据,改动传统的打分方式,在此基础上进行马尔科夫链—蒙特卡罗搜索最好得分。实验结果表明,这种方法有效地找到了可信的因果网络结构。     

用于因果分析的混合贝叶斯网络结构学习

目前主要结合扩展的熵离散化方法和打分一搜索方法进行混合贝叶斯网络结构学习，算法效率和可靠性低，而且易于陷入局部最优结构。针对问题建立了一种新的混合贝叶斯网络结构迭代学习方法．在迭代中，基于父结点结构和Gibbs sampling进行混合数据聚类，实现对连续变量的离散化，再结合贝叶斯网络结构优化调整，使贝叶斯网络结构序列逐渐趋于稳定，可避免使用扩展的熵离散化和打分——搜索所带来的主要问题．     

贝叶斯网络结构稀疏学习研究进展*

贝叶斯网络结构稀疏化学习因其既能简化结构又能保留原始网络中的重要信息,已经成为当前贝叶斯网络的研究热点.文中首先讨论贝叶斯网络结构稀疏学习的必要性、贝叶斯网络稀疏性的定义,并在此基础上介绍现有的贝叶斯网络结构稀疏学习研究思路.然后,回顾一般的贝叶斯网络结构学习方法,并分析它们在高维背景下存在的问题,进而发现基于评分的方法通常适合于贝叶斯网络结构的稀疏学习,因此重点介绍贝叶斯网络结构稀疏学习的目标函数和优化求解算法.最后,探讨未来贝叶斯网络结构稀疏学习的一些研究方向.     

基于贝叶斯网络的时间序列因果关系学习

贝叶斯网络是研究变量之间因果关系的有力工具,基于贝叶斯网络的因果关系学习包括结构学习与参数学习两部分,其中,结构学习是核心.目前,贝叶斯网络主要用于发现非时间序列数据中所蕴含的因果关系（非时间序列因果关系）,从数据中学习得到的也均是一般变量之间的因果关系.针对这些情况,结合时间序列预处理、时间序列变量排序、转换数据集构建和局部贪婪打分-搜索等进行时间序列的因果关系学习;再将包括分段在内的时间序列预处理、时间序列段的因果关系结构学习、因果关系结构数据集构建、因果关系变量排序和局部贪婪打分-搜索等相结合,来进行元因果关系（因果关系变量之间的因果关系）学习,从而实现两个层次的时间序列因果关系学习,为进一步的量化因果分析奠定了基础.分别使用模拟、UCI和金融时间序列数据进行实验与分析,实验结果显示,基于贝叶斯网络能够有效地进行时间序列的因果关系和元因果关系学习.     

Bayesian Networks for Data Mining

A Bayesian network is a graphical model that encodesprobabilistic relationships among variables of interest. When used inconjunction with statistical techniques, the graphical model hasseveral advantages for data modeling. One, because the model encodesdependencies among all variables, it readily handles situations wheresome data entries are missing. Two, a Bayesian network can be used tolearn causal relationships, and hence can be used to gain understanding about a problem domain and to predict the consequencesof intervention. Three, because the model has both a causal andprobabilistic semantics, it is an ideal representation for combiningprior knowledge (which often comes in causal form) and data. Four,Bayesian statistical methods in conjunction with Bayesian networksoffer an efficient and principled approach for avoiding theoverfitting of data. In this paper, we discuss methods for constructing Bayesian networks from prior knowledge and summarizeBayesian statistical methods for using data to improve these models.With regard to the latter task, we describe methods for learning boththe parameters and structure of a Bayesian network, includingtechniques for learning with incomplete data. In addition, we relateBayesian-network methods for learning to techniques for supervised andunsupervised learning. We illustrate the graphical-modeling approachusing a real-world case study.     

混合局部因果结构学习

局部因果结构学习是发现和学习给定一个目标变量的直接原因和直接结果而无需学习一个完整因果网络的过程。目前已有算法通常由两个步骤完成:步骤1使用约束类算法利用独立性测试学习目标变量的马尔科夫毯(MB)或父子节点集(PC),但是该步骤由于受到有限的数据样本量等因素影响使得独立性测试存在一定的错误性,而导致该步骤精度通常不是很高;步骤2利用V结构及Meek规则来进行边的定向,但是该步骤由于极其依赖于V结构的发现且同样受到有限样本的影响,使得算法精度相对不是很高。基于上述问题,提出利用打分和限制相结合的混合方式来缓减有限样本问题且提高算法精度。步骤1通过在基于限制的算法中加入打分思想来提高数据有效性,进而提出SIAPC算法;步骤2通过利用PC算法得到的定向结果和对部分数据集打分得到的定向结果的交集来确定边的方向,以此来降低对V结构的依赖性且缓减有限样本问题,之后使用独立性测试修正边的定向结果来进一步提高算法精度,进而提出HLCS算法。在标准贝叶斯网络上,实验验证了该算法相对于已有算法在精度方面具有更好的性能且能够有效缓减数据效率问题。     

Restricted Bayesian classification networks

Bayesian networks are graphical models that describe dependency relationships between variables, and are powerful tools for studying probability classifiers. At present, the causal Bayesian network learning method is used in constructing Bayesian network classifiers while the contribution of attribute to class is over-looked. In this paper, a Bayesian network specifically for classification-restricted Bayesian classification networks is proposed. Combining dependency analysis between variables, classification accuracy evaluation criteria and a search algorithm, a learning method for restricted Bayesian classification networks is presented. Experiments and analysis are done using data sets from UCI machine learning repository. The results show that the restricted Bayesian classification network is more accurate than other well-known classifiers.     

基于专家知识融合的贝叶斯网络结构学习方法

基于数据学习的贝叶斯网络结构学习算法因搜索空间大而效率低。领域专家可根据自己的经验知识确定网络结构中固有的因果关系。通过收集不同专家的意见,并利用证据理论进行综合,确定其中的部分因果关系,去除其中无意义的因果关系,然后利用常用的学习算法进行学习,减小搜索空间,提高算法效率。实验结果表明基于专家知识融合的贝叶斯网络构造方法利用专家知识来限制学习算法的搜索条件,有效地缩小了搜索空间,利用证据理论综合多个专家知识,防止了单个专家的主观片面性,能够有效地提高学习效率。     

基于级联加性噪声模型的因果结构学习算法

现有级联非线性加性噪声模型可解决隐藏中间变量的因果方向推断问题,然而对于包含隐变量和级联传递因果关系的因果网络学习存在全局结构搜索、等价类无法识别等问题。设计一种面向非时序观测数据的两阶段因果结构学习算法,第一阶段根据观测数据变量间的条件独立性,构建基本的因果网络骨架,第二阶段基于级联非线性加性噪声模型,通过比较骨架中每个相邻因果对在不同因果方向假设下的边缘似然度进行因果方向推断。实验结果表明,该算法在虚拟因果结构数据集的不同隐变量数量、平均入度、结构维度、样本数量下均表现突出,且在真实因果结构数据集中的F1值相比主流因果结构学习算法平均提升了51%,具有更高的准确率和更强的鲁棒性。     

基于贝叶斯网络的不确定因果逻辑量化分析方法

在安全苛求系统中,潜在风险会引发灾难事故,研究分析潜在风险的影响至关重要. 风险到事故的因果逻辑关系包括两类：确定性和非确定性的. 确定性因果关系可以用事件树、故障树等分析. 由于非确定性因果关系包含不确定性因素和数据不足,贝叶斯网络成为最佳选择. 量化分析中,条件概率的分配是一件不容易的工作,本文提出一种基于模糊逻辑的分配方法,结合建立的不确定性影响模型,利用贝叶斯网络进行量化分析,分析确定性因素的影响. 最后通过实例学习,验证和评估方法的有效性.     

贝叶斯网络结构模型的构建

贝叶斯网络结构是一种将贝叶斯概率方法和有向无环图的网络拓扑结构有机结合的表示模型,它描述了数据项及其依赖关系,并根据各个变量之间概率关系建立图论模型,但是如何获取具有丢失数据的网络结构是一个急需解决的问题.本文提出一个基于Kullback-Leibler(KL)散度的贝叶斯网络结构学习的KLBN(Kullback-Leibler Bayesian Network)算法.实验结果表明,KLBN算法在可靠性方面明显优于传统的具有丢失数据的贝叶斯网络结构学习算法.