对一种贝叶斯网络学习算法的改进及试验分析

贝叶斯网络是上世纪80年代发展起来的一种概率图形模型,它提供了不确定性环境下的知识表示、推理、学习手段,可以完成决策、诊断、预测、分类等任务,已广泛应用于数据挖掘、语音识别、工业控制、经济预测、医疗诊断等诸多领域。然而由于贝叶斯网络的推理和贝叶斯网络的学习问题都是NP难的,其实际应用受到很大限制。贝叶斯网络推理是利用它进行决策、诊断、分类、预测等应用的基础,其本质任务是计算边缘概率分布。当网络比较复杂时,推理将变得不可行。多模块的贝叶斯网络(MSBN)从简化模型本身出发,对贝叶斯网络进行了扩展。我们则提出了一种用于MSBN中的近似推理算法,这些都大大拓宽了贝叶斯网络的应用领域。     

离散动态贝叶斯网络推理的编程计算算法

离散动态贝叶斯网络是对时间序列进行建模和推理的重要工具,具有广泛的建模应用价值,但是其推理算法还有待进一步完善。针对构离散动态贝叶斯网络的推理算法难以理解、编程计算难、推理速度慢的问题,给出了实现离散动态贝叶斯推理算法的数据结构,推导了进行计算机编程计算的推理算法和编程步骤,并通过实例进行了算理验证。     

贝叶斯网在高校教学质量分析中的应用研究

贝叶斯网络是研究不确定性推理和数据分析的一种重要有效工具。本文通过分析影响高校教学质量的基本因素,构建贝叶斯网络结构,确立网络结构中结点的条件概率分布表,进一步推理出结点数据之间的关系。     

变结构动态贝叶斯网络的机制研究

传统的动态贝叶斯网络(Dynamic Bayesian networks, DBNs)描述的是一个稳态过程,而处理非稳态过程,变结构动态贝叶斯网络更适 用、更灵活、更有效.为了克服现有变结构离散 动态贝叶斯网络推理算法只能处理硬证据的缺陷,本文在深入分析变结构动态贝叶斯网络机制及其特 征的基础上,提出了变结构离散动态贝叶斯网络的 快速推理算法.此外,对变结构动态贝叶斯网络的特例,即数据缺失动态贝叶斯网络进行了定义并构建 了相应的模型.仿真实验验证了变结构离散动态贝 叶斯网络快速推理算法的有效性及计算效率.     

基于贝叶斯网络理论的道德图学习*

贝叶斯网络的道德图是一种马尔可夫网络,是进行随机变量之间依赖关系分析、推理及预测的有力工具。基于道德图和贝叶斯网络间的密切联系,提出了一种基于贝叶斯网络理论进行道德图学习的方法。实验表明该方法能够显著提高道德图学习效率和可靠性,适合于多变量稀疏道德图学习。     

基于贝叶斯网络的民航突发事件因果关系分析方法研究

针对民航突发事件因果关系无法有效评估与关联分析的问题,提出了一种基于贝叶斯网络的民航突发事件因果关系分析方法。在民航突发事件应急管理领域本体的基础上引入贝叶斯理论,首先通过规则设计实现了领域本体中概念、关系与实例的贝叶斯网络转换,然后采用贝叶斯网络知识合成算法E-IPFP构建贝叶斯网络节点的条件概率表,并通过消息传递机制计算父子节点间的概率关系,获得民航突发事件因果关系的概率分布。采用民航突发事件应急管理领域本体和世界民航事故调查跟踪报告中的案例作为实验数据,给出了民航突发事件因果间关系的分析,为基于大数据的突发事件关联分析与推理提供了方法支持。     

信度网推理——方法及问题（下）

3.2 团树传播方法信度网推理的第二类算法为基于团树传播的方法。该方法采用了另一种图形表达方式来表达联合概率分布,即采用了另一种对联合概率分布进行参数化的方法。该方法所对应的图形结构是一棵无向树——团树。该树必须满足如下特征: 每一个节点为一个团,每一个团里面将包含一定量的随机变量;     

一种改进的贝叶斯网弧定向算法研究

贝叶斯网络是用来表示变量集合概率分布的图形模式,它提供了一种方便地表示概率信息的方法,它可以表示因果关系,但并不局限于因果关系。贝叶斯网对不确定性问题有很强的推理能力,近几年来受到众多研究者的重视。贝叶斯网络中弧的定向是指在已经有了变量之间的依赖关系图的条件下确定变量之间的边的方向的过程。介绍了一种改进了贝叶斯网弧定向的方法,该方法结合了目前多种定向方法的优点,实验证明该算法优于已存在的弧定向方法。     

引入证据后的贝叶斯网络信息传递方法

连接树算法是贝叶斯网络的一种应用广泛并有效的精确推理算法。在贝叶斯推理中，为了保持各个节点的一致性，势必会有信息的传递。简要介绍贝叶斯网络的连接树算法以及无证据下的信息的传递方法，对贝叶斯网络在证据进入的情况下的信息传递进行了重点的介绍，尤其是处理动态证据时的情况。     

基于贝叶斯方法的神经网络非线性模型辨识

研究了基于贝叶斯推理的多层前向神经网络训练算法,以提高网络的泛化性能。在网络目标函数中引入表示网络结构复杂性的惩罚项,以便能够在训练优化过程中降低网络结构的复杂性,达到避免网络过拟合的目的。训练过程中使用显式的概率分布假设对模型进行分析和推断,根据融入先验分布的假设和依据,获取网络参数和正则化参数的后验条件概率,并基于后验分布的贝叶斯推理得出最优化参数。利用上述算法训练前向网络,对一个微型锅炉对象进行了模型辨识,通过测试,证明所辨识出的对象模型能够较好地表现出对象的动态行为,且具有较好的泛化性能。     

基于条件事件代数的贝叶斯网的逻辑推理

条件事件代数理论在数据融合系统中有着重要的应用前景,该理论可用来解决不确定性、概率性和模糊性推理问题。条件事件代数是在确保规则与条件概率相容的前提下,把布尔代数上的逻辑运算推广到条件事件(规则)集合中的逻辑代数系统。对于一些特殊的贝叶斯网(如多树型网络)已经有了一些可行的概率推理的算法,但到目前为止,还没有可行的逻辑推理的算法。随着对不确定性知识研究的深入,迫切需要具有逻辑推理的算法。论文介绍了乘积空间条件事件代数的定义和基本性质,提出了基于乘积空间条件事件代数的贝叶斯网的逻辑推理的算法以及应用。     

单元化单隐变量变结构DDBN推理算法

变结构动态贝叶斯网络（DBN）描述的是一个非稳态随机过程,是一种更灵活、更有效的动态网络。为了克服现有变结构DBN的推理算法不能实现在线推理的缺陷,提出了一种近似在线推理算法--单元化单隐变量变结构离散DBN（DDBN）推理算法。在定义了单隐变量变结构离散动态贝叶斯模型和单元的基础上,提出了算法的基本思想,并从理论上对算法进行了推导。仿真实验验证了该算法的正确性和有效性。     

贝叶斯网模型的学习、推理和应用

近年来在人工智能领域,不确定性问题一直成为人们关注和研究的焦点。贝叶斯网是用来表示不确定变量集合联合概率分布的图形模式,它反映了变量间潜在的依赖关系。使用贝叶斯网建模已成为解决许多不确定性问题的强有力工具。基于国内外最新的研究成果对贝叶斯网模型的学习、推理和应用情况进行了综述,并对未来的发展方向进行了展望。     

基于贝叶斯网络的林火概率预测系统设计与实现

针对林火预测具有影响因素多、机制复杂、难以结构化等特点,设计并实现了一个基于贝叶斯网络的实用林火概率预测系统。该系统以气象、植被、地理、人类活动等数据作为输入,综合林火历史数据建立贝叶斯网络模型,并应用联合树算法进行概率推理,进而预测出林火发生概率。在某省实际林火历史数据上对系统进行了测试,比较了所设计系统与加拿大火险天气指标系统（FWI）的预测性能,验证了系统的可行性和实用性。     

Controlled generation of hard and easy Bayesian networks: Impact on maximal clique size in tree clustering

This article presents and analyzes algorithms that systematically generate random Bayesian networks of varying difficulty levels, with respect to inference using tree clustering. The results are relevant to research on efficient Bayesian network inference, such as computing a most probable explanation or belief updating, since they allow controlled experimentation to determine the impact of improvements to inference algorithms. The results are also relevant to research on machine learning of Bayesian networks, since they support controlled generation of a large number of data sets at a given difficulty level. Our generation algorithms, called BPART and MPART, support controlled but random construction of bipartite and multipartite Bayesian networks. The Bayesian network parameters that we vary are the total number of nodes, degree of connectivity, the ratio of the number of non-root nodes to the number of root nodes, regularity of the underlying graph, and characteristics of the conditional probability tables. The main dependent parameter is the size of the maximal clique as generated by tree clustering. This article presents extensive empirical analysis using the Hugin tree clustering approach as well as theoretical analysis related to the random generation of Bayesian networks using BPART and MPART.     

Bayesian A* tree search with expected O(N) node expansions: applications to road tracking

Many perception, reasoning, and learning problems can be expressed as Bayesian inference. We point out that formulating a problem as Bayesian inference implies specifying a probability distribution on the ensemble of problem instances. This ensemble can be used for analyzing the expected complexity of algorithms and also the algorithm-independent limits of inference. We illustrate this problem by analyzing the complexity of tree search. In particular, we study the problem of road detection, as formulated by Geman and Jedynak (1996). We prove that the expected convergence is linear in the size of the road (the depth of the tree) even though the worst-case performance is exponential. We also put a bound on the constant of the convergence and place a bound on the error rates.     

DUCG:一种新的动态不确定因果知识的表达和推理方法(Ⅰ):离散、静态、证据确定和有向无环图情况

贝叶斯网络(BN)是国际上流行的处理不确定因果知识的表达和推理模型.文中指出:即使所有变量均为二状态,BN中的子变量也有单赋值和多赋值之分.在单赋值情况下适用的知识的简洁表达和推理方法在多赋值情况下不适用.为克服BN的上述及其它缺陷,文中提出了DUCG(Dynamical Uncertainty Causality Graph)理论模型,以图形方式简洁表达任何情况下的不确定因果关系,并基于证据化简图形和展开事件,以得到所关注假设事件及其状态概率表达式.此外,DUCG允许知识表达不完备,使其超越了BN理论框架.一个入侵者报警系统被用来解释DUCG理论.     

一种基于贝叶斯网络的作战重心评估模型

作战重心（Center of Gravity）是指战役体系中敌我双方的关键环节。作战重心评估是一个经验性、模糊性的过程。贝叶斯网络作为一种不确定知识表示模型,具有概率论及图论基础,对于解决复杂系统决策问题具有较强的优势,适合用于作战重心评估。文中提出并实现了一种基于贝叶斯网络推理的作战重心评估模型。通过该模型,可以定量地评估各个环节对于证据的重要程度,从而确定该作战过程中的作战重心。文中使用联合树（Clique Tree）算法进行贝叶斯网络精确推理,并详细阐述了推理过程中联合树建立,消息传递的过程。最后通过实例验证,基于贝叶斯网络推理的模型能够有效地对作战重心进行定量的评估。     

Using Bayesian networks with rule extraction to infer the risk of weed infestation in a corn-crop

This paper describes the modeling of a weed infestation risk inference system that implements a collaborative inference scheme based on rules extracted from two Bayesian network classifiers. The first Bayesian classifier infers a categorical variable value for the weed–crop competitiveness using as input categorical variables for the total density of weeds and corresponding proportions of narrow and broad-leaved weeds. The inferred categorical variable values for the weed–crop competitiveness along with three other categorical variables extracted from estimated maps for the weed seed production and weed coverage are then used as input for a second Bayesian network classifier to infer categorical variables values for the risk of infestation. Weed biomass and yield loss data samples are used to learn the probability relationship among the nodes of the first and second Bayesian classifiers in a supervised fashion, respectively. For comparison purposes, two types of Bayesian network structures are considered, namely an expert-based Bayesian classifier and a naïve Bayes classifier. The inference system focused on the knowledge interpretation by translating a Bayesian classifier into a set of classification rules. The results obtained for the risk inference in a corn-crop field are presented and discussed.     

Inference in Bayesian Networks with Recursive Probability Trees: Data Structure Definition and Operations

Recursive probability trees (RPTs) are a data structure for representing several types of potentials involved in probabilistic graphical models. The RPT structure improves the modeling capabilities of previous structures (like probability trees or conditional probability tables). These capabilities can be exploited to gain savings in memory space and/or computation time during inference. This paper describes the modeling capabilities of RPTs as well as how the basic operations required for making inference on Bayesian networks operate on them. The performance of the inference process with RPTs is examined with some experiments using the variable elimination algorithm.