基于遗传算法的Bayesian网结构学习研究

从不完备数据中学习网络结构是Bayesian网学习的难点之一,计算复杂度高,实现困难。针对该问题提出了一种进化算法。设计了结合数学期望的适应度函数,该函数利用进化过程中的最好Bayesian网把不完备数据转换成完备数据,从而大大简化了学习的复杂度,并保证算法能够向好的结构不断进化。此外,给出了网络结构的编码方案,设计了相应的遗传算子,使得该算法能够收敛到全局最优的Bayesian网结构。模拟实验结果表明,该算法能有效地从不完备数据中学习。     

由Markov网到Bayesian网

Markov网（马尔可夫网）是类似于Bayesian网（贝叶斯网）的另一种进行不确定性揄的有力工具，Markov网是一个无向图，而Bayesian网是一个有向无环图，发现Markov网不需要发现边的方向，因此要比发现Bayesian网容易得多，提出了一种通过发现Markov网得到等价的Bayesian网的方法，首先利用信息论中验证信息独立的一个重要结论，提出了一个基于依赖分析的边删除算法发现Markov网，该算法需O（n^2)次CI（条件独立）测试，CI测试的时间复杂度取决于由样本数据得到的联合概率函数表的大小，经证明，假如由样本数据得到的联合概率函数严格为正，则该算法发现的Markov网一定是样本的最小L图，由发现Markov网，根据表示的联合概率函数相等，得到与其等价的Bayesian网。     

Bayesian网中的独立关系

1 引言在不确定性下进行推理和做出决策的能力是智能行为的基础。在过去几十年中,大量研究人员尝试了多种方法研究不确定性知识的表示和运用,其中有证据理论模型、确定性因子、PROSPECTER模型、模糊集理论以及近年来逐渐成为主流的Bayesian网等。Bayesian网是图形表示方式和概率知识的有机结合.它揭示领域对象的内在结构,是复杂联合概率分布的紧凑表示方式。其坚实的理论基础、知识结构的自然表述方式、灵活的推理能力、方便的决策机制及有效的学习能力使其应用范围越来越广泛。首先说明文中不同变量的含义。如果没有特殊说明,文中大写字母X,Y,Z表示随机变量;小写字母x,y,z表示随机变量的取值;val(X)表示随机变量X的取值范围;黑体X,Y,Z表示随机变量的集合。 Bayesian网是一个有向非循环图,图中节点与知识领域的随机变量一一对应(文中不区分节点与变     

基于保留策略的Bayesian网优化算法

提出了一种基于保留策略的Bayesian网优化算法。算法中通过学习Bayesian网络自动获取进化过程中各基因之间的依赖关系及分布描述,以便更好地指导算法的进化,并利用保留的父辈中间群体扩充学习数据集规模,解决了Bayesian网学习可靠性与较大群体规模之间的矛盾。实验表明,算法能够在有效收敛的前提下降低对群体规模的要求,具有较高的学习效率。     

贝叶斯网等价类学习算法

贝叶斯网用一种紧凑的形式表示联合概率分布,具有完备的语义和坚实的理论基础,目前已成为人工智能领域处理不确定性问题的最佳方法之一。贝叶斯网学习是其关键问题,传统学习方法存在如下不足：（1）随节点数增多非法结构以指数级增加,影响学习效率;（2）在等价结构之间进行打分搜索,影响收敛速度;（3）假设每个结构具有相同的先验概率,造成等价类中包含结构越多则先验概率越高。本文提出一种学习马尔科夫等价类算法,该算法基于骨架空间进行状态转换,利用从骨架空间到等价类空间的映 映射关系实现学习贝叶斯网等价类。实验数据证明,该方法可有效缩小搜索空间规模,相对于在有向图空间搜索的算法加快了算法的收敛速度,提高了执行效率。     

Bayesian网的独立性推广模型

要本文提出了Bayesian同的独立性推广模型。Bayesian同能够表示变量之间概率影响关系与条件独立性,但不能表示因果独立性。虽然Noisy OR模型能够较好地表示变量之问的因果独立性,但该模型又因只能表示因果独立性而具有很大的局限性。本文提出的独立性推广模型解决了Bayesian同因果独立性表示能力不足的问题,扩展了Bayesian同与Noisy OR模型的表示范围,同时简化了Bayesian同的条件概率表,并且新模型更能够反映变量之间的概率影响关系。实验结果表明了该模型的实用性。     

基于遗传算法的Bayesian网中连续变量离散化的研究

文中如何从含有离散变量和连续变量的混合数据中学习Bayesian网进行了研究，提出了一种基于遗传算法的连续变量散化算法，在该处中给出了兼顾离散模型准确度和复杂度的适应度函数；并基于对离散化的实质性分析，定义了离散策略等价的概念，由此制定了离散策略的编码方案；进一步设计了变换离散策略的遗传算法。算法不存在局部极值问题，且不需要事先给定变量序关系，模拟实验结果表明，该算法能有效地对连续变量散化，从而使得从混合数据中学到的Bayesian网具有较好性能。     

基于遗传算法的Bayesian网结构增量学习的研究

已建成的Bayesian网与领域环境间可能存在较大偏差,加之领域本身固有的动态变化特性,因此在观察到新数据时,改善Bayesian网的性能和优化网络结构是十分必要的.提出了一种基于遗传算法的Bayesian网(包含结构和参数)求精算法.该算法基于上次的求精结果把已有的不完备数据转化成完备数据,以期望充分统计因子作为已有数据的主要存储形式,基于本次求精过程中的当前最佳个体对新数据进行完备化,并由遗传操作综合利用新数据和已有数据进行求精.模拟实验结果表明,该增量学习算法能较有效地从不完备数据中求精Bayesian网.     

基于Bayesian网络理论的远程查询系统

对Bayesian网及其概率推理进行了简述,提出并实现了一种以Bayesian理论为基础的查询方法,重点介绍Bayesian网络简化、扩展关系表、功能及概率推理算法。举例说明了系统运行的过程。     

基于分层递阶商空间链的图连通性研究

图连通性的判定对于路径规划中任意两点间路径相通性判断以及连通块的划分都具有重要意义。从节点的边连通关系着手分析图的结构层次,通过构建图的分层递阶商空间链,分析不同层次商空间链中各节点分布情况,得出新的图连通性判定方法。与以往各判定方法相比,该方法具有易实现、效率高的优点,不仅能有效地判定图是否连通,还能确定图的连通分支数以及哪些节点位于同一连通分支中。     

贝叶斯推理在攻击图节点置信度计算中的应用

网络攻击图是根据观测到的攻击证据推测网络安全状态的理想模板.现有的攻击图节点置信度计算方法或在模型通用性、计算复杂度方面存在一定不足,或又过多依靠经验公式进行推理而缺乏严密的数学理论支撑.为此,提出一种基于贝叶斯推理的攻击图节点置信度计算方法.方法对似然加权法进行了改进,以支持攻击证据之间的时间偏序关系.实验结果表明,该方法能够有效提高节点置信度的计算准确性,且具有线性计算复杂度,适合于处理大规模攻击图节点置信度的实时计算问题.     

基于图卷积的异质网络节点分类方法

图神经网络能够有效学习网络语义信息,在节点分类任务上取得了良好的效果.但仍面临挑战：如何充分利用异质网络丰富语义信息和全面结构信息使节点分类更精准.针对上述问题,提出了一种基于图卷积的异质网络节点分类框架(heterogeneous network node classification framework, HNNCF),包括异质网络约简和图卷积节点分类,解决异质网络节点分类问题.通过设计转换规则约简异质网络,将异质网络化简为语义化同质网络,利用节点间的关系表示保留异质网络多语义信息,降低网络结构建模复杂度;基于消息传递框架设计图卷积节点分类方法,在语义化同质网络上学习无1-sum约束的邻居权重等网络结构信息,深入挖掘关系语义特征,发现不同连接关系和邻居语义提取的差异性,生成节点的异质语义表示用于节点分类,识别节点类别标签.在3个公开的节点分类数据集上进行了实验,结果表明HNNCF能够充分利用异质网络多种语义信息,有效学习邻居节点权重等网络结构信息,提升节点分类效果.     

基于贝叶斯攻击图的网络入侵意图识别方法

现有入侵意图识别方法对报警证据的有效性缺乏考虑,影响了入侵意图识别的准确性。为此提出基于贝叶斯攻击图的入侵意图识别方法。首先建立贝叶斯攻击图模型,然后通过定义报警的置信度及报警间的关联强度,去除低置信水平的孤立报警;根据提取到的有效报警证据进行贝叶斯后验推理,动态更新攻击图中各状态节点遭受攻击的概率,识别网络中已发生和潜在的攻击行为。实验结果表明,该方法能有效提取报警证据,提高网络入侵预测的准确性。     

基于贝叶斯网络的故障诊断专家系统

现代系统设备的日趋复杂化和自动化,对故障诊断技术提出了更高的要求;随着人工智能技术的发展,故障诊断技术向智能化方向发展,如何将人工智能技术应用到故障诊断中去,是当前研究的重点;为了实现对汽车发动机已发故障和潜在故障的快速高效诊断,根据发动机故障知识结构特性,将贝叶斯网络因果有向图的故障知识表示方法引入到专家系统中,并采用可在线监控和离线诊断的推理机制,在G2平台下实现了汽车发动机故障诊断专家系统,系统应用的效果表明了该方法的可行性.     

基于图神经网络的机会网络节点重要度评估方法

机会网络(opportunistic network)是一种利用节点移动的相遇机会实现通信的自组织网络,机会式的通信方式导致其具有时变性与动态性,节点重要度的评估是研究机会网络信息传播的关键.提出一种基于图神经网络的机会网络节点重要度评估方法.将机会网络进行时间切片,对得到的机会网络单元采用聚合图建模,以表征网络信息;采用动态网络嵌入模型提取机会网络单元间的时序变化信息、拓扑结构信息,得到网络的动态属性特征;借助图神经网络(graph neural network, GNN)在图数据处理上的优势,获得网络动态属性特征与节点重要度之间的映射关系,实现节点重要度的评估.在3个真实机会网络数据集MIT,Haggle,Asturias-er上的实验结果表明：相比于时效介数(temporal betweeness, TB)方法、时效度(temporal degree, TD)方法、时效PageRank(temporal PageRank和f-PageRank)方法以及kshell-CN方法,该方法具有更快的消息传播速率和更大的消息覆盖范围,其SIR和NDCG@10指标更优.     

KENN: 线性结构熵的图核神经网络

图神经网络(graph neural network, GNN)是一种利用深度学习直接对图结构数据进行表征的框架,近年来受到人们越来越多的关注.然而传统的基于消息传递聚合的图神经网络(messaging passing GNN, MP-GNN)忽略了不同节点的平滑速度,无差别地聚合了邻居信息,易造成过平滑现象.为此,研究并提出一种线性结构熵的图核神经网络分类方法,即KENN.它首先利用图核方法对节点子图进行结构编码,判断子图之间的同构性,进而利用同构系数来定义不同邻居间的平滑系数.其次基于低复杂度的线性结构熵提取图的结构信息,加深和丰富图数据的结构表达能力.通过将线性结构熵、图核和图神经网络三者进行深度融合提出了图核神经网络分类方法.它不仅可以解决生物分子数据节点特征的稀疏问题,也可以解决社交网络数据以节点度作为特征所产生的信息冗余问题,同时还使得图神经网络能够自适应调整对图结构特征的表征能力,使其超越MP-GNN的上界(WL测试).最后,在7个公开的图分类数据集上实验验证了所提出模型的性能优于其他的基准模型.     

构建贝叶斯网络本质图的新方法

等价类学习是贝叶斯网络结构学习的一个重要分支,而本质图是贝叶斯网络等价类的图形表示,是进行等价类学习的有力工具。针对求解贝叶斯网络结构本质图存在的繁琐问题,提出了一种构建贝叶斯网络本质图的组合算法。该算法从初始非循环有向图开始,对所有有向边进行排序,保持V-结构中的边不变,将不参与V-结构的有向边转化为无向边,依次根据三条规则判定各条无向边在本质图中的方向。给出了算法的理论证明,通过具体案例分析验证了算法的有效性。     

基于Bayes网的软件失效预测模型

Owing to the complexity of software development,the software reliability model should not only have the capability of dealing with multiple complex factors,but also provide the furtction of flexibility in construction.So far,no software reliability model is universally applicable.The main reason for this is of too many conditions ,thus making software reliability models introvert.Bayesian network is a powerful tool for solving this problem,which exhibits strong adaptability in dealing with problems involving complex variant factors.In the paper,software failure predication model based oft Markov.Bayesian network is established and analyzed thoroughly.Then a method of solving the model is given.Finally,through an example the validity of the model is validated.     

基于Jaya的贝叶斯网络结构学习算法研究

基于评分搜索的贝叶斯网络结构学习算法通常需要调参,导致计算量增大且不当的参数易使算法陷入局部最优。针对这一问题,将无需调参的Jaya算法应用于贝叶斯网络结构学习。在Jaya算法的框架下,结合遗传算法的交叉变异思想重新设计了个体更新策略,使Jaya算法能够应用于结构学习这一离散优化问题,并结合马尔科夫链的相关理论讨论了所提算法的敛散性。实验结果表明,该算法能有效应用于贝叶斯网络结构学习。