统计关系学习模型Markov逻辑网综述

统计关系学习是人工智能研究的热点,在生物信息学、地理信息系统和自然语言理解等领域有着重要应用,Markov逻辑网是将Markov网与一阶逻辑相结合的一种全新的统计关系学习模型。介绍了Markov逻辑网的理论模型和学习方法,并探讨了目前存在的问题和研究方向。     

Markov逻辑网及其在文本分类中的应用

介绍了Markov逻辑网的理论模型、学习算法和推理算法,并将其应用于中文文本分类中.实验结合了判别式训练的学习算法,MC-SAT、吉布斯抽样和模拟退火等推理算法,结果表明基于Markov逻辑网的分类方法能够取得比传统K邻近(KNN)分类算法更好的效果.     

基于最大间隔马尔可夫网模型的汉语分词方法

分词是汉语自然语言处理研究中非常重要的一个环节,在早先的研究中,最大熵模型和条件随机场(CRF)模型已经广泛运用到汉语自动分词的工作中。最大间隔马尔可夫网(M3N)模型是近年来由B.Taskar等^[1]人提出的一种新型结构学习模型。该文尝试将这一模型用于汉语分词建模并进行实验,实验结果显示,基于给定的训练语料与测试语料,分词精度可以达到95％,表明基于最大间隔马尔科夫网的汉语分词方法可以取得较高的分词精度,是一种有效的汉语分词方法。     

Markov逻辑网在链接预测中的应用*

链接预测是对实体间的关系进行预测,是一个重要而复杂的任务。传统同类独立同概率分布的方法会带来很大的噪音,导致预测效果很差。将Markov逻辑网应用到链接预测中,旨在改善这一问题。Markov逻辑网是将Markov网与一阶逻辑结合的统计关系学习方法。利用Markov逻辑网构建关系模型,对实体之间是否存在链接关系以及当链接关系存在时预测此链接关系的类型。针对两个数据集的实验结果显示了采用Markov逻辑网模型要比传统链接预测模型有更好的效果,进而为Markov逻辑网解决实际问题提供了依据。     

逻辑马尔可夫决策编程和关系马尔可夫决策编程若干最新进展

逻辑马尔可夫决策过程和关系马尔可夫决策过程的引入,使得人们可能简洁地、陈述地表达复杂的马尔可夫决策过程。本文首先介绍有关逻辑马尔可夫决策过程和关系马尔可夫决策过程的概念,然后重点介绍它们与普通的马尔可夫决策过程根本不同的一些算法：①依赖于基本状态空间RL的转换法;②把Bellman方程推广到抽象状态空间的方法;③利用策略偏置空间寻求近似最优策略方法。最后对它们的研究现状进行总结及其对它们发展的一些展望。     

基于多重马尔可夫Bayes网的软件失效预测模型

软件开发的复杂性决定了理想的软件可靠性模型既应具有包容众多复杂因素的能力,又要有构造灵活的功能。迄今为止,人们提出的众多模型,由于设定了很多近乎苛刻的条件,使它们难以具有普适性。Bayes网提供了解决这一问题的有力工具,论文就利用多重马尔可夫Bayes网建立起基于Bayes网的软件失效预测模型,并对此进行了详细的分析,给出了模型的求解步骤。最后,通过实例验证了该模型的有效性。     

领域知识学习中的马尔可夫逻辑网应用研究

现有的知识学习多基于统计方法,常常忽略了知识间的关系以及随时间的变化情况,在应用效果方面往往差强人意。如何准确把握知识间的统计关系,进行正确的知识学习,成为知识研究的一个重点和难点。近几年,随着统计关系学习研究的兴起,结合概率图模型和一阶逻辑理论的马尔可夫逻辑网被成功应用于自然语言处理、机器学习、社会关系分析等领域中。基于马尔可夫逻辑网技术,提出一种知识学习方法,在传统知识获取方法的基础上,引入一阶逻辑来学习知识间的关系,进行逻辑推理。在文本分类的应用实验中,通过对分类知识学习,与传统的SVM相比,所提出方法的准确率提高10%左右。     

马尔可夫逻辑网络研究

马尔可夫逻辑网络是将马尔可夫网络与一阶逻辑相结合的一种统计关系学习模型,在自然语言处理、复杂网络、信息抽取等领域都有重要的应用前景.较为全面、深入地总结了马尔可夫逻辑网络的理论模型、推理、权重和结构学习,最后指出了马尔可夫逻辑网络未来的主要研究方向.     

基于马尔可夫逻辑网的联合推理开放信息抽取

在自然语言处理的几个子任务上,传统的方法都是分而治之,例如分词、句法分析、命名实体识别、实体关系识别等。但是,孤立地分析和处理这些子任务会丢失一些彼此之间的内在联系,而这些子任务之间的内在联系往往会对每个子任务有很大帮助。所以,有人提出用联合集成式的模型,从整体上解决这些问题。但是,这些模型都只针对特定领域内的数据进行处理,还未能对开放式的信息进行处理。因此,提出了基于马尔可夫逻辑网的联合推理模型来处理开放式信息抽取(Open IE)。经过大量的实验证明,该模型的执行效率明显高于传统的模型。同时,该模型的适应性更好。     

基于补充变量的非马尔可夫随机Petri网及其应用

针对非马尔可夫随机Petri网提出了一种补充变量引入方法，使其适合于系统共享维修资源情况下的可靠性分析。研究了基于补充变量的非马尔可夫随机Petri网的分析方法，以一并行系统为例说明该方法的建模过程、求解方法以及可靠性指标表达式，并以指数分布为例进行了方法验证，验证表明该方法是可行性的。     

Cost-sensitive learning with conditional Markov networks

There has been a recent, growing interest in classification and link prediction in structured domains. Methods such as conditional random fields and relational Markov networks support flexible mechanisms for modeling correlations due to the link structure. In addition, in many structured domains, there is an interesting structure in the risk or cost function associated with different misclassifications. There is a rich tradition of cost-sensitive learning applied to unstructured (IID) data. Here we propose a general framework which can capture correlations in the link structure and handle structured cost functions. We present two new cost-sensitive structured classifiers based on maximum entropy principles. The first determines the cost-sensitive classification by minimizing the expected cost of misclassification. The second directly determines the cost-sensitive classification without going through a probability estimation step. We contrast these approaches with an approach which employs a standard 0/1-loss structured classifier to estimate class conditional probabilities followed by minimization of the expected cost of misclassification and with a cost-sensitive IID classifier that does not utilize the correlations present in the link structure. We demonstrate the utility of our cost-sensitive structured classifiers with experiments on both synthetic and real-world data.     

一种基于Markov逻辑网的中文地理名称实体解析方法

根据Markov逻辑网融合一阶谓词逻辑和概率图模型的复杂性及不确定性处理能力的优点,提出将Markov逻辑网和基于本体与WEB搜索的属性抽取算法相结合的命名实体解析方法(MLN_AENER),解决一般基于Markov逻辑网的实体解析方法对非结构化的命名实体解析效果不佳的问题,并将该方法针对中文地理名称解析问题进行相应设计和实验。实验结果表明该方法具有较好的解析效果。     

Markov逻辑网在基于信任的推荐系统中的应用

基于信任的推荐系统是利用信任的实体进行项目推荐,然而信任是一个复杂的概念,对信任进行传播和预测是一项重要的任务。提出了用一种统计关系模型——Markov逻辑网来表示信任的传递性质,讨论了Markov逻辑网的理论模型,通过其推理算法预测信任关系,实验结果表明,在基于信任的推荐系统中Markov逻辑网方法比MoleTrust方法在推荐精度和解决冷用户问题上有更好的效果。     

基于Markov逻辑网的虚假评论识别方法

为解决虚假评论识别的问题,该文提出一种基于Markov逻辑网的虚假评论识别方法。首先,对虚假评论内容和评论者行为的特点进行分析,选取评论内容特征和评论者行为特征;然后,根据特征定义一阶逻辑谓词和逻辑公式,并介绍了权重学习和推理的过程;最后,进行了对比实验,结果表明该方法的虚假评论识别取得了较好的效果。
     

The Relational Structure of Belief Networks

This paper demonstrates the relational structure of belief networks by establishing an extended relational data model which can be applied to both belief networks and relational applications. It is demonstrated that a Markov network can be represented as a generalized acyclic join dependency (GAJD) which is equivalent to a set of conflict-free generalized multivalued dependencies (GMVDs). A Markov network can also be characterized by an entropy function, which greatly facilitates the manipulation of GMVDs. These results are extensions of results established in relational theory. It is shown that there exists a complete set of inference rules for the GMVDs. This result is important from a probabilistic perspective. All the above results explicitly demonstrate that there is a unified model for relational database and probabilistic reasoning systems. This is not only important from a theoretical point of view in that one model has been developed for a number of domains, but also from a practical point of view in that one system can be implemented for both domains. This implemented system can take advantage of the performance enhancing techniques developed in both fields. Thereby, this paper serves as a theoretical foundation for harmonizing these two important information domains.