面向制造领域人机物三元数据融合的本体自动化构建方法

当前,智能制造面临的许多问题都具有不确定性和复杂性,单纯地利用专家经验和机理模型难以有效解决.鉴于此,面向跨层跨域的复杂制造系统网络化协同控制机制,提出一种基于本体的人机物三元数据融合方法,研究复杂制造环境下的人机物三元数据融合建模.在抽取三元组时,区别于传统的流水线式抽取方式,提出一种基于实体-关系联合抽取的模型ErBERT.该模型首先经过预训练模型BERT进行词序列化,经过最大池化、全连接和Softmax等操作后,完成实体识别和关系分类任务,得到抽取完毕的人机物三元组.将抽取好的三元组按照规则映射至OWL文件,最终存储在图数据库中,实现本体模型的构建.经实验验证,经过ErBERT抽取出的三元组有较好的准确率,能够达到通过本体融合人机物三元数据的目标,并为实现制造企业人机物三元协同决策与优化提供技术支撑.     

融合实体描述及类型的知识图谱表示学习方法

知识图谱在很多人工智能领域发挥着越来越重要的作用。知识图谱表示学习旨在将三元组中的实体和关系映射到低维稠密的向量空间。TransE、TransH和TransR等基于翻译操作的表示学习方法,只考虑了知识图谱的三元组信息孤立的学习表示,未能有效利用实体描述、实体类型等重要信息,从而不能很好地处理一对多、多对多等复杂关系。针对这些问题,该文提出了一种融合实体描述及类型的知识图谱表示学习方法。首先,利用Doc2Vec模型得到全部实体描述信息的嵌入;其次,对实体的层次类型信息进行表示,得到类型的映射矩阵,结合Trans模型的三元组嵌入,得到实体类型信息的表示;最后,对三元组嵌入、实体描述嵌入及实体类型嵌入进行连接操作,得到最终实体嵌入的表示,通过优化损失函数训练模型,在真实数据集上分别通过链接预测和三元组分类两个评测任务进行效果评估,实验结果表明新方法优于TransE、TransR、DKRL、SimplE等主流模型。     

一种融合主题特征的自适应知识表示方法

基于翻译的表示学习模型TransE被提出后,研究者提出一系列模型对其进行改进和补充,如TransH、TransG、TransR等。然而,这类模型往往孤立学习三元组信息,忽略了实体和关系相关的描述文本和类别信息。基于主题特征构建TransATopic模型,在学习三元组的同时融合关系中的描述文本信息,以增强知识图谱的表示效果。采用基于主题模型和变分自编器的关系向量构建方法,根据关系上的主题分布信息将同一关系表示为不同的实值向量,同时将损失函数中的距离度量由欧式距离改进为马氏距离,从而实现向量不同维权重的自适应赋值。实验结果表明,在应用于链路预测和三元组分类等任务时,TransATopic模型的MeanRank、HITS@5和HITS@10指标较TransE模型均有显著改进。     

融合实体类型信息的本体-实例联合学习方法

对表示知识图谱的本体图和实例图进行联合学习能够提高嵌入学习效率,但不能区别表示实体在不同场景下的不同意义。在嵌入时考虑三元组中实体的关系类型特征,提出一种融合实体类型信息的本体-实例联合学习方法JOIE-TKRL-CT,达到在联合学习中表示多义实体、提高知识图谱嵌入学习效率的目的。在视图内部关系表示上,利用实体分层类型模型融入实体类型信息,在两个独立的嵌入空间中分别表征学习;在视图间关系表示上,将表征在两个独立空间的本体和实例通过非线性映射的方法跨视图链接。基于YAGO26K-906和DB111K-174数据集的实验结果表明,JOIE-TKRL-CT能够准确捕获知识图谱的实体类型信息,提高联合学习模型性能,与TransE、HolE、DisMult等基线模型相比,其在实例三元组补全和实体分类任务上均获得最优性能,具有较好的知识学习效果。     

基于实体语义扩展的跨境民族文化文本检索

由于跨境民族相关的文化实体常出现相同实体具有不同名称表达的情况,使用当前主流的文本检索方法在跨境民族文化数据集上将面临语义稀疏的问题。该文提出一种基于实体语义扩展的跨境民族文化检索方法,利用跨境民族文化知识图谱,以知识三元组的形式将跨境民族文化之间的实体关联起来,并添加实体类别标签,以此缓解跨境民族文化实体中语义信息不充分的问题。通过TransH模型对实体及扩展语义信息进行向量化表示,融合到查询文本中进行语义增强,以此提升跨境民族文化文本检索的准确性。实验结果表明,该方法比基线模型提高了5.4%。     

融合实体描述信息和邻居节点特征的知识表示学习方法

知识图谱表示学习旨在将实体和关系映射到一个低维稠密的向量空间中。现有的大多数相关模型更注重于学习三元组的结构特征,忽略了三元组内的实体关系的语义信息特征和三元组外的实体描述信息特征,因此知识表达能力较差。针对以上问题,提出了一种融合多源信息的知识表示学习模型BAGAT。首先,结合知识图谱特征来构造三元组实体目标节点和邻居节点,并使用图注意力网络（GAT）聚合三元组结构的语义信息表示;然后,使用BERT词向量模型对实体描述信息进行嵌入表示;最后,将两种表示方法映射到同一个向量空间中进行联合知识表示学习。实验结果表明,BAGAT性能较其他模型有较大提升,在公共数据集FB15K-237链接预测任务的Hits@1与Hits@10指标上,与翻译模型TransE相比分别提升了25.9个百分点和22.0个百分点,与图神经网络模型KBGAT相比分别提升了1.8个百分点和3.5个百分点。可见,融合实体描述信息和三元组结构语义信息的多源信息表示方法可以获得更强的表示学习能力。     

融合实体类别信息的知识图谱表示学习

知识图谱表示学习通过将实体和关系嵌入连续低维的语义空间中,获取实体和关系的语义关联信息。设计一种融合实体类别信息的类别增强知识图谱表示学习（CEKGRL）模型,构建基于结构与基于类别的实体表示,通过注意力机制捕获实体类别和三元组关系之间的潜在相关性,结合不同实体类别对于某种特定关系的重要程度及实体类别信息进行知识表示学习。在知识图谱补全和三元组分类任务中的实验结果表明,CEKGRL模型在MeanRank和Hit@10评估指标上均取得明显的性能提升,尤其在实体预测任务的Filter设置下相比TKRL模型约分别提升了23.5%和7.2个百分点,具有更好的知识表示学习性能。     

用于知识表示学习的对抗式负样本生成

知识表示学习目的是将知识图谱中符号化表示的关系与实体嵌入到低维连续向量空间。知识表示模型在训练过程中需要大量负样本,但多数知识图谱只以三元组的形式存储正样本。传统知识表示学习方法中通常使用负采样方法,这种方法生成的负样本很容易被模型判别,随着训练的进行对性能提升的贡献也会越来越小。为了解决这个问题,提出了对抗式负样本生成器（ANG）模型。生成器采用编码-解码架构,编码器读入头或尾实体被替换的正样本作为上下文信息,然后解码器利用编码器提供的编码信息为三元组填充被替换的实体,从而构建负样本。训练过程采用已有的知识表示学习模型与生成器进行对抗训练以优化知识表示向量。在链接预测和三元组分类任务上评估了该方法,实验结果表明该方法对已有知识表示学习模型在FB15K237、WN18和WN18RR数据集上的链接预测平均排名与三元组分类准确度都有提升。     

基于卷积神经网络的知识图谱补全方法研究

知识图谱是事实三元组的集合,其表示形式为(头实体,关系,尾实体)。为了补全知识图谱中缺失的实体和关系,提出一种基于卷积神经网络的知识图谱补全方法。使用传统嵌入模型训练三元组,得到实体向量和关系向量;将三元组表示成3列矩阵,作为卷积神经网络的输入,卷积后得到三元组的特征表示图;连接所有特征图和权重向量进行点乘得到每个三元组的得分,得分越低证明三元组越正确。实验采用数据集WN18RR、FB15K-237、FB15K分别进行链接预测和三元组分类实验。实验结果表明,与其他方法相比,该方法在Mean Rank和Hit@10指标上都取得了更好的实验结果,证明其可以有效提高三元组预测精度。     

基于知识增强的命名实体识别方法研究

命名实体识别作为自然语言处理中一项十分基础的任务，其目的是从一段用自然语言描述的文本中识别出相应的实体及类型。知识图谱作为以三元组形式存在的外部知识，已经在很多自然语言处理任务中得以应用并取得了良好效果。文中提出了一种基于知识图谱信息增强的注意力对齐命名实体识别方法，首先通过嵌入层和注意力机制嵌入知识图谱信息，获取知识图谱三元组信息的表示；其次通过BERT-BiLSTM获取句子的上下文表示；然后通过一种注意力对齐模块分配三元组权重融合知识图谱信息与句子信息的表示；最后通过softmax控制融合后的表示向量的预测输出，进而获取实体的标签。该方法有效避免了因知识图谱的融合而改变原句子的语义信息，同时也使得句子中的词向量具有丰富的外部知识。所提方法在中文通用数据集MSRA和医疗领域专用数据集Medicine上的F1值分别达到了95.73%和93.80%,相比基线模型提升了1.21%和1.3%。     

基于对抗学习和全局知识信息的关系检测技术研究

针对现有的知识库关系检测任务对于一些不可见关系无法做到准确的向量表示而出现词汇溢出的问题,提出了基于对抗学习和全局知识信息的关系检测模型。该模型使用对抗学习对知识库关系表示模型进行特征强化,使用TransH(translating on hyperplanes)模型提取全局知识信息,同时通过联合训练,将全局知识信息融合进关系表示模型中,进一步提升关系模型的表示能力。实验结果表明,提出的融合模型对于关系检测效果有一定的提升,并且缓解了词汇溢出的问题。     

受限本体相似

在从不同的语义Web上得到用本体表达的文档资源以后,这些文档资源通常被转换成基于同一个本体的本体描述,这样既便于对文档的分析,又便于在此基础上进行信息抽取.这些文档本体之间仅仅在实例和关系层上彼此相互不同,在类、属性、规则、谓词方面都基本相同.对这种文档的检索,一个最普通的操作就是计算本体之间的相似性.很多计算本体相似性的方法基本上都是以分别属于不同本体的实体之间配对比较来实现,而且往往要考虑所有相关的元素.这不仅增加了计算复杂度,还会遇到循环计算的问题.在对语义网本体语言的推理能力进行研究以后,提出了一种基于知识推理的二阶本体相似技术,解决了循环计算的问题.     

语义Web中的本体匹配研究

随着本体应用的快速发展,本体数量大幅增长,这些本体描述的内容存在重复和关联,但在本体模式上却表现各异。本体匹配旨在识别异构本体中存在语义关联的实体,并建立它们之间匹配关系。它对于消除本体异构、实现本体集成和数据融合等具有重要作用。形式化定义了语义Web中的本体匹配问题,并从本体匹配方法、本体匹配挑战和本体匹配原型系统3个方面调研了最新研究进展,旨在为进一步研究指明方向。     

基于通用属性表达同类实体间联系的应用

针对关系模型不能很好表达同类实体之间的联系问题，本文提出了一种基于关系模型理论基础上的通用属性表达法，并给出了相应的实际应用例子。     

Reasoning of fuzzy relational databases with fuzzy ontologies

A significant interest developed regarding the problem of describing databases with expressive knowledge representation techniques in recent years, so that database reasoning may be handled intelligently. Therefore, it is possible and meaningful to investigate how to reason on fuzzy relational databases (FRDBs) with fuzzy ontologies. In this paper, we first propose a formal approach and an automated tool for constructing fuzzy ontologies from FRDBs, and then we study how to reason on FRDBs with constructed fuzzy ontologies. First, we give their respective formal definitions of FRDBs and fuzzy Web Ontology Language (OWL) ontologies. On the basis of this, we propose a formal approach that can directly transform an FRDB (including its schema and data information) into a fuzzy OWL ontology (consisting of the fuzzy ontology structure and instance). Furthermore, following the proposed approach, we implement a prototype construction tool called FRDB2FOnto. Finally, based on the constructed fuzzy OWL ontologies, we investigate how to reason on FRDBs (e.g., consistency, satisfiability, subsumption, and redundancy) through the reasoning mechanism of fuzzy OWL ontologies, so that the reasoning of FRDBs may be done automatically by means of the existing fuzzy ontology reasoner.© 2012 Wiley Periodicals, Inc.     

基于知识图谱的智能问答意图识别联合模型

针对现有意图识别联合模型在专业领域知识图谱问答中容易发生识别领域实体以及问句分类错误的情况,提出一个结合了领域知识图谱的意图识别联合模型。该模型有三步,将领域知识图谱中实体对应的本体标签以及本体间关系导入训练数据集,形成包含本体标签的知识文本以及额外包含本体关系的知识文本图;通过字符级嵌入和位置信息嵌入将包含了本体标签的知识文本转化成嵌入表示并依据知识文本图创建实体关系可视矩阵,明确知识文本各成分的相关程度;将嵌入表示和实体关系可视矩阵输入模型编码层进行模型的训练。以高速列车领域知识图谱为例,经过准确率和召回率的验证,以该方法训练出的模型在高速列车领域问答数据集的意图识别任务上取得了更好的表现。     

基于描述逻辑的物资管理领域本体模型研究

为解决企业异构数据的共享问题, 提出利用本体模型和描述逻辑对元数据进行形式化的方法, 通过形式化元数据交互实现异构数据的共享。以大型单件小批制造企业为研究对象, 首先对物资管理领域数据模型进行分析, 抽象出相关概念类构建领域本体模型。然后, 结合描述逻辑对物资管理领域本体模型进行形式化描述。最后, 以领料申请为实例说明物资管理领域本体模型在异构数据共享中的应用。实证表明, 构建的本体模型能有效解决企业异构数据的共享问题。模型具有一定的通用性可重用于企业的其他主题领域, 为企业业务信息的无歧义共享提供了一种有效途径。     

基于图卷积网络的多源本体相似度计算方法

在信息时代,数据量呈指数式增长,而不同数据源存在难以统一表示的异构问题,给数据共享、重用造成不便。语义网络的迅速发展,使本体映射成为解决该问题的有效手段,其核心是本体相似度计算,提出了一种基于图卷积网络的计算方法。将本体建模为异构图网络,再使用图卷积网络学习文本嵌入规则,得到全局统一表示,完成多源数据的融合。实验结果表明,所提方法计算准确性高于其他传统方法,有效地提高了多源数据融合的准确度。     

Methodology and intermediate layer for the automatic creation of ontology instances stored in relational databases

In this paper, we introduce our solution for mapping local ontologies to relational and object‐oriented representations. This solution is part of the GeoNis framework for the interoperability of geo‐information systems applications in a local community environment. The GeoNis framework is based on a hybrid ontology approach for data integration. Therefore, a very important subject in our research on semantic data integration is the creation of mapping between a spatial information source and its local ontology. We developed the OWL2RDB mapping language to create an intermediate layer between a relational database and the OWL ontology. This intermediate layer contains rules (expressed in the OWL2RDB language) for mapping between the structural elements of a relational database and the concepts of OWL ontologies. We also present a system that uses the OWL2RDB intermediate layer to create classes that can handle ontology instances stored in relational databases. We have developed a prototype for a tool that uses this proposed approach for the automatic generation of translator/wrapper components in the GeoNis interoperability environment. Copyright © 2012 John Wiley & Sons, Ltd.