知识图谱平台综述

近年来,知识图谱被广泛研究和应用。为了能够更加准确、高效地维护知识图谱的全生命周期,以及对知识图谱进行更多复杂的操作,大量知识图谱平台被设计、开发和应用。而开发者通常是基于他们所拥有的知识图谱而进行设计和开发的,缺少对知识图谱平台整体上的认识以及对应用场景特殊性需求的理解。通过调研当前主流的43个知识图谱平台,分别从知识图谱平台的功能、架构和应用三个角度对其进行系统性地分析和研究,旨在使平台开发和使用人员对知识图谱平台有更深入的认识,进而促进知识图谱平台被高效地开发和使用。     

习题内外表示异质融合的知识追踪模型

现有知识追踪研究大多使用习题蕴涵的知识点等内隐信息或历史交互数据等外显信息建模习题表示,没有注意到内外信息的异质性特征,缺乏对习题内外信息的异质融合。针对上述问题,提出了融合内外异质信息的知识追踪模型。首先,基于知识点等内隐信息,计算历史知识点与当前知识点之间的相关程度,刻画历史知识点对当前知识点的影响,建模习题的内隐表示;其次,基于交互数据等外显信息,计算历史习题与当前习题之间的相关程度,获取历史习题对当前习题的影响,建模习题的外显表示;再次,基于上述习题的内外表示,使用通道注意力机制融合得到习题的内外异质表示,从而预测学习者的作答表现。为了验证提出模型的性能和有效性,选取了四个相关的基线模型,在三个真实数据集上进行了对比实验。实验结果表明：在性能方面,提出的模型在多个评价指标上均取得较好的效果;在有效性方面,消融实验证明了提出的模型可以更好地根据内外信息建模习题表示;在应用方面,设计智慧学习环境证明了提出的模型在实际教学场景中的可用性。     

基于外部知识增强的远程监督关系抽取模型

远程监督关系抽取方法旨在高效的构建大规模的监督语料并应用在关系抽取的任务上.但是由于远程监督构建语料的方式,带来了噪声标签和长尾分布两大问题.本文提出了一种新颖的远程监督关系抽取模型架构,与以往的基于管道的训练形式不同,除了句子编码器模块,新添加了外部知识增强模块.通过对知识库中已存在的实体类型与关系进行预处理和编码,为模型提供句包文本所没有的外部知识.有利于缓解数据集中存在部分长尾关系示例不足所导致的信息不足的问题,以及提升了模型对噪声示例的判别能力.通过在基准数据集NYT和GDS上的大量实验,相较于主流最优模型在AUC值上分别提升了0.9%和5.7%,证明了外部知识增强模块的有效性.     

引入知识表示的图卷积网络谣言检测方法

在谣言检测的问题上,现有的研究方法无法有效地表达谣言在社交网络传播的异构图结构特征,并且没有引入外部知识作为内容核实的手段。因此,提出了引入知识表示的图卷积网络谣言检测方法,其中知识图谱作为额外先验知识来帮助核实内容真实性。采用预训练好的词嵌入模型和知识图谱嵌入模型获取文本表示后,融合图卷积网络的同时,能够在谣言传播的拓扑图中更好地进行特征提取以提升谣言检测的精确率。实验结果表明,该模型能够更好地对社交网络中的谣言进行检测。与基准模型的对比中,在Weibo数据集上的精确率达到96.1%,在Twitter15和Twitter16数据集上的F1值分别提升了3.1%和3.3%。消融实验也表明了该方法对谣言检测皆有明显提升效果,同时验证了模型的有效性和先进性。     

面向多方面的双通道知识增强图卷积网络模型

基于方面的情感分析是一项细粒度的情感分析任务,旨在将方面与相应的情感词对齐,以进行特定于方面的情感极性推理。近年来,借助句法依赖信息的图神经网络情感分类方法成为该领域的一个研究热点,但是由于评论语句在内容表达和句法结构上的灵活性,仅利用句法依赖信息的建模方法仍然存在一定的不足。为了发挥情感知识与结构语义信息对评论语句的增强作用,提出一种双通道知识增强图卷积网络模型DualSyn-GCN。一方面根据方面与方面、方面与上下文之间的隐含关系进行句法依赖邻接矩阵的增强,另一方面从外部情感知识对方面的情感依赖进行学习,随后对2种不同增强表示进行融合,从而实现不同表示间的共享与互补。实验结果表明,相较于经典的基于特定方面的图卷积网络模型(ASGCN),该模型在LAP14数据集上的准确率和MF1值分别提升了2.34%和3.26%。     

基于Transformer和双重注意力融合的分层交互答案选择模型

答案选择是问答系统中的关键组成部分,提升其准确性是问答系统研究的重要内容之一。近年来深度学习技术广泛应用于答案选择,获得了良好效果,但仍旧有一定的局限性。其中模型对问题语义信息利用度低、缺乏局部语义重视、句子间交互感知能力差等问题尤为突出。针对上述问题提出了一种基于Transformer和双重注意力融合的答案选择模型NHITAS（new hierarchical interactive Transformer for answer selection）。首先,在信息预处理部分提取问题类别和关键词对答案进行初步筛选,并引入外部知识作为句子额外语义补充;其次,采用分层交互的Transformer对句子进行语义上下文建模,提出了UP-Transformer（untied position-Transformer）和DA-Transformer（decay self-attention-Transformer）两种结构学习语义特征;最后,通过双重注意力融合过滤句子噪声,增强问题和答案之间的语义交互。在WikiQA和TrecQA数据集上对NHITAS的性能进行测试,实验结果表明所提模型对比其他模型,能够有效提升答案选择任务的效果。     

基于知识图谱的双端知识感知图卷积推荐模型

针对现有基于知识图谱的推荐模型仅从用户或项目一端进行特征提取, 从而缺乏对另一端的特征提取的问题, 提出一种基于知识图谱的双端知识感知图卷积推荐模型. 首先, 对于用户、项目及知识图谱中的实体进行随机初始化表征得到初始特征表示; 接着, 采用基于用户和项目的知识感知注意力机制同时从用户、项目两端在知识图谱中进行特征提取; 其次, 使用图卷积网络采用不同的聚合方式聚合知识图谱传播过程中的特征信息并预测点击率; 最后, 为了验证模型的有效性, 在Last.FM和Book-Crossing两个公开数据集上与4个基线模型进行对比实验. 在Last.FM数据集上, AUC和F1分别比最优的基线模型提升了4.4%、3.8%, ACC提升了1.1%. 在Book-Crossing数据集上, AUC和F1分别提升了1.5%、2.2%, ACC提升了1.4%. 实验结果表明, 本文的模型在AUC、F1和ACC指标上比其他的基线模型具有更好的鲁棒性.     

概念知识表示和推理

Nilsson教授首先提出了代数格应用于概念知识表示的思想．其优点在于知识表示的代数特性和图示特性，在此基础上．表文把代数格与PROLOG相结合．定义了一种基于概念的逻辑编程语言．其语言具有比PROLOG更抽象、更方便的编程风格．此外．给出了该逻辑编程语言的匹配算法．     

知识状态神经推理的知识追踪模型

针对知识追踪研究忽略知识点之间的拓扑关系,从而限制了知识点状态的表示并最终影响预测效果的问题,提出一种知识状态神经推理知识追踪模型。首先建立知识点关系图和知识点状态图;其次利用扩散模型得到关系图和状态图的投影并完成融合;然后利用逆扩散过程得到融合了知识点关系的整体知识状态表示;最后预测学习者的表现。在模型有效性方面,在若干数据集上对比四个相关模型,所提模型均取得了一定的优势。在可解释性方面,展示了知识状态进化过程与真实答题结果之间的对应关系。在实际应用方面,以该模型为基础的智慧学习环境已分别应用于一门人工智能课程和英语语法课程,并取得了优于对比模型的结果。     

主从链下的物联网隐私数据跨域安全共享模型

为了解决各个信任应用域之间的跨域安全问题,保证隐私数据的跨域共享,利用区块链技术构建了基于主从链的隐私数据跨域共享模型。首先构建了主从链,并提出基于主从链的跨域共享模型架构;设计了基于智能合约的跨域访问机制,并基于跨域访问机制提出了面向隐私数据的跨域安全共享方案;最后,对模型的稳定性、吞吐量、存储开销等方面进行了实验及对比分析。实验结果表明,该模型同最新的单链跨域模型相比,吞吐量提升了270 TPS左右,节点的平均CPU负载和平均内存开销分别下降了24%和64%;同现有多链跨域模型相比,节点的平均CPU负载和平均内存开销分别下降了15%和20%,为物联网隐私数据的跨域安全共享提供了一种有效方法。     

融合状态关系的知识追踪模型

知识追踪模型建模学习者对每个知识点的状态推断其知识总状态,预测其未来的学习表现。但现有研究在建模知识总状态时,没有融合知识点状态之间的关系,影响了最终的预测效果。针对这一问题,提出一种融合知识点状态关系的知识追踪模型。首先向量化表示数据集中的知识点,构建知识点表示图;其次将知识点表示图扩散至潜式空间以反映其内在结构和本质信息;融合当前时刻的习题与知识点作为引导向量,从知识点表示图的潜式表示中提取知识点状态图;以知识点状态图为基础,推导知识总状态,预测当前习题的表现。通过在三个数据集上对比四个相关模型的实验证明,提出的模型在AUC、ACC和表示质量方面均取得了一定的优势。其中,在 ASSISTments2009数据集上表现最佳,与对比模型中的最优值和最低值比较,AUC分别提升了1.17%、10.57%,ACC分别提升了3.23%、12.17%,表示质量分别提升了1.95%、10.40%。进一步地,可视化地展示了知识点状态及其关系的内部推导过程,以及它们与真实答题结果之间的对应关系,说明模型具备一定的可解释性。同时,将该模型应用于三门课程以预测学生的表现,与相关模型对比取得了更好的结果,说明模型具备一定的实用性。     

时空相关性融合表征的知识追踪模型

知识追踪通过对知识点的表示来描述习题,以此建模知识状态,最终预测学习者的未来表现。然而目前的研究在知识点的表示方面既没有建模历史知识点对当前知识点产生的时间关系上的影响,又未能刻画习题内部各知识点之间产生的空间关系上的作用。为了解决上述问题,提出了时空相关性融合表征的知识追踪模型。首先,以知识点之间的时间相关程度为基础,建模历史知识点对当前知识点的时间作用;其次,利用图注意力网络建模习题所包含的若干知识点之间的空间作用,得到蕴涵了时空信息的知识点表示;最后,利用上述知识点的表示推导出习题的表示,通过自注意力机制得到当前的知识状态。在实验阶段,与五种相关知识追踪模型在四个真实数据集上进行性能对比,结果表明提出的模型在性能方面有更出色的表现。特别地,在ASSISTments2017数据集中所提模型比五个对比模型在AUC、Acc方面分别提升了1.7%~7.7%和7.3%~2.1%;消融实验证明了建模知识点之间时空相关影响的有效性,训练过程实验表明了提出的模型在知识点的表示及其相互作用关系的建模等方面具有一定的优势,应用实例也可看出该模型优于其他知识追踪模型的实际结果。     

融合实体概念描述与图像特征的知识图谱表示学习研究

知识图谱表示学习将实体和关系映射到一个连续的低维空间.传统学习方法是从结构化的三元组学习知识表示,忽略了三元组之外与实体相关的丰富多源信息.针对该问题,提出一种将实体概念描述和图像特征与事实三元组相结合的知识图谱表示学习模型DIRL.首先,利用BERT模型进行实体概念描述的语义表示;其次,使用CNN编码器对图像总体特征进行提取,然后通过基于注意力的方法表示图像特征;最后,将基于概念描述的表示和基于图像特征的表示与翻译模型TransR结合起来进行知识图谱表示学习.通过实验验证,DIRL模型优于现有方法,提高了多源信息知识图谱表示的有效性.     

用于知识表示学习的对抗式负样本生成

知识表示学习目的是将知识图谱中符号化表示的关系与实体嵌入到低维连续向量空间。知识表示模型在训练过程中需要大量负样本,但多数知识图谱只以三元组的形式存储正样本。传统知识表示学习方法中通常使用负采样方法,这种方法生成的负样本很容易被模型判别,随着训练的进行对性能提升的贡献也会越来越小。为了解决这个问题,提出了对抗式负样本生成器（ANG）模型。生成器采用编码-解码架构,编码器读入头或尾实体被替换的正样本作为上下文信息,然后解码器利用编码器提供的编码信息为三元组填充被替换的实体,从而构建负样本。训练过程采用已有的知识表示学习模型与生成器进行对抗训练以优化知识表示向量。在链接预测和三元组分类任务上评估了该方法,实验结果表明该方法对已有知识表示学习模型在FB15K237、WN18和WN18RR数据集上的链接预测平均排名与三元组分类准确度都有提升。     

基于知识表示学习的KBQA答案推理重排序算法

现有的知识库问答（KBQA）研究通常依赖于完善的知识库,忽视了实际应用中知识图谱稀疏性这一关键问题。为了弥补该不足,引入了知识表示学习方法,将知识库转换为低维向量,有效摆脱了传统模型中对子图搜索空间的依赖,并实现了对隐式关系的推理,这是以往研究所未涉及到的。其次,针对传统KBQA在信息检索中常见的问句语义理解错误对下游问答推理的错误传播,引入了一种基于知识表示学习的答案推理重排序机制。该机制使用伪孪生网络分别对知识三元组和问句进行表征,并融合上游任务核心实体关注度评估阶段的特征,以实现对答案推理结果三元组的有效重排序。最后,为了验证所提算法的有效性,在中国移动RPA知识图谱问答系统与英文开源数据集下分别进行了对比实验。实验结果显示,相比现有的同类模型,该算法在hits@n、准确率、F1值等多个关键评估指标上均表现更佳,证明了基于知识表示学习的KBQA答案推理重排序算法在处理稀疏知识图谱的隐式关系推理和KBQA答案推理方面的优越性。     

基于上下文表示的知识追踪方法

知识追踪是教育数据挖掘领域中一个十分重要的问题,旨在利用可观测到的学生历史交互数据和习题包含的知识点相关信息来推断学生对知识点的掌握情况。已有方法虽在不同程度上取得了一些进展,但大多忽略了使用知识点表示习题的重要性,并且对使用诸如学习因素之类的上下文表示知识点的研究也不够充分。针对上述问题,提出基于上下文表示的知识追踪方法KTCR。首先,综合考虑影响学生学习过程的因素,并基于学生响应数据设计了知识点上下文表示方法,从而基于Q矩阵表示知识点上下文;其次,为了实现习题向量的降维,利用融合上下文信息的知识点和学生响应数据对习题向量进行重表示;最后,结合学生历史交互数据,使用长短期记忆网络对学生的知识状态进行估计。在4个真实数据集上的实验表明了本文方法对于习题嵌入表示的合理性,并且能够有效地估计学生的知识状态。     

可信的端到端深度学生知识画像建模方法

学生知识画像是对学生在不同知识概念掌握程度的全面精准的表示. 通常,智能教育系统中使用知识追踪方法,基于显式的学生交互数据,对学生在某些知识概念的隐式掌握程度进行建模. 然而知识追踪方法的预测结果与学生知识画像存在着时序、预测粒度不一致的情况,导致其产生的学生知识画像不可信. 对此,首先基于端到端的学生知识掌握度预测目标定义并形式化学生知识画像预测任务,然后提出了一种深度知识画像（deep knowledge portrait, DKP）模型. 该方法首先在知识粒度上学习交互表征,引入了知识难度、知识概念等特征在知识粒度上区分交互;然后,采用双向长短时记忆网络基于学生历史交互序列,建模学生知识状态变化. 最后针对待预测知识概念,使用了多头注意力池化层强化历史序列中的相关交互以进行该概念下的学生掌握度预测. 在3个真实的数据集上的实验结果表明,所提出的方法更适合学生知识画像预测任务从而获得更可信的学生知识画像,并在各项性能上超过了现有的方法.

     

一种改进的自适应知识图谱嵌入式表示方法

知识图谱的嵌入式表示方法以基于翻译的TransE最为经典,但在处理复杂关系时存在局限;使用欧氏距离作为得分函数中的度量,每个特征维度以相同的权重参与计算,准确性会受到无关维度的影响,灵活性不高。因此,针对这两个缺陷,提出一种自适应的知识图谱嵌入式表示方法TransAD。利用自适应度量方法更换度量函数,在得分函数中引入对角权重矩阵,为每一个特征维分别赋予权重,增加模型的表示能力。同时受TransD方法的启发,将实体与关系通过动态映射矩阵建立空间投影模型,来增强模型对复杂关系的处理能力,最后将两种优化集成在一个模型中。实验结果表明,新方法TransAD优于Trans(E,H,R,D),在链路预测和三元组分类任务的各项指标上均有提升,有一定的先进性。