基于深度学习的中文命名实体识别综述

命名实体识别作为信息抽取的核心任务,能够从文本中识别出各类命名实体。近年来,深度学习技术在字词表示、特征提取等方面上的应用,使中文命名实体识别任务取得了较为丰富的研究成果。目前,基于深度学习的中文命名实体识别技术,在特征提取的深度和模型的精确度上已逐渐超过了传统的基于规则的方法、基于特征工程的有监督方法和基于无监督的方法。围绕深度学习的识别框架,将现有基于深度学习的中文命名实体识别方法分嵌入层、编码层和标签解码层三部分进行介绍,并对未来可能的研究方向进行探讨和展望。     

基于多任务学习的结构损伤识别

利用信号特征自动学习和提取的特性,深度神经网络已被成功应用于基于振动的结构损伤定位或程度诊断。单一的损伤位置或损伤程度诊断网络虽分别能实现一定的诊断功能,但不同任务之间的相关信息没有得到充分利用;因此,将损伤定位任务和损伤程度诊断任务相结合,基于一维空洞卷积神经网络,提出了一个具有信号特征共享与反馈特性的多任务联合学习模型。框架结构的数值模拟和实验模型研究表明,与单任务模型相比,多任务模型能有效降低定位错误和损伤程度估计误差,且具有更好的泛化性。     

面向文本非结构化数据的输变电系统故障诊断方法

从非结构化数据中提取信息,有效诊断输电系统故障对于精确确定设备的运行状态具有重要意义。提出基于深度学习网络的输变电系统故障诊断方法;面向非结构化数据处理问题,提出非结构化数据特征提取、深度神经网络构建、深度神经网络训练、故障诊断等一系列深度学习处理方式;构建并改进循环神经网络RNN,将长短时记忆模型(LSTM)添加到神经网络中的记忆单元,并提出相应的神经网络训练策略。以南方电网故障巡检报告作为数据源,仿真分析结果验证了该方法的有效性。     

一种基于Roberta的中文实体关系联合抽取模型

在实体关系抽取研究领域中,目前多采用任务串联式的方式对实体关系进行抽取,此方式忽视多任务之间的联系,导致抽取效果不佳,对数据中客观存在的关系重叠问题也不能很好解决.针对上述问题,本文提出了一种基于Roberta语言模型的实体关系联合抽取模型.该模型结合条件随机场、卷积神经网络和自注意力机制,实现了实体关系的准确联合抽取.实验结果表明,本方法在中文的实体关系联合抽取方面表现比经典的Multi-head Selection以及DGCNN模型好,尤其体现在解决典型关系重叠问题方面.     

基于实体对弱约束的远监督关系抽取

为缓解远监督关系抽取中的假阳性问题并进一步提高关系抽取的准确率和召回率,提出基于实体对弱约束的远监督关系抽取模型。首先,从知识库和文本中获取实体对的约束信息,约束信息由实体对关键词和实体类型两部分组成;然后,通过训练神经网络模型自动获取不同关系所对应的实体对约束信息的特征;最后,将这些特征用作弱约束联合语句特征一起进行关系预测。在对比实验中,基于实体对弱约束的模型达到了更高的准确率和召回率,表明了实体对弱约束能有效缓解假阳性问题、加强关系抽取。     

深度迁移学习在高光谱遥感图像分类中的研究现状与展望

高光谱遥感通过利用许多窄电磁波波段获取包含丰富的空间、辐射和光谱信息,在对地观测研究领域扮演着重要角色。随着深度学习的迅速发展,深度神经网络及深度森林等算法在高光谱遥感图像分类任务中得到广泛应用,但同时也产生了一系列困难,如对训练样本数量需求高、模型训练耗时以及分类代价大等问题。将深度学习与迁移学习结合,能够有效解决上述问题,在高光谱遥感图像分类领域得到初步应用。本工作首先介绍高光谱遥感图像分类的相关背景,之后介绍深度学习在高光谱遥感图像分类中的应用,并指出其具有的优势与不足,最后介绍深度迁移学习在高光谱遥感图像分类中的应用,并对当前研究存在的问题进行总结与展望。     

基于异质图卷积神经网络的论点对抽取模型

针对论点对抽取任务中存在着评审段和反驳段之间交互信息难以捕获以及忽略了对句子间的相对位置信息进行建模问题,提出基于异质图卷积神经网络的论点对抽取模型.该模型在评审段和反驳段中构建异质图,定义2种不同类型的节点及4种不同类型的边,通过关系图卷积神经网络来更新图中节点的表示.提出位置感知的句子对生成器,利用旋转位置编码来建模评审段和反驳段句子间的相对位置信息.在RR-passage和RR-submission-v2数据集上进行实验,实验结果表明,提出模型的性能均优于所有的基线模型.这表明通过构建异质图区分不同的节点类型和边的类型,设计位置感知的句子对生成器,能够提升论点对抽取模型的效果.     

基于双向门控循环神经网络的事件论元抽取方法

事件抽取是构建知识图谱的关键前置任务之一,而事件论元抽取是事件抽取的子任务,对事件抽取质量有显著影响.针对现有的流水线式事件抽取方法在论元抽取时忽略了触发词和论元间、论元和论元间相互关系导致抽取质量低的问题,该文提出了一种基于双向门控循环神经网络(Bi-GRU)的事件论元抽取方法.该方法融合Bert词向量、词性特征、词...     

基于预训练BERT的军事领域目标实体深度学习识别方法

军事领域非结构化文本中的大量目标实体往往包含丰富的军事信息和军事知识,对其准确识别是进行军事信息抽取和军事知识组织的基础性关键任务,也是构建军事知识图谱的重要环节.针对军事领域标注数据不足以及军事实体边界模糊的问题,提出基于预训练BERT模型的深度学习识别方法.利用BERT生成基于当前输入语境特征的动态字向量来增强字的...     

信息抽取中领域本体的设计和实现

领域本体在信息抽取系统有着重要作用。该文介绍了本体、领域本体的基本概念,并探讨了领域本体与信息抽取的关系。提出了信息抽取系统中领域本体的设计准则和实施步骤,实施步骤包括领域本体需求分析、收集本体信息、构建领域本体框架、形式化编码、确认和评价等。在信息抽取原型系统中实现了显示器领域本体,并将该领域本体应用到信息抽取中的命名实体识别、抽取模式获取和主题概念提取等任务中,应用结果表明该方法、步骤是可行的。