首页 | 本学科首页   官方微博 | 高级检索  
     

融合多尺度CNN和CRF的通用细粒度事件检测
作者姓名:任永功  阎格  何馨宇
作者单位:1. 辽宁师范大学计算机与信息技术学院;2. 大连理工大学通信与工程博士后研究站;3. 大连永佳电子技术有限公司博士后工作站
摘    要:事件检测是自然语言处理领域中事件抽取的主要任务之一,它旨在从众多非结构化信息中自动提取出结构化的关键信息.现有的方法存在特征提取不全面、特征分布不均等情况.为了提高事件检测的准确率,提出了一种融合BERT预训练模型与多尺度CNN的神经网络模型(BMCC,BERT+Multi-scale CNN+CRF).首先通过BERT(Bidirectional Encoder Representations from Transformers)预训练模型来进行词向量的嵌入,并利用其双向训练的Transformer机制来提取序列的状态特征;其次使用不同尺度的卷积核在多个卷积通道中进行卷积训练,以此来提取不同视野的语义信息,丰富其语义表征.最后将BIO机制融入到条件随机场(CRF)来对序列进行标注,实现事件的检测.实验结果表明,所提出的模型在MAVEN数据集上的F1值为65.17%,表现了该模型的良好性能.

关 键 词:事件检测  BERT  多尺度CNN  条件随机场(CRF)  交叉验证
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号