基于BERT-BiGRU-CRF与多头注意力机制的地理命名实体识别

地理知识图谱作为一种科学领域的知识图谱，从概念探讨和初步实验阶段快速发展为地理信息科学领域的跨学科研究热点。地理命名实体识别是地理知识图谱构建的基础，直接影响着地理知识图谱的构建效率与质量。设计了一个地理知识图谱应用管理系统，针对其中地理实体库构建过程依赖人工制定规则以及信息提取不充分等问题，面向地理知识图谱构建过程进行地理命名实体识别研究。首先，通过人工标注方法构建了一个地理知识语料库；其次，通过BERT预训练模型得到结合语境信息的动态字向量，利用双向门控循环单元提取全局语义特征，并基于注意力机制获得增强语义特征；最后，通过CRF解码输出概率最大的全局最优标签序列，实现地理命名实体的自动识别。实验结果表明，相比传统的BiLSTM-CRF、BERT-BiLSTM-CRF等模型，所提出的基于BERT-BiGRU-CRF与多头注意力机制的模型在地理命名实体识别任务中表现更优，能够为地理知识图谱构建提供有效支撑。