基于改进BERT的景点评论情感分析

针对景点推荐领域评论的情感信息未得到充分利用的现状，文章融合残差网络和双向长短期记忆网络提出了一种改进的BERT模型。深度学习模型BERT以无监督的学习方式，通过后续的任务来完成推理和判断，而在语义层面忽略特定领域知识。该文研究多头残差网络（Multi-head residual network,MRN），可以从多个层面上学习情绪特征，在补充领域知识的同时避免深度神经网络退化，利用BERT预训练模型提供语义特征，动态地将语句的情感嵌入到模型中，并将各层次模型输出的特征与双向长短期记忆网络的输出数据进行特征融合，得到最终的文本情感。该模型对比BERT预训练模型、BERT-BiLSTM模型、BiLSTM模型和卷积神经网络CNN的实验结果，最后得到的F1值和准确率都有显著提高。由此认为，BERT-MRN模型的情感极性分析能力有较好的提升，可以更好地分析景点评论的情感信息。