基于BERT的BiGRU-Attention-CNN混合模型的中文情感分析

在词嵌入层面上，中文情感分析一般是采用one-hot编码或Word2Vec方法生成词向量表征，不能很好解决一词多义的问题；在特征提取的层面上，传统深度学习模型缺少对重要特征的重点关注。针对该问题，提出一种基于BERT的BiGRU-Attention-CNN混合神经网络模型的中文情感分析方法。BERT模型能产生丰富的动态词向量，结合BiGRU对上下文的长期依赖能力和CNN的特征提取能力，并融入Attention机制分配不同的权重值重点关注。在酒店评论、外卖评论、网购评论、微博评论四种公开中文数据集进行情感分类实验，实验结果表明，该模型相较于其它几种常见的模型，情感分类准确率有明显的提高。