基于螺旋注意力网络的方面级别情感分析模型

方面级别情感分析是一项细粒度的情感分类任务,旨在确定特定方面的情感极性。以往的方法大都是基于方面或上下文向量的平均值来学习上下文或方面词的注意力权重,但当方面词和上下文较长时,这种方法可能会导致信息丢失。该文提出了一种建立在BERT表示上的螺旋注意力网络(BHAN)来解决这一问题,模型中的螺旋注意力机制与之前注意力机制不同的是,基于方面词得到加权后的上下文表示后,用这个新的表示计算方面词的权重,然后用这个新的方面词的表示重新计算上下文的权重,如此循环往复,上下文和方面词的表示会得到螺旋式的提高。该文在2014年SemEval任务4和Twitter数据集上进行了模型评估,实验结果表明,其性能超过了之前最佳模型的结果。

Helical Attention Networks for Aspect-level Sentiment Classification

Aspect-level sentiment classification is a fine-grained sentiment analysis task, with the purpose to identify the sentiment polarity for a particular aspect. This paper proposes a BERT-based Helical Attention Networks (BHAN) which employ a helical attention mechanism to get a better representation of context and aspect. Specifically, on the basis of the weighted context representation based on averaged aspect vector, we use it to compute the attention weight of aspect. Then we use the new weight aspect representation to compute the context attention weight again. We can get a better representation of context and aspect by iterate above process until convergence. Evaluated on SemEval 2014 Task 4 and Twitter dataset, the proposed method out-performs the existing state-of-the-art methods.