基于混合注意力与强化学习的文本摘要生成

基于递归神经网络的序列到序列的模型在文本摘要生成任务中取得了非常好的效果;但这类模型大多存在生成文本重复、曝光偏差等问题。针对重复问题;提出一种由存储注意力和解码自注意力构成的混合注意力;通过存储历史注意力和增加对历史生成单词的注意力来克服该问题;使用强化学习作为一种新的训练方式来解决曝光偏差问题;同时修正损失函数。在CNN/Daily Mail数据集对模型进行测试;以ROUGE为评价指标;结果证明了混合注意力对重复问题有较大的改善;借助强化学习可以消除曝光偏差;整合后的模型在测试集上超越先进算法。