融入句法结构信息的句子级情感分析算法 |
| |
引用本文: | 李成路,许凤.融入句法结构信息的句子级情感分析算法[J].计算机与数字工程,2023(6):1310-1315. |
| |
作者姓名: | 李成路 许凤 |
| |
作者单位: | 1. 南京理工大学计算机科学与工程学院;2. 南京财经大学会计学院 |
| |
基金项目: | 国家自然科学基金项目“基于深度学习的在线商品评论细粒度比较观点挖掘和竞争情报获取”(编号:72001102)资助; |
| |
摘 要: | 针对预训练模型BERT在编码文本时,只考虑了文本的序列信息从而只显示地学习了文本的语义信息,但文本的句法结构信息还不能被显示地利用。受知识蒸馏理论的启发,以Teacher-Student框架为模板,提出了Tree-BERT模型将文本的句法结构信息融入到BERT模型中。该模型先使用Tree-LSTM网络学习文本的句法结构信息,然后预测目标领域训练集样本的情感概率分布,也就是样本的情感“软标签”,最后在扩充后的目标领域训练集上微调BERT,提高了BERT在句子级情感分析任务上的准确率。
|
关 键 词: | 句法结构信息 知识蒸馏 深度学习模型 句子级情感分析 |
|