加入梯度均衡机制的端到端方面级情感分析 |
| |
作者姓名: | 罗涵天 杨雅婷 马博 董瑞 李晓 |
| |
作者单位: | 1. 中国科学院新疆理化技术研究所多语种信息技术实验室;2. 中国科学院大学计算机科学与技术学院;3. 中国科学院新疆理化技术研究所新疆民族语音语言信息处理实验室 |
| |
基金项目: | 中国科学院青年创新促进会基金项目(科发人函字[2019]26号);;国家自然科学基金项目(U2003303);;国家重点研发计划基金项目(2017YFC0822505-4);;中国科学院西部青年学者B类基金项目(2019-XBQNXZ-B-008); |
| |
摘 要: | 目前方面级情感分析任务存在类别标签不平衡的问题,会导致模型过多学习非方面词标签,影响模型的性能。基于BERT端到端方面级情感分类模型,针对其类别标签不平衡的问题进行深入研究,提出使用梯度均衡机制缓解类别标签不平衡的问题,采用指数滑动平均的方法缓解潜在离群点样本对实验结果造成的影响,提升模型的性能。在4个标准数据集中进行实验,实验结果表明,所提方法在实验结果中(F1值)相比许多强基线方法有较为明显提升。
|
关 键 词: | 梯度均衡 端到端 方面级 情感分析 不平衡 标签 离群点 |
|
|