融合RoBERTa和特征提取的政务热线工单分类

政务热线承接了海量市民诉求，人工对工单分类耗时费力。现有工单分类方法大多基于机器学习或单一神经网络模型，难以有效理解上下文语义信息，且文本特征提取不全面。针对这一问题，本文提出一种融合RoBERTa和特征提取的政务热线工单分类方法。该方法首先通过基于RoBERTa预训练语言模型的语义编码层获取政务热线工单文本中的语义表征向量，然后通过由CNN-BiGRU-Self-Attention定义的特征提取层获取工单文本的局部特征和全局特征，并对全局特征进行处理以凸显重要性高的语义特征，最后将融合后的特征向量输入分类器来完成工单分类。实验结果表明，相较于其他基线分类方法，本文提出的方法能够取得更好的工单分类效果。

Government Hotline Work-order Classification Fusing RoBERTa and Feature Extraction