基于Transformer融合词性特征的中文语法纠错模型

针对中文同一个词的不同词性在句子中所代表的关系不同的问题，提出基于Transformer融合词性特征的中文语法纠错(CGEC)模型，所提模型将语言学知识作为辅助信息融入中文语法纠错任务。首先，在不改变句子序列长度的基础上，在原始词嵌入层中以不同方式拼接词性向量，得到全差异词嵌入、词差异词嵌入和词性差异词嵌入三种不同的词嵌入方式；然后，将新的词嵌入方式与Transformer模型相结合，对错误语句进行语法纠错。实验结果表明，三种词嵌入方式均不同程度地提高了F_0.5值，且全差异词嵌入方式的效果最好：与Transformer模型相比，F_0.5提升了2.73个百分点，BLEU提升了6.27个百分点；与基于Transformer增强架构的中文语法纠错模型相比，F_0.5提升了1.88个百分点。所提模型在对词性特征提取时可以侧重源语句与目标语句的语法差异，更好地捕捉句子的语法特征。