基于改进CNN-BiGRU-att模型的文本分类研究 |
| |
作者姓名: | 陈农田 李俊辉 满永政 |
| |
作者单位: | 中国民用航空飞行学院,四川 广汉618307 |
| |
基金项目: | 国家重点研发计划项目(2018YFC0809500); |
| |
摘 要: | 为解决单一的卷积神经网络(CNN)缺乏利用上下文本信息与单一循环神经网络(RNN)对局部信息把握不全面问题,提出一种基于注意力机制的多通道TextCNN-BiGRU分类模型.首先,通过word2vec对初始文本向量化,经实验选取窗口值组成三通道.然后利用CNN的强学习能力提取局部特征,利用双向门控循环单元(BiGRU)提取上下文全局信息,运用注意力层与池化层获取并优化重要的特征.最后采用softmax函数使误差loss极小化.仿真实验结果表明,提出的模型分类性能,准确度达94%,损失函数值稳定在0.22%左右,具有良好的泛化能力,能够有效解决单一模型挖掘信息不全问题,有效提高分类效果.
|
关 键 词: | 深度学习 神经网络模型 文本多分类 注意力机制 文本特征提取 |
本文献已被 万方数据 等数据库收录! |
|