| 基于注意力机制面向短文本多分类的关键词权重优化 |
| |
| 引用本文： | 彭伟乐,武浩,徐立.基于注意力机制面向短文本多分类的关键词权重优化[J].计算机应用,2021,41(z2):19-24. |
| |
| 作者姓名： | 彭伟乐 武浩 徐立 |
| |
| 作者单位： | 云南大学信息学院,昆明650500 |
| |
| 摘 要： | 关键词语义敏感影响短文本选择关键词赋予合适权重.针对仅关注关键词是否完备没有考虑到混淆关键词会对分类造成消极影响的问题,提出一种降低混淆关键词权重实现关键词权重优化的模型.首先,基于词频?逆文件频率(TF-IDF)和混淆矩阵的原理选择文本中被定义的混淆关键词.然后,基于注意力机制构建文本表征,通过全连接层降维重构表征;训练重构的表征尽可能相似于原表征,从而选出能保留句子信息的关键词;将混淆关键词从提取的关键词里排除出去,将筛选后的关键词称为强关键词.最后,使用双向长短记忆网络?注意力机制(BiLSTM-Attention)经典模型作短文本多分类的基础模型.在此基础模型之上把强关键词整体做嵌入表示加入到BiLSTM-Attention模型中的注意力部分激活函数计算当中.与BiLSTM-Attention基础模型进行的实验结果表明,所提模型在Snippets公开数据集上,分类准确率提高0.41个百分点.
|
| 关 键 词： | 词频 重构文本 关键词 注意力机制 权重优化 |
Keyword weight optimization for short text multi-classification based on attention mechanism |
| |
| PENG Weile,WU Hao,XU Li.Keyword weight optimization for short text multi-classification based on attention mechanism[J].journal of Computer Applications,2021,41(z2):19-24. |
| |
| Authors: | PENG Weile WU Hao XU Li |
| |
| Abstract: | |
| |
| Keywords: | |
| 本文献已被 万方数据 等数据库收录！ |
|
