SENet生成对抗网络在图像语义描述中的应用 |
| |
引用本文: | 刘仲民,陈恒,胡文瑾.SENet生成对抗网络在图像语义描述中的应用[J].光学精密工程,2023(9):1379-1389. |
| |
作者姓名: | 刘仲民 陈恒 胡文瑾 |
| |
作者单位: | 1. 兰州理工大学电气工程与信息工程学院;2. 甘肃省工业过程先进控制重点实验室;3. 西北民族大学数学与计算机科学学院 |
| |
基金项目: | 国家自然科学基金资助项目(No.62061042); |
| |
摘 要: | 针对图像语义描述过程中存在的语句描述不够准确及情感色彩涉及较少等问题,提出一种基于SENet生成对抗网络的图像语义描述方法。该方法在生成器模型特征提取阶段增加通道注意力机制,使网络能够更加充分和完整地提取图像中显著区域的特征,将提取后的图像特征输入到编码器中。在原始文本语料库中加入情感语料库且通过自然语言处理生成词向量,将词向量与编码后的图像特征相结合输入到解码器中,通过不断对抗训练生成一段符合该图像所示内容的情感描述语句。最后通过仿真实验与现有方法进行对比,该方法的BLEU指标相比SentiCap方法提高了15%左右,其他相关指标均有提升。在自对比实验中,该方法在CIDEr指标上提高3%左右。该网络能够很好地提取图像特征,使描述图像的语句更加准确,情感色彩更加丰富。
|
关 键 词: | 图像语义描述 生成器模型 特征提取 对抗训练 通道注意力 |
|