基于双注意力卷积神经网络模型的情感分析研究

卷积神经网络（Convolutional Neural Networks,CNN）无法判别输入文本中特征词与情感的相关性.因此提出一种双注意力机制的卷积神经网络模型（Double Attention Convolutional Neural Networks,DACNN）,将词特征与词性特征有效融合后得到本文的特征表示,确定情感倾向.本文提出局部注意力的卷积神经网络模型,改进卷积神经网络的特征提取能力,采用双通道的局部注意力卷积神经网络提取文本的词特征和词性特征.然后使用全局注意力为特征分配不同的权重,有选择地进行特征融合,最后得到文本的特征表示.将该模型在MR和SST-1数据集上进行验证,较普通卷积神经网络和传统机器学习方法,在准确率上分别取得0.7%和1%的提升.     

基于注意力机制的卷积神经网络可视化方法

相比于传统机器学习算法,卷积神经网络"端到端"的黑盒特性使其内部工作机制缺乏透明性和可解释性,导致其在某些安全性要求较高的领域受到一定限制.为此,提出一种基于注意力机制的卷积神经网络可视化方法,用于可视化解释卷积神经网络中间层所学特征.该方法首先将注意力机制添加到网络结构中,跟随网络一起训练;然后,获取训练后模型的最高...     

基于通道注意力机制的智能地质填图

进入新世纪,科技的发展造就了大数据的爆发式增长,这为基于深度学习方法来研究地质学问题奠定了基础。卷积神经网络已被用于地质填图,但卷积操作关注的是数据空间维度的特征信息,无法建模不同通道维度之间的依赖关系。为了发掘不同通道的输入数据和特征图之间的关联性,提升智能地质填图的效果,本文在全卷积神经网络Unet中引入通道注意力模块——挤压—激励模块(Squeeze and Excitation Block, SE Block),提出了一种新网络SE—Unet,并将该网络应用于湖南省鲤鱼塘地区的1∶5万智能地质填图。实验结果表明,相比于Unet, SE—Unet智能地质填图的总体精确度由81.58%提高到了83.72%,可视化结果显示,两种原来难以识别的地质单元被大致识别出来。这验证了通道注意力机制能够提升网络的学习和表征能力,也说明了本方法对于提升智能地质填图效果的可行性与有效性。     

基于近红外光谱的汽油辛烷值神经网络模型研究

根据汽油组分的辛烷值与近红外光谱分析数据,用人工神经网络（ANN）的反向传播算法建立了汽油组分辛烷值神经网络预测模型,检验表明,ANN方法能准确地关联近红外光谱分析数据与汽油组分辛烷值的关系.马达法辛烷值预测平均误差为0.20;研究法辛烷值预测平均误差为0.18.     

基于近红外光谱的汽油辛烷值神经网络模型研究

根据汽油组分的辛烷值与近红外光谱分析数据,用人工神经网络(ANN)的反向传播算法建立了汽油组分辛烷值神经网络预测模型,检验表明,ANN方法能准确地关联近红外光谱分析数据与汽油组分辛烷值的关系。马达法辛烷值预测平均误差为0.20;研究法辛烷值预测平均误差为0.18。     

基于双池化注意力机制的高光谱图像分类算法

为了提高高光谱图像在有限训练样本下的分类性能,提出了一种基于双池化注意力机制的高光谱图像分类网络(DPAMN).首先,采用三维卷积提取高光谱图像的空间和光谱浅层信息.其次,为了增强网络的特征提取能力,在DPAMN中引入了一种双池化注意力机制.最后,在网络的深层引入三维卷积密集连接模块,该模块不仅能够充分提取高光谱图像的空间和光谱特征,同时还能提高特征的判别能力.实验结果表明,在Indian Pines、University of Pavia、Salinas以及Houston 2013数据集上分别取得95.45%、97.11%、95.30%以及93.71%的整体平均精度,与目前主流的已有先进方法相比,所提出的方法在4个数据集上均有较大提升,表明所提方法具有较强的泛化能力.     

基于卷积神经网络的抽油机故障诊断

为提高抽油机的故障诊断性能、减少诊断模型的硬件存储,设计了基于轻量注意力卷积神经网络和示功图的故障诊断方法。首先,将示功图的位移-载荷数据转换为图像,诊断模型的基础结构采用深度分离卷积,提出一种可嵌入连续卷积层的正则化注意力模块,对每个卷积层的通道进行压缩、注意力计算,并根据注意力建立通道失活机制,输出具有特征抑制或加强的注意力特征图。其次,在模型学习算法上,提出注意力损失函数抑制易分样本对模型训练损失的贡献,使模型训练关注难分样本。最后通过仿真实验验证有效性,结果表明该模型硬件存储仅为5.4 MB,故障诊断精度达95.1%,满足抽油机工况检测的诊断精度要求。     

基于空间注意力和卷积神经网络的视觉情感分析

为了解决现有基于深度学习方法的视觉情感分析忽略了图像各局部区域情感呈现的强度差异问题,提出一种结合空间注意力的卷积神经网络spatial attention with CNN, SA-CNN用于提升视觉情感分析效果。设计一个情感区域探测神经网络用于发现图像中诱发情感的局部区域;通过空间注意力机制对情感映射中各个位置赋予注意力权重,恰当抽取各区域的情感特征表示,从而有助于利用局部区域情感信息进行分类;整合局部区域特征和整体图像特征形成情感判别性视觉特征,并用于训练视觉情感的神经网络分类器。该方法在3个真实数据集TwitterⅠ、TwitterⅡ和Flickr上的情感分类准确率分别达到82.56%、80.23%、79.17%,证明利用好图像局部区域情感表达的差异性,能提升视觉情感分类效果。     

高效通道注意力和特征融合的协同显著性检测算法

针对现有的协同显著性检测算法在多显著目标复杂场景下表现不佳的问题,提出了一种基于高效通道注意力和特征融合的协同显著性检测算法。首先,检测算法利用预训练的深度卷积神经网络对场景进行多尺度特征的提取,结合边缘显著信息设计了显著性语义特征提取模块,以避免全卷积神经网络导致边缘信息的缺失;其次,通过内积基本原理得到组内图片间的关联性信息并根据其关联程度进行自适应加权,结合高效通道注意力层设计了协同特征提取算法;最后,为了将各级高层语义特征经过协同显著性特征提取之后的结果与浅层次的特征进行融合,并实现对预测结果进行多分支同步监督,设计了基于高效通道注意力的特征融合模块。通过对3个经典的数据集进行测试,并与6种现有的协同显著检测算法进行对比,结果表明本文所提算法提高了复杂场景中图像的协同显著性检测的精度以及边缘信息的丰富程度,并具有更优的协同显著性信息检测性能;通过消融实验进一步验证了所提设计算法各个模块的有效性和必要性。     

基于深度卷积神经网络的高光谱遥感图像分类

传统的高瀑布图像分类模型只考虑光谱特征信息,忽略了图像空间结构信息在分类中的重要作用。为提高高光谱遥感图像的分类精度,提出一种同时利用高瀑布图像的光谱信息和空间信息的深度卷积神经网络分类模型。通过对低层特征自动分层地学习来提取更加抽象的高层特征,提取的特征具有平移、缩放及其他形式扭曲等高度不变性;基于学习到的深度特征,用logistic回归分类器进行分类训练。高光谱数据实验结果表明,深度卷积神经网络模型能够提高高光谱遥感图像的分类精度,从而验证了深度卷积神经网络进行高瀑布图像分类的可行性和有效性。     

采用注意力门控卷积网络模型的目标情感分析

针对传统目标情感分析采用循环神经网络模型导致训练时间长且其他替代模型未能使得上下文和目标词之间实现良好交互等问题,提出了一种用于目标情感分析的注意力门控卷积网络模型。该模型首先将上下文和目标词通过多头注意力机制加强上下文和目标词之间的交互;其次采用门控卷积机制进一步提取关于目标词的情感特征;最后通过Softmax分类器将情感特征进行分类,输出情感极性。实验结果显示,与循环神经网络模型中准确率最高的循环注意力网络模型相比,在SemEval 2014任务四的餐厅和笔记本电脑数据集上的准确率分别提高了1.29%和0.12%;与循环神经网络模型中收敛速度较快的基于注意力的长短期记忆网络模型相比,收敛时间下降了约29.17s。     

近红外光谱结合模式识别方法用于食盐溯源研究

应用近红外光谱分析技术,结合偏最小二乘辨别分析(PLS-DA)和支持向量机(SVM)两种模式识别方法用于5种食盐的品种追溯识别研究.将5种食盐250个样品分别在波长范围400~1 198 nm光谱条件下扫描并获取数据.从得到的每种食盐的光谱数据中随机选取34个样品利用SVM建立模型,用模型对其余16个样本进行预测,用网格寻优的方法选择最优参数,然后进行分类预测,5种食盐的准确识别率分别达到100%、93.8%、87.5%、100%和93.8%.通过PLSDA方法构建模型时采用二阶求导对近红外光谱数据进行预处理,并用留一法交互检验确定PLS模型的隐变量数,该模型对5种食盐的预测准确率分别达到93.75%、100%、100%、100%和100%,结果表明PLS-DA预测效果较SVM稍好.该研究为实现不同品种食盐的鉴定以及成品食盐的品种溯源提供了一种参考方法.     

近红外光谱技术测定花生蛋白质含量研究

采用近红外光谱技术(NIRS)建立花生蛋白质含量的测定模型,讨论了不同回归技术及光谱和数学处理方法对模型的影响,并对模型进行外部验证.得出最佳的建模参数为:标准正常化结合散射处理(SNV and Detrend)的光谱处理方法和"2,4,4,1"的数学处理方法,改进最小二乘法的回归技术.得到的定标方程的定标相关系数为0.926 9,定标标准偏差为0.228 1,交叉验证相关系数为0.911 7,交叉检验标准偏差平均值为0.311 9,经外部验证得到的相关系数为0.919 7.近红外光谱技术可以用于花生蛋白质含量的快速检测.     

近红外光谱技术测定花生蛋白质含量研究

采用近红外光谱技术(NIRS)建立花生蛋白质含量的测定模型,讨论了不同回归技术及光谱和数学处理方法对模型的影响,并对模型进行外部验证.得出最佳的建模参数为:标准正常化结合散射处理(SNV and Detrend)的光谱处理方法和2,4,4,1的数学处理方法,改进最小二乘法的回归技术.得到的定标方程的定标相关系数为0.926 9,定标标准偏差为0.228 1,交叉验证相关系数为0.911 7,交叉检验标准偏差平均值为0.311 9,经外部验证得到的相关系数为0.919 7.近红外光谱技术可以用于花生蛋白质含量的快速检测.     

结合双重注意力机制的遮挡感知行人检测

针对行人检测算法在交通场景下应用时的遮挡问题,提出一种结合双重注意力机制的遮挡感知行人检测算法.以RetinaNet作为基础框架,在回归和分类支路分别添加空间注意力和通道注意力子网络,增强网络对于行人可见区域的关注;同时引入行人可见边界框信息对传统的回归损失函数进行优化,使其能够随着遮挡程度自适应地调节预测框贡献的权重...     

基于卷积和可变形注意力的脑胶质瘤图像分割

对于脑胶质瘤图像分割这类密集预测的医学影像分割任务,局部和全局依赖关系都是不可或缺的,针对卷积神经网络缺乏建立全局依赖关系的能力,且自注意力机制在局部细节上捕捉能力不足等问题,提出了基于卷积和可变形注意力的脑胶质瘤图像分割方法。设计了卷积和可变形注意力Transformer的串行组合模块,其中卷积用于提取局部特征,紧随其后的可变形注意力Transformer用于捕捉全局依赖关系,建立不同分辨率下局部和全局依赖关系。作为一种CNN-Transformer混合架构,所提方法不需要任何预训练即可实现精准的脑胶质瘤图像分割。实验结果表明：所提方法在BraTS2020脑胶质图像分割数据集上平均Dice系数和平均95%豪斯多夫距离分别为83.56%和11.30 mm,达到了与其他脑胶质瘤图像分割方法相当的分割精度,同时降低了至少50%的计算开销,有效提升了脑胶质瘤图像分割的效率。     

近红外光谱在再生纤维素纤维／氨纶针织面料成分分析中的应用

以再生纤维素纤维／氨纶针织面料为研究对象进行近红外光谱分析,研究结果表明不同种类的再生纤维素纤维／氨纶针织面料近红外光谱图相似,可建立统一的预测模型对其成分含量进行定量分析;以莫代尔／氨纶、菜赛尔／氨纶、（粘纤＋莫代尔）／氨纶、（粘纤＋莱赛尔）／氨纶针织面料为样本建立的近红外光谱测试模型性能良好,50个复测样品模型预测值与标准值之间偏差大多都在0．6％以内,预测结果符合标准偏差要求。     

基于双通道卷积注意力网络的语音增强方法

传统的单通道网络模型因表征能力有限,无法充分提取语音深层特征,导致模型的语音增强效果不明显。鉴于此,提出一种双通道卷积注意力网络的语音增强方法。首先,使用卷积神经网络和长短时记忆网络构建并行的双通道学习模块,结合两种不同神经网络的优势,充分挖掘语音的深层特征;其次,在两个通道中分别添加注意力模块,依照关注度对通道的输出特征进行加权,达到强调有益信息的目的;最后,将两个通道的输出进行融合得到增强特征。结果表明,在低信噪比和非平稳噪声环境中,包含双通道结构和注意力模块的模型,其增强效果明显优于其他对比模型,有效提高了增强语音的质量和可懂度,验证了所提模型的可行性。     

近红外光谱在再生纤维素纤维/氨纶针织面料 成分分析中的应用

以再生纤维素纤维/氨纶针织面料为研究对象进行近红外光谱分析,研究结果表明不同种类的再生纤维素 纤维/氨纶针织面料近红外光谱图相似,可建立统一的预测模型对其成分含量进行定量分析;以莫代尔/氨纶、莱 赛尔/氨纶、（粘纤+莫代尔）/氨纶、（粘纤+莱赛尔）/氨纶针织面料为样本建立的近红外光谱测试模型性能良好, 50个复测样品模型预测值与标准值之间偏差大多都在0.6%以内,预测结果符合标准偏差要求。     

近红外光谱技术测定小麦过氧化氢酶的研究

过氧化氢酶是衡量小麦籽粒新鲜度的重要指标.将近红外光谱技术与化学计量方法结合起来,建立小麦样品过氧化氢酶的定标方程,并对方程进行了验证、优化得到小麦过氧化氢酶的最佳定标模型,其1-VR值为0.688,RSQ值为0.947,SEC值为3.363,SECV值为7.303,SEP值为3.361.通过外部验证,表明该方法可以对不同新鲜度的小麦进行快速筛查.