融合张量合成注意力的改进ResNet图像分类模型

针对卷积神经网络处理图像分类任务时提取特征不充分以及提取到的特征不区分贡献度的问题，提出了一种融合张量合成注意力的改进ResNet-101 (RTSA Net-101)网络模型。首先，利用ResNet-101骨干网络提取图像特征，并在残差网络卷积结构后嵌入张量合成注意力模块，对获取的特征进行三张量积计算，得到注意力特征矩阵；然后，使用Softmax函数对注意力特征矩阵进行归一化，从而为特征分配权重，以区分特征的贡献度；最后，将得到的权重和对应的键值加权求和，获取最终图像完整特征，以提升模型的图像分类精度。在自然图像数据集CIFAR-10、CIFAR-100和街牌号数据集SVHN上进行了对比实验，模型分类准确率分别为96.12%、81.60%、96.67%，图像平均测试运行时间分别为0.0258 s、0.0260 s、0.0262 s。实验结果表明：相比于其他7种先进图像分类模型，RTSA Net-101模型可以获得更高的分类准确率和更短的测试运行时间，且能够有效地增强网络的特征学习能力，具有一定的创新性、高效性。     

基于注意力机制的交通信号控制技术

多年来深度强化学习算法与智能交通系统结合的方法在交通信号控制领域取得了突出成效。然而,仅依靠深度强化学习算法仍然无法弥补卷积神经网络提取特征的缺陷,从而影响智能体的整体策略输出。针对现存的特征提取问题,在深度双Q网络（double deep Q network, double DQN）模型基础上提出了一种基于注意力机制的深度强化学习模型进行交通信号控制。将压缩激活网络（squeeze and excitation networks, SENet）注意力机制添加到三维卷积神经网络中,通过建模特征图通道间的相互依赖来增强卷积神经网络的表征质量,从而输出最优的交通信号控制动作。实验结果表明,算法表现出了良好的交通信号控制效果,且具有显著的稳定性。     

复合翼无人机平台的下视红外船舶识别算法

由于复合翼飞行器在飞行过程中速度快,对红外目标识别算法的实时性有着更高的要求。针对快速目标识别的迫切需求,本文提出了一种基于改进YOLOv4的红外船舶识别算法YOLOv4 Gd。该算法首先将空间注意力机制与通道注意力机制相结合作用在主干网络CSPDarknet提取出有效特征层上,使得船舶目标的特征占据更大的权重,以此增强神经网络对特征的学习能力。其次,使用深度可分离卷积替换主干网络CSPDarknet的传统卷积,在确保不丢失大量信息的同时极大降低网络的模型参数,提高网络的实时性。引入可学习权重的双向特征融合BiFPN模块,增加网络对不同输入特征层的学习能力及多尺度特征融合能力,最后对主干网络层数进行优化。实验结果表明,优化后的算法在复杂背景、小尺度目标及多目标等应用场景的平均准确率提升了222,同时FPS达到489,为在移动边缘计算平台上实现红外舰船目标识别提供了飞行试验基础。     

基于软注意力机制的图像分类算法在缺陷检测中的应用

针对传统表面缺陷检测算法检测效率低下,难以应对复杂性检测等问题,结合深度学习和注意力机制技术,提出一种新型注意力机制算法。首先,反思卷积神经网络（CNN）与Transformer架构,重新设计高维特征提取模块;其次,改进最新注意力机制来捕获全局特征。该算法可轻松嵌入各类CNN,提升图像分类和表面缺陷检测的性能。使用该算法的Res Net网络在CIFAR-100数据集和纺织品缺陷数据集上的准确率分别达到83.22%和77.98%,优于经典注意力机制SE与最新的Fca等方法。     

深度特征融合与重构的微纤维识别算法

针对传统卷积神经网络分类识别微纤维存在特征判别不明显的问题,构建了一种深度特征融合与重构的网络对其进行分类与识别。将卷积与深度可分离卷积特征进行融合,加强层间信息交流,提高特征判断指向能力,并在上采样之前分配通道和空间的权重进行特征重构,利用通道注意力与空间注意力相结合的策略使网络在学习的过程中将注意力集中在关键的特征信息处,同时,跳跃连接增加原始特征图,缓解拟合现象,强化微纤维区域关键特征信息,提升微纤维图像识别网络模型的表达能力和学习能力,从而改善微纤维识别效果。实验结果表明,微纤维识别率达到98.77%,通过特征图可视化进一步分析了特征融合与重构的作用。所构建的方法准确率高、泛化能力好,为微纤维分类识别提供了一种新的方案。     

一种基于FCOS神经网络的小建筑物目标检测方法北大核心

提出了一种基于FCOS神经网络的小建筑物目标检测算法,针对FCOS模型在特征提取阶段提取到的小建筑物目标特征较少问题,引入多尺度检测和可变形卷积方式,加强网络对小建筑物目标的特征提取能力,并通过改进后的SGE注意力机制降低特征图中的干扰噪声权重。改进后的网络可以提取到更多的小建筑物目标特征,对环境干扰噪声的鲁棒性更强。在自己搭建的数据集上进行了实验测试,结果表明,在相同环境下网络改进后建筑物的整体检测准确率提升了1.7%,其中对小建筑物目标提升了3.6%,减少了小建筑物目标漏检、误检的问题。     

基于深度学习的街景下的文本检测

针对自然街景文本角度倾斜、形状弯曲、长度不定等特点,提出一种基于注意力机制的自然街景文本检测方法,通过利用注意力机制的优势,对主干网络提取的特征进行加权融合,从而提升整体网络的检测性能.首先,针对特征金字塔（FPN）横向连接中特征信息丢失的问题,引入注意力融合模块AFFM(Attention Feature Fusion Module),通过计算高维和低维特征的融合权重,来改进原FPN中简单直接相加的特征融合方式,从而减少FPN特征融合过程中文本信息丢失,增强网络的特征提取能力.其次,针对不同尺度特征图中的文本特征,引入一个子空间注意力模块SAM(Subspace Attention Module),通过将多尺度融合特征图按通道划分为数个子空间特征图,分别学习每个子空间中的文本特征权重,使得融合后的特征图包含更多不同尺度的文本特征,从而增强融合特征图对文本实例的表征能力,进而提升网络的检测效果.在公开数据集Total-Text上对模型进行评估,实验结果表明,该算法与目前快速高效的DBNet相比,准确率、召回率和F值分别提高了0.5%、0.4%和0.4%.     

基于３Ｄ倒谱特征和注意力机制的ＣＮＮ－ＢｉＬＳＴＭ语音情感识别

为了进一步提升语音情感特征的区别性,提出一种基于3D倒谱特征和注意力机制的语音情感识别方法。在提取典型特征MFCC的基础上,融合其一阶和二阶差分形成动态的3D倒谱特征矢量,然后利用卷积神经网络和双向长短期记忆网络搭建双向循环卷积神经网络(CNN-BiLSTM)进行长时建模,并利用注意力机制,进一步增强语音关键性情感特征的权重。实验结果表明,该方法能聚焦特征的有用信息,从而有效提高语音情感识别的准确率,在汉语情感语料库CASIA的准确率达到90.48%。     

融合红外特征的可见光图像目标检测算法研究

为提升复杂场景下基于可见光图像的目标检测性能,将深层卷积神经网络与多源信息融合技术相结合,提出了一种自适应融合红外特征的可见光目标检测算法.该算法以红外和可见光图像作为输入,通过卷积、激活结合残差结构的方式分别提取目标红外和可见光特征,并利用空间和通道注意力机制提升目标所属类别以及所在图像区域的特征权重.其次,将提取的红外特征以自适应加权的方式融入对应维度的可见光特征中,充分弥补目标在单模态模型下的局限.最后,针对多尺度目标,设计了金字塔采样结构,通过交替上采样和下采样方式来充分融合目标全局及局部特征,增强网络尺度不变性.通过实验验证,所提注意力机制、特征自适应融合以及金字塔采样结构都能有效提升目标检测效果,相比于同类型红外-可见光目标检测方法,该方法可以充分融合目标多模态特征,并有效降低噪声干扰,使网络具有更高的检测性能.同时,在实际电网设备检测中,所提方法也表现出较高泛化能力和鲁棒性,可以准确高效的实现目标设备的识别及定位.     

基于时序注意力机制的红外弱小目标智能检测识别算法框架

针对资源受限、高动态复杂场景下的红外弱小目标检测识别问题,基于时序注意力机制提出了一种轻量化的智能检测识别通用算法框架,使其具备自动提取和学习目标时序变化信息的能力。所提出的算法框架主要在基于卷积神经网络模型的单帧检测识别算法基础上,结合了基于循环神经网络相关模型构造的时序注意力模块,从而使对应算法模型具有自动关联多帧之间目标特征信息变化的功能。在相关红外弱小目标图像数据集上,通过对算法框架与其他方法进行对比,结果表明所提出算法框架显著提升了对红外弱小目标的检测识别准确率。     

基于无预训练卷积神经网络的红外车辆目标检测

为解决基于卷积神经网络的目标检测算法对预训练权重的过度依赖,特别是数据稀缺条件下的红外场景目标检测,提出了融入注意力模块来缓解不进行预训练所带来的检测性能下降的方法.本文基于YOLO v3算法,在网络结构中融入模仿人类注意力机制的SE和CBAM模块,对提取的特征进行通道层面和空间层面的重标定.根据特征的重要程度,自适应...     

基于深度学习与特征融合的人脸识别算法

卷积神经网络在人脸识别研究上有较好的效果,但是其提取的人脸特征忽略了人脸的局部结构特征。针对此问题,文中提出一种基于深度学习与特征融合的人脸识别方法。该算法将局部二值模式信息与原图信息相结合作为SDFVGG网络的输入,使得提取的人脸特征更加丰富且更具表征能力。其中,SDFVGG网络是将VGG网络进行深浅特征相融合后的网络。在CAS-PEAL-R1人脸数据库上的实验表明,将网络深浅特征相融合与在卷积神经网络中加入LBP图像信息与原图信息相融合的特征信息对于提高人脸识别准确率非常有效,可得到优于传统算法和一般卷积神经网络的最高98.58%人脸识别率。     

基于卷积稀疏自编码的图像超分辨率重建

针对卷积稀疏编码算法中特征映射的准确性的问题,为了进一步提高图像超分辨率重建的的质量,文中提出一种基于卷积稀疏自编码的图像超分辨率重建算法。该算法首先在预训练阶段利用稀疏自编码器对输入高低分辨率图像分别进行训练,得到对应的图像稀疏特征表示;然后再由卷积神经网络根据得到的稀疏系数共同训练相应的滤波器及特征映射函数并更新到最优解;最后由高分辨率滤波器和对应的稀疏表示系数卷积求和,得到高分辨率重建图像估计。实验结果显示,改进算法的峰值信噪比（PSNR）结果较卷积稀疏编码算法提高了近0.1 dB,有效提高了重建图像的质量。     

基于高效用神经网络的文本分类方法

现有的基于深度学习的文本分类方法没有考虑文本特征的重要性和特征之间的关联关系,影响了分类的准确率.针对此问题,本文提出一种基于高效用神经网络（High Utility Neural Networks,HUNN）的文本分类模型,可以有效地表示文本特征的重要性及其关联关系.利用高效用项集挖掘（Mining High Utility Itemsets,MHUI）算法获取数据集中各个特征的重要性以及共现频率.其中,共现频率在一定程度上反映了特征之间的关联关系.将MHUI作为HUNN的挖掘层,用于挖掘每个类别数据中重要性和关联性强的文本特征.然后将这些特征作为神经网络的输入,再经过卷积层进一步提炼类别表达能力更强的高层次文本特征,从而提高模型分类的准确率.通过在6个公开的基准数据集上进行实验分析,提出的算法优于卷积神经网络（Convolutional Neural Networks,CNN）,循环神经网络（Recurrent Neural Networks,RNN）,循环卷积神经网络（Recurrent Convolutional Neural Networks,RCNN）,快速文本分类（Fast Text Classifier,FAST）,分层注意力网络（Hierarchical Attention Networks,HAN）等5个基准算法.     

基于卷积神经网络的Android流量分类方法

深度学习就是机器学习研究的过程,主要通过模拟人脑分析学习的过程对数据进行分析。目前,深度学习技术已经在计算机视觉、语音识别、自然语言处理等领域获得了较大发展,并且随着该技术的不断发展,为网络流量分类和异常检测带来了新的发展方向。移动智能手机与大家的生活息息相关,但是其存在的安全问题也日益凸显。针对传统机器学习算法对于流量分类需要人工提取特征、计算量大的问题,提出了基于卷积神经网络模型的应用程序流量分类算法。首先,将网络流量数据集进行数据预处理,去除无关数据字段,并使数据满足卷积神经网络的输入特性。其次,设计了一种新的卷积神经网络模型,从网络结构、超参数空间以及参数优化方面入手,构造了最优分类模型。该模型通过卷积层自主学习数据特征,解决了传统基于机器学习的流量分类算法中的特征选择问题。最后,通过CICAndmal2017网络公开数据集进行模型测试,相比于传统的机器学习流量分类模型,设计的卷积神经网络模型的查准率和查全率分别提高了2.93%和11.87%,同时在类精度、召回率以及F1分数方面都有较好的提升。     

特征选择与深度学习相结合的极化SAR图像分类

给出了一种特征选择与深度学习相结合的极化合成孔径雷达(polarimetric synthetic aperture radar, PolSAR)图像有监督分类算法。该算法首先根据极化SAR图像数据以及目标分解获取原始特征参数集,然后利用随机森林(Random Forest, RF)方法对特征参数集进行重要性评估,并根据特征重要性排名选择最优极化特征。以最优极,化特征为输入,通过卷积神经网络(convolutional neural network, CNN)学习多层特征信息,再利用训练好的网络模型对极化SAR图像进行分类。利用美国AIRSAR机载系统采集的实测数据进行实验,并同已有经典有监督分类算法进行比较,结果表明本文算法能够选取有效的极化特征,最终得到较为准确的分类效果。      

基于线性映射场的fNIRS信号特征提取与分析

大脑功能性激活的相关研究普遍存在特征提取依赖人工经验、深层次生理学信息难以挖掘两大问题。针对这两个问题,该文通过引入变分模态分解(VMD)技术,提出自适应VMD算法。该算法考虑了脑血氧信号在不同频段下的生理意义,降低了传统VMD对超参数选取的依赖。实验结果表明自适应VMD算法能够精确地提取出功能性近红外光谱(fNIRS)中富有生理学意义的有效模态分量,进而提升数据预处理效果。在此基础上,基于将时间序列映射成图像并使用深度卷积神经网络进行特征学习的思路,提出线性映射场(LMF)。基于LMF,该文以较低的运算量将fNIRS序列映射成2维图像,辅以深度卷积神经网络,实现了fNIRS生理信号深层次特征的提取。实验结果证明了所提出LMF的优势。最后,该文对提出方法的有效性进行了讨论与分析,说明了不同于循环神经网络仅能“顺序”地感知时间序列,卷积神经网络对时间序列的“跳跃”感知是其取得优异效果的关键。     

基于特征排列和空间激活的显著物体检测方法

显著物体检测目前在计算机视觉领域中非常重要,如何处理不同尺度的特征信息成为能否获得优秀预测结果的关键。该文有两个主要贡献,一是提出一种用于显著目标检测的特征排列方法,基于自编码结构的卷积神经网络模型,利用尺度表征的概念将特征图进行分组和重排列,以获得一个更加泛化的显著目标检测模型和更加准确的显著目标预测结果;二是在输出部分利用了双重卷积残差和FReLU激活函数,抓取更全面的像素信息,完成空间信息上的激活。利用两种算法的特点融合作用于模型的学习训练。实验结果表明,将该文算法与主流的显著目标检测算法进行比较,在所有评测指标上都达到了最优的效果。     

基于深度卷积神经网络的多特征融合的手势识别

针对传统的分类方法由于提取的特征比较单一或者分类器结构过于简单,导致手语识别率较低的问题,本文将深度卷积神经网络架构作为分类器与多特征融合算法进行结合,通过使用纹理特征结合形状特征做到有效识别。首先纹理特征通过LBP、卷积神经网络和灰度共生矩阵方法得到,其中形状特征向量由Hu氏不变量和傅里叶级数组成。为了避免过拟合现象,使用"dropout"方法训练深度卷积神经网络。这种基于深度卷积神经网络的多特征融合的手语识别方法,在"hand"数据库中,对32种势的识别率为97.73%。相比一般的手语识别方法,此方法鲁棒性更强,并且识别率更高。     

基于图网络优化及标签传播的小样本图像分类算法

近年来,虽然深度学习技术在图像分类任务中取得了有竞争力的表现,但实际应用中,往往存在缺乏大量训练样本的情况,易于产生过拟合现象.小样本学习技术为此提供了解决方案.由于图神经网络在表示类内和类间样本关系上的优势,已被用于小样本图像分类任务.现有算法是通过几个卷积块获取图像特征作为节点特征输入图网络,为了更好的表示图节点之...