基于密集卷积神经网络的全卷积池化算法

目前用于图像识别的大多数卷积神经网络(CNN)都使用相同的原理构建,即:卷积层、池化层、全连接层.文中使用密集卷积神经网络重新评估了用于图像识别的所有组件,并对池化层不存在的必要性提出了质疑.经过实验,分析发现池化层可以由步幅增加的卷积层代替,却不会降低图像识别的准确率.研究中则在DenseNets上训练提出的由卷积层替代池化层的方法,组成新的卷积神经网络体系结构,并在多个图像分类的数据集(CIFAR-10,SVHN)上产生了先进的性能.本文提出了基于密集卷积神经网络(DenseNets)的全卷积池化算法,提高了图像分类的准确率.最后,在多个经典数据集上进行比较,实验结果验证了全卷积池化算法的高效性.     

基于卷积神经网络的网络隐写分析方法研究

针对现有网络隐写分析算法特征提取难度大、算法适用范围单一的问题,文章提出了一种基于卷积神经网络的网络隐写分析方法。对网络数据流进行预处理,将所有数据包处理成大小相同的矩阵,最大限度地保留数据特征完整性;使用异构卷积进行特征提取,减少模型计算量及参数数量,加快模型收敛速度;取消池化层,提高模型训练效率。与传统网络隐写分析方法相比,模型能够自动提取数据特征,识别多种网络隐写算法。     

改进的卷积神经网络实现端到端的水下目标自动识别

由于水声信号的高度复杂性，基于特征工程的传统水下目标识别方法表现欠佳。基于深度学习模型的水下目标识别方法可有效减少由于特征提取过程带来的水声信号信息损失，进而提高水下目标识别效果。本文提出一种适用于水下目标识别场景的卷积神经网络结构，即在卷积模块化设计中引入卷积核为1的卷积层，更大程度地保留水声信号局部特征，且降低模型的复杂程度；同时，以全局平均池化层替代全连接层的方式构造基于特征图对应的特征向量主导分类结果的网络结构，使结果更具可解释性，且减少训练参数降低过拟合风险。实验结果表明该方法得到的水下目标识别准确率（91.7%）要优于基于传统卷积神经网络（69.8%）和基于高阶统计量特征的传统方法识别表现（85%）。这说明本文提出的模型能更好保留水声信号的时域结构，进而提高分类识别效果。      

一种基于R3D网络的人体行为识别算法

现有的行为识别算法不能充分地提取抽象的行为特征,为此提出了基于三维残差卷积神经网络（3D Residual Convolutional Neural Network,R3D）的人体行为识别算法。该网络在三维卷积神经网络（3D Convolutional Neural Network,3D-CNN）基础上加入了残差模块,可以更好地提取时空域的特征,然后通过改变步长大小进行特征图降维,提高网络效率,并加入批量归一化层和Softplus激活函数,提高网络的收敛速度和拟合能力;之后添加Dropout层,降低过拟合风险,并且使用全局平均池化层(Global Average Pooling,GAP)代替全连接层,克服了网络参数量过大的问题;最后,使用Softmax进行分类。实验结果表明,使用R3D网络在HMDB-51数据集上获得了62.3%的识别率。     

基于CNN的SAR图像目标和场景分类算法

随着合成孔径雷达（Synthetic Aperture Radar, SAR）成像技术的发展和SAR图像数据的急剧增加,SAR图像解译技术成为了当前的研究热点。针对SAR图像的目标和场景分类问题,提出了一种改进的基于卷积神经网络的图像分类算法。为克服卷积神经网络训练过程中因数据量不足而出现的过拟合问题,采用数据增强人工增加训练样本的大小;针对高层卷积层参数过多的问题,采用一种多尺度卷积模块替代高层的卷积层;在输出层采用卷积和全局均值池化的组合替代传统的全连接层,大幅度减少了网络参数。网络训练阶段,通过误差反向传播来更新网络参数。针对MSTAR数据集和高分辨率的机载SAR图像分别进行目标及场景分类,实验结果表明该算法实现了较好的分类性能。     

基于ZYNQ的通用型卷积神经网络设计与实现

针对基于FPGA平台的神经网络开发周期过长、调节网络模型麻烦等问题,设计了一种基于ZYNQ的通用型卷积神经网络模型。首先通过Tensorflow平台搭建神经网络并训练得到模型各层权重;其次利用高层次综合工具进行卷积层和池化层的IP核设计;然后在ZYNQ平台上部署模型;最后分别运行了Le Net-5和Alex Net-8神经网络进行验证。实验结果表明模型在只损失极少准确度的情况下,卷积与池化运算速度相比于ARM平台分别提高了3.65倍和2.31倍,并具备通用性。     

卷积自编码器中粗粒度池化特征提取研究

卷积自编码器（Convolutional Auto Encoder,CAE）提取的粗粒度池化特征具有一定范围内旋转和平移的不变性,因而得到广泛使用.然而,目前CAE仍主要依靠经验调节内部参数以获取满足要求的粗粒度池化特征.本文将CAE看作一个整体,从概率上分析了影响其表现的具体原因,构建了一个通用框架用于调节其中的主要参数以获取更好的粗粒度特征.首先从概率上权衡了粗粒度特征在池化层上的判别性与不变性,并在CAE中选择合适的卷积范围和白化参数.然后通过分析池化域内特征的稀疏度选择相应的池化方法以获取具有更好可分离性的粗粒度池化特征.在两个公开数据库（STL-10和CIFAR-10）的实验结果表明本文提出的方法可以指导CAE提取到更好的粗粒度池化特征并在多类分类任务中表现得更好.     

基于空洞卷积的语义图像分割算法研究

图像语义分割是通过对图像中每个像素点分类别地进行标记,使机器能够自动识别并分割出图像中的不同内容。目前全卷积网络进行图像语义分割时,池化层使感受野增大,造成图像空间尺度信息丢失。使用空洞卷积神经网络对图像语义进行分割,能够消除池化层带来的减小图像尺寸问题,保持图像空间维度信息。文章对密集特征提取以及空间金字塔池化模块进行了优化,提出了一种新的语义分割网络。文章基于PASCAL VOC 2012数据集进行算法有效性的验证,相比于之前的算法分割准确性高11.4%。     

考虑评论质量的自注意力胶囊网络评分预测模型

基于评论文档的推荐系统普遍采用卷积神经网络识别评论的语义,但由于卷积神经网络存在“不变性”,即只关注特征是否存在,忽略特征的细节,卷积中的池化操作也会丢失文本中的一些重要信息;另外,使用用户项目交互的全部评论文档作为辅助信息不仅不会提升语义的质量,反而会受到其中低质量评论的影响,导致推荐结果并不准确。针对上述提到的两个问题,该文提出了自注意力胶囊网络评分预测模型(Self-Attention Capsule network Rate prediction, SACR),模型使用可以保留特征细节的自注意力胶囊网络挖掘评论文档,使用用户和项目的编号信息标记低质量评论,并且将二者的表示相融合用以预测评分。该文还改进了胶囊的挤压函数,从而得到更精确的高层胶囊。实验结果表明,SACR在预测准确性上较一些经典模型及最新模型均有显著的提升。     

融合小型深度生成模型的显著性检测

针对基于深度神经网络模型的显著性检测方法中存在的模型训练困难、模型参数量大以及检测速度慢等问题,本文提出了一种融合小型深度生成模型的显著性检测方法.方法以生成对抗网络为框架,设计了包含11个卷积模块和5个池化层的鉴别器网络以及不包含池化层,仅包含15个卷积模块和5个转置卷积模块的小型生成器网络.其中,小型生成器网络大小仅2.4M,参数量仅67万左右.将训练好的小型生成器用于显著性检测,并与LMB(融合背景块再选取过程的显著性检测)算法通过设计的融合算法进行融合,从而得到最终结果.通过大量的实验对比分析表明,提出的方法在F值和MAE(Mean Absolute Error)值上均取得大幅提升.     

基于U2-Net和VGG16的天然气泄露检测

目前在深度学习领域很少以天然气泄露图像为数据进行研究,本文使用甲烷红外图像训练的卷积神经网络(VGG16)来实现泄露检测。另外,针对泄露的甲烷气体与背景图像存在相似性的问题,使用U²-Net图像分割网络代替背景建模方法来提取泄露气体区域。通过迁移VGG16网络模型结构和卷积层参数,在卷积层和激励层之间加入BN层以提高训练速度,将最后一层池化层替换为基于最大池化算法的动态自适应池化方法以提高检测精度。将改进的VGG16神经网络对分割的红外图像进行训练并与其他卷积神经网络进行对比,使用准确率,精准率,召回率和F1-score来对模型进行综合评价,其表现效果最好。与现有的检测方法进行对比,所提出的检测方法准确率更高。该检测方法能够实现高精度泄漏检测,满足天然气泄露检测准确性的要求,且模型具有较好的泛化能力和鲁棒性。     

基于CRNN混合神经网络的多语种识别

在语种识别过程中,为提取语音信号中的空间特 征以及时序特征,从而达到提高多语 种识别准确率的目的,提出了一种利用卷积循环神经网络(convolutional recurrent neural network,CRNN)混合神经网络的多语种识别模型。该模型首先提 取语音信号的声学特征;然后将特征输入到卷积神经网络(convolutional neural network,CNN) 提取低维度的空间特征;再通过空 间金字塔池化层(spatial pyramid pooling layer,SPP layer) 对空间特征进行规整,得到固定长度的一维特征;最后将其输入到循环神经 网络(recurrenrt neural network,CNN) 来判别语种信息。为验证模型的鲁棒性,实验分别在3个数据集上进行,结果表明:相 比于传统的CNN和RNN,CRNN混合神经网络对不同数据集的语种识别 准确率均有提高,其中在8语种数据集中时长为5 s的语音上最为明显,分别提高了 5.3% 和6.1%。     

基于改进U-Net网络的腺体细胞图像分割算法

针对腺体图像在自动分割过程中由于多尺度目标和信息丢失影响导致准确率降低的问题,文中采用了一种引入注意力模块的全卷积神经网络模型。该模型遵循编码器-解码器结构,在编码网络中用空洞残差卷积层代替原有的普通卷积层,并添加空洞金字塔池;再在解码网络中加入注意力模块,使模型输出高分辨率特征图,提高对多尺度目标的分割精度。实验结果表明,提出的网络模型参数少分割精度高,对腺体图像的平均分割精度高达89.7%,具有较好的鲁棒性。     

一种基于残差网络的改进网络流量分类算法

基于卷积神经网络的网络流量分类算法中,为了提高分类准确度,其结构设计日趋复杂,容易出现梯度下滑甚至梯度消失,导致预测准确度不升反降.文章提出了一种基于残差网络的改进流量分类算法,引入残差网络层代替传统卷积神经网络中的卷积层和池化层,不仅缓解了传统卷积网络因层次太深导致难以训练的问题,同时与传统卷积运算相比,所提出的残差...     

基于深度谱卷积神经网络的高效视觉目标跟踪算法

提出了一种基于深度频谱卷积神经网络的视觉目标跟踪算法。该算法在深度模型训练阶段采用谱池化替代深度卷积神经网络中的最大池化过程,用贝叶斯分类器替代softmax损失层计算最大分类值,并将其整合到深度神经网络跟踪框架中,通过新网络计算输入正负样本的概率分布预测目标位置。该算法充分利用谱池化在频域下降维到任意维度且计算高效的优点,克服了最大池化采样造成大量空间信息丢失的不足,提升了计算速度。在权威多场景视频标准测试库上对所提算法进行验证,结果验证了该算法兼顾了效率和跟踪精度,有效提高跟踪器的性能,在相同测试条件下,文中算法性能优于同类对比算法。     

改进的全卷积神经网络的脑肿瘤图像分割

针对现有机器学习算法分割脑肿瘤图像精度不高的问题,提出一种基于改进的全卷积神经网络的脑肿瘤图像分割算法。算法首先将FLAIR、T2和T1C三种模态的MR脑肿瘤图像进行灰度归一化,随后利用灰度图像融合技术得到肿瘤信息更加全面的预处理图像;然后采用融合三次脑肿瘤特征信息的改进全卷积神经网络对预处理图像进行粗分割,并且在每个卷积层后加入批量正则化层以加快网络训练的收敛速度,提高训练模型精度;最后融合全连接条件随机场细化粗分割结果中的脑肿瘤边界。实验结果表明,相较于传统的卷积神经网络脑肿瘤图像分割算法,本算法在分割精度和稳定性上有了较大提升,平均Dice可达91.29%,实时性较好,利用训练模型平均1s内可完成单张脑肿瘤图像的分割。      

一种有效融合多尺度特征的图像语义分割方法

卷积神经网络在高级计算机视觉任务中展现出强 大的特征学习能力,已经在图像语义 分割任务 中取得了显著的效果。然而,如何有效地利用多尺度的特征信息一直是个难点。本文提出一 种有效 融合多尺度特征的图像语义分割方法。该方法包含4个基础模块,分别为特征融合模块(feature fusion module,FFM)、空 间信息 模块(spatial information module,SIM)、全局池化模块(global pooling module,GPM)和边界细化模块(boundary refinement module,BRM)。FFM采用了注意力机制和残差结构,以提高 融合多 尺度特征的效率,SIM由卷积和平均池化组成,为模型提供额外的空间细节信息以 辅助定 位对象的边缘信息,GPM提取图像的全局信息,能够显著提高模型的性能,BRM以残差结构为核心,对特征图进行边界细化。本文在全卷积神经网络中添加4个基础模块, 从而有 效地利用多尺度的特征信息。在PASCAL VOC 2012数据集上的实验结 果表明该方法相比全卷积神 经网络的平均交并比提高了8.7%,在同一框架下与其他方法的对比结 果也验证了其性能的有效性。     

一种改进的噪声图像语义分割方法

在图像的获取和传输过程中,可能会出现噪声, 它不仅破坏了图像的真实信息,而且严重影响了图像的视觉效果。因此, 噪声图像的语义分割成为图像分析中最具挑战性的问题之一。为了提高噪声图像的分割性能 ,本文在分析全卷积网络(FCN)的 基础上,提出一种改进的FCN模型(IFCN)对噪声图像语义分割。该算法采用一种新的中值 池化方法代替卷积神经网络的最大值 池化,可以在去除噪声的同时保留更多边缘信息。在训练整个深度网络时,通过反向传播算 法以一种直接的端到端,像素到像素 的方式映射。实验结果表明,提出的模型在PASCAL VOC2012数据集上对噪声图像语义分割 可以获得比较好的分割效果,准确率mean IU达到86.5%。     

基于深度学习的车联边缘网络交通事故风险预测算法研究

针对传统交通事故风险预测算法无法自动判别数据特征,且模型表达能力差等问题。该文提出一种基于深度学习的车联边缘网络交通事故风险预测算法,该算法首先针对车载自组织网络中采集的大量交通数据,采用边缘服务器中建立的卷积神经网络自主提取多维特征,经归一化、去均值等预处理后,再将得到的新变量输入卷积层、采样层进行训练,最后根据全连接层输出的判别值,得到模拟预测交通事故发生的风险性。仿真结果表明,该算法被验证能够预测交通事故发生的风险性,较传统的机器学习算法BP神经网络、逻辑回归具有更低的损失与更高的预测准确度。