卷积神经网络的架构与应用发展

近年来,在高科技领域,神经网络的发展逐渐成为研究的重点。在深度学习中,CNN是最先成功的案例,最引人关注的特点是其局部连接、权值共享等特性,这些特性相比传统的神经网络可以有效降低网络复杂程度、减少训练参数。但现实中,还需要对网络进行多种优化才能达到最终效果。因此近年来出现的一些网络架构在很大程度上优化了神经网络,取得了更好的效果。笔者主要总结了一些卷积神经网络的典型架构和相关领域的应用。     

卷积神经网络在车牌分类器中的应用

传统的基于边缘、颜色、纹理及机器学习等方法进行的车牌定位,需要对车牌图像进行复杂的特征提取,不但训练过程容易造成过拟合或者维数灾难,而且识别结果也易受光照、道路环境及图像质量等因素的影响,虽然漏识别率低,但误识别率高。针对车牌分类问题,利用深度学习中的卷积神经网络,避免了传统模式分类算法在前期对图像复杂的预处理,降低了设计提取特征算法时对丰富经验的依赖。综合对比了BP神经网络、支持向量机、卷积神经网络三种算法,实验结果表明,卷积神经网络在车牌分类中具有较好的表现,识别率高达98.25%,也证明了深度学习在智能交通领域具有较大的应用前景。     

卷积神经网络在图像处理中的应用研究

近几年来,卷积神经网络被广泛应用于图像处理和目标检测等领域,并且取得了很多突破性的研究成果。本文介绍了卷积神经网络的基本原理和计算机中图像的存储,并介绍了卷积神经网络在黑白图像上进行模糊、锐化、边缘检测、浮雕效果、渐变效果等处理的应用。采用不同的卷积核对图像处理会有不同的影响,这对研究图像处理和识别有很重要的意义。     

卷积神经网络在车辆目标快速检测中的应用

我国机动车保有量急速增长,产生一系列严重的安全与交通问题.与此同时,视频图像文件呈爆炸式增长,为公安的监控、刑侦以及案件的侦破带来了很大的困扰.车辆目标检测与识别越来越受到人们的关注,研究一种高效而准确的车辆目标检测方法意义重大.在YOLO目标检测框架的基础上,设计了一种卷积神经网络的车辆检测及其车型粗粒度识别方法.网络结构采用多层感知机卷积层,增加特征映射的非线性处理能力;移除原来模型中的全连接层,利用锚点框预测目标的边界框,在降低模型复杂度的同时提高了目标检测的召回率.实验结果表明,与主流的目标检测方法相比,该车辆目标检测方法在处理速度和准确度上都有提高,在迭代20 000次的情况下,平均准确率为94.7%.     

卷积神经网络在图像识别中的应用

随着医学成像技术的不断发展,病理识别在医学诊断过程中的作用越来越重要。人工智能领域的机器学习可以帮助完成医学图像诊断的自动识别,数字化地辅助医学诊断过程,同时降低医务工作者的工作量。卷积神经网络(CNN)是近年发展起来的一种非常有效的机器学习方法,属于深度学习的范畴,它能够完整地模拟人类的图像识别过程,并且已经在图像识别领域取得了优异的成绩。本文将卷积神经网络应用于病理图像的识别中,同时对病理图片进行了采集、整理和智能学习,完成并分析了算法对比实验,最终实现了对病理图像的优化识别,提高了病理图像的识别率,验证了算法的有效性。     

双通道卷积神经网络在静态手势识别中的应用

针对静态手势识别任务中,传统基于人工提取特征方法耗时耗力,识别率较低,现有卷积神经网络依赖单一卷积核提取特征不够充分的问题,提出双通道卷积神经网络模型。输入手势图片通过两个相互独立的通道进行特征提取,双通道具有尺度不同的卷积核,能够提取输入图像中不同尺度的特征,然后在全连接层进行特征融合,最后经过softmax分类器进行分类。在Thomas Moeslund和Jochen Triesch手势数据库上进行实验验证,结果表明该模型提高了静态手势识别的准确率,增强了卷积神经网络的泛化能力。     

基于双线性卷积神经网络的车辆多属性分类算法设计

针对图像分类中背景信息太多容易误导分类结果的问题,提出一种筛选—识别网络架构,通过剔除与分类无关的背景信息、定位要分类的感兴趣区域及提高对车辆细粒度分类的准确率.用YOLOv3网络快速寻找需要分类的目标物体,消除背景中无关信息对分类的误导,将结果送入到双线性卷积神经网络进行训练和分类,结果在Cars196数据集中对车辆的车型、颜色和方向的分类精度为92.1％,92.7％,97.4％.利用监控视频自制数据集中对车型、颜色和方向的分类精度为71.3％,68％,85.6％.使用筛选—识别网络架构对车辆的细粒度分类有积极作用,可以剔除大部分对分类没有用的背景信息,更有利于网络学习分类的特征信息,从而避免背景信息对分类结果的误导,提升模型的分类精度.     

改进卷积神经网络在遥感图像分类中的应用

针对传统卷积神经网络（CNN）稀疏网络结构无法保留全连接网络密集计算的高效性和实验过程中激活函数的经验性选择造成结果不准确或计算量大的问题,提出一种改进卷积神经网络方法对遥感图像进行分类。首先,利用Inception模块的不同尺度卷积核提取图像多尺度特征,然后利用Maxout模型学习隐藏层节点的激活函数,最后通过Softmax方法对图像进行分类。在美国土地使用分类数据集（UCM_LandUse_21）上进行的实验结果表明,在卷积层数相同的情况下,所提方法比传统的CNN方法分类精度提高了约3.66%,比同样也基于多尺度深度卷积神经网络（MS_DCNN）方法分类精度提高了2.11%,比基于低层特征和中层特征的视觉词典等方法分类精度更是提高了10%以上。因此,所提方法具有较高的分类效率,适用于图像分类。     

卷积神经网络在图像识别中的应用研究综述

卷积神经网络出现之前图像识别方法主要依赖人工设计特征,而这样的特征只能表征图像中的中低级信息,难以提取图像的深层次信息.卷积神经网络通过建立深度神经网络来模拟人脑分析、学习和解释数据,具有强大的表达能力和泛化能力,能够更好地表示图像的深层次信息.开展基于卷积神经网络对图像识别进行研究可以推动计算机领域的发展.本文先对卷...     

卷积神经网络金相组织自动识别

为了降低人工分辨金相组织图像类别的误差率,提高分辨效率,采用卷积神经网络模型对金相组织图像进行自动辨识。对制备金相样块所得铁素体与马氏体两种金相组织图像进行分析,提出符合金相组织图像分布特征的预处理方案。通过采用图像尺寸归一化、灰度值归一化以及高斯平滑处理等方法,对原始金相组织图像进行预处理,建立金相组织图像数据集。针对建立的铁素体和马氏体金相组织图像数据集,提出了适合金相组织图像辨识的改进模型,分别记为LeNet-MetStr模型、AlexNet-MetStr模型和VGGNet-MetStr模型。对3种改进卷积神经网络进行模型训练及分析,结果表明VGGNet-MetStr模型对2种金相组织图像自动辨识具有更高的准确度。     

基于卷积神经网络的遥感图像分类研究

遥感图像分类是模式识别技术在遥感领域的具体应用,针对遥感图像处理中的分类问题,提出了一种基于卷积神经网络(convolutional neural networks,CNN)的遥感图像分类方法,并针对单源特征无法提供有效信息的问题,设计了一种多源多特征融合的方法,将遥感图像的光谱特征、纹理特征、空间结构特征等按空间维度以向量或矩阵的形式进行有效融合,以此训练CNN模型。实验表明,多源多特征相融合能够加快模型收敛速度,有效提高遥感图像的分类精度;与其他分类方法相比,CNN能够取得更高的分类精度,获得更优的分类效果。     

卷积神经网络在短文本情感多分类标注应用

情感多分类标注对文本信息的敏感性远高于二分类问题。为了有效利用语义依赖距离和语义多层次进行情感多分类,提出一种多窗口多池化层的卷积神经网络模型。首先使用多窗口的卷积层提取上下文局部语义,然后通过多池化层降低特征维度,同时保留不同层次的语义,由多层次语义构成文本特征向量,最后送入全连接层完成多分类标注。采用斯坦福情感树库数据集验证所提模型的多分类标注效果。实验结果表明,在训练集含短语和未包含短语两种设定下,模型的短文本情感多分类正确率分别达到54.6%和43.5%。     

一种高效的稀疏卷积神经网络加速器的设计与实现

针对卷积神经网络计算硬件化实现困难的问题,之前大部分卷积神经网络加速器的设计都集中于解决计算性能和带宽瓶颈,忽视了卷积神经网络稀疏性对加速器设计的重要意义,近来少量的能够利用稀疏性的卷积神经网络加速器设计也往往难以同时兼顾计算灵活度、并行效率和资源开销。本文首先比较了不同并行展开方式对利用稀疏性的影响,分析了利用稀疏性的不同方法,然后提出了一种能够利用激活稀疏性加速卷积神经网络计算的同时,相比于同领域其他设计,并行效率更高、额外资源开销更小的并行展开方法,最后完成了这种卷积神经网络加速器的设计并在FPGA上实现。研究结果表明:运行VGG-16网络,在ImageNet数据集下,该并行展开方法实现的稀疏卷积神经网络加速器和使用相同器件的稠密网络设计相比,卷积性能提升了108.8%,整体性能提升了164.6%,具有明显的性能优势。     

带有协方差矩阵的卷积神经网络在人体运动识别中的应用

目前,深度学习已经在各种人体运动识别(HAR)任务中发挥了重要作用。但是,由于运动数据具有时间序列和包含肢体动作的特殊性,现有神经网络在进行卷积操作时会导致数据高度相关,并且随着网络影响到下一层,这限制了模型的识别效果。为此,提出了一种带有协方差矩阵的改进卷积神经网络用于HAR场景,通过矩阵变换搭建一种去相关的网络结构来消除相关性问题,可以在网络表现不佳时替代现有的批量归一化(BN)层用于归一化数据。在4个HAR公共数据集上进行实验,并与传统CNN和带有BN层的模型进行比较。实验结果表明,对比此前的深度学习网络,改进的神经网络有1%～2%的性能提升,验证了该方法的有效性,并将程序移植到了移动端进行实时运动识别。     

轻量化卷积神经网络在SAR图像语义分割中的应用

针对合成孔径雷达图像的语义分割问题,构建了一个全新的TerraSAR-X语义分割数据集GDUT-Nansha。然后,为解决传统深度学习方法模型体积大,难以在样本数量偏少的合成孔径雷达图像数据集上应用的问题,对轻量化卷积神经网络ENet模型进行了分析和改造。提出了一种改进的轻量化卷积神经网络模型(revised weighted loss eNet,RWL-ENet);针对合成孔径雷达图像数据集样本不平衡问题,使用了带有权重的损失函数。通过和其他经典卷积神经网络语义分割模型的对比实验,验证了新数据集的可靠性;同时,在参数量和模型体积远远小于其他网络模型的前提下,RWL-ENet模型在像素精度、平均像素精度、平均交并比三个定量指标上分别达到了0.884、0.804和0.645。     

基于改进卷积神经网络的多标记分类算法

良好的特征表达是提高模型性能的关键,然而当前在多标记学习领域,特征表达依然采用人工设计的方式,所提取的特征抽象程度不高,包含的可区分性信息不足。针对此问题,提出了基于卷积神经网络的多标记分类模型ML_DCCNN,该模型利用卷积神经网络强大的特征提取能力,自动学习能刻画数据本质的特征。为了解决深度卷积神经网络预测精度高,但训练时间复杂度不低的问题,ML_DCCNN利用迁移学习方法缩减模型的训练时间,同时改进卷积神经网络的全连接层,提出双通道神经元,减少全连接层的参数量。实验表明,与传统的多标记分类算法以及已有的基于深度学习的多标记分类模型相比,ML_DCCNN保持了较高的分类精度并有效地提高了分类效率,具有一定的理论与实际价值。     

多级卷积神经网络的沥青路面裂缝图像层次化筛选

如何快速准确地识别与评估沥青路面裂缝病害,已成为路面养护和保障道路安全的重要任务之 一。实际采集路面图像中往往存在大量的非裂缝图像,在保证裂缝图像无漏筛的前提下,尽可能提高裂缝图像 的精确率与非裂缝图像的真负例率,则对于降低人工筛选的工作强度,以及后续裂缝自动分割与病害损坏程度 评估具有重要实际意义。故此,提出了一种多级卷积神经网络的沥青路面裂缝图像筛选方法,由训练、微调与 验证三阶段构成,利用微调集获得 softmax 层输入微调增量。为避免裂缝图像召回率增加与精确率下降的问题, 在对比不同卷积神经网络筛除的非裂缝图像异同基础上,采用改进 AlexNet 作为一级筛选网络,VGG16 或 ResNet50 作为二、三级筛选网络的层次化处理模型。对于含噪声及复杂路面图像测试集的实验结果表明,三级 层次化筛选模型能在 100%召回裂缝图像时,达到高的真负例率及准确率。与其他方法的对比实验表明,所提 方法可有效解决沥青路面裂缝图像漏筛问题,且具有更好的检测效果。     

基于全卷积神经网络的肝脏CT影像分割研究

针对腹部CT影像邻近器官对比度较低及因个体肝脏形状差异较大等引起肝脏分割困难的问题,提出了全卷积神经网络肝脏分割模型。首先通过卷积神经网络提取图像深层、抽象的特征,再通过反卷积运算对提取到的特征映射进行插值重构后得到分割结果。由于单纯进行反卷积得到的分割结果往往比较粗糙,因此,在反卷积之前,先融合高层与低层的特征,并且通过增加反卷积的层数、减少反卷积步长,得到了更为精确的分割结果。与传统卷积神经网络的分割方法相比,该模型可以充分利用CT影像的空间信息。实验数据表明该模型能够使腹部CT影像肝脏分割具有较高的精度。     

卷积神经网络的多字体汉字识别

目的 多字体的汉字识别在中文自动处理及智能输入等方面具有广阔的应用前景,是模式识别领域的一个重要课题。近年来,随着深度学习新技术的出现,基于深度卷积神经网络的汉字识别在方法和性能上得到了突破性的进展。然而现有方法存在样本需求量大、训练时间长、调参难度大等问题,针对大类别的汉字识别很难达到最佳效果。方法 针对无遮挡的印刷及手写体汉字图像,提出了一种端对端的深度卷积神经网络模型。不考虑附加层,该网络主要由3个卷积层、2个池化层、1个全连接层和一个Softmax回归层组成。为解决样本量不足的问题,提出了综合运用波纹扭曲、平移、旋转、缩放的数据扩增方法。为了解决深度神经网络参数调整难度大、训练时间长的问题,提出了对样本进行批标准化以及采用多种优化方法相结合精调网络等策略。结果 实验采用该深度模型对国标一级3 755类汉字进行识别,最终识别准确率达到98.336%。同时通过多组对比实验,验证了所提出的各种方法对改善模型最终效果的贡献。其中使用数据扩增、使用混合优化方法和使用批标准化后模型对测试样本的识别率分别提高了8.0%、0.3%和1.4%。结论 与其他文献中利用手工提取特征结合卷积神经网络的方法相比,减少了人工提取特征的工作量;与经典卷积神经网络相比,该网络特征提取能力更强,识别率更高,训练时间更短。