深度学习及其在医学图像分析中的应用研究

深度学习被引入机器学习领域与大数据的完美结合加快了人工智能实现的涉伐,近年来备受学术界和工业界的广泛关注.从深度学习的3种经典模型出发,主要做了5方面的工作:第一,针对深度信念网络,从网络结构(隐含层数、RBM结构、DBN级联),学习算法(基本算法、优化算法与其他方法结合),硬件系统(GPU,FPGA)三个方面进行总结;第二,针对卷积神经网络,从网络结构(输入层、隐含层、CNN个数),学习算法,硬件系统三个方面进行归纳;第三,针对堆栈自编码器,以时间为轴对其发展进行梳理,阐述相应自编码器的方法改进;第四,从医学图像分割、医学图像识别和计算机辅助诊断3个方面详细探讨深度学习在医学图像分析领域中的应用;最后从大数据浪潮、模型构建、特征学习、应用拓展4个方面对深度学习的发展进行展望.     

基于卷积神经网络的图像分类算法综述

随着大数据的到来以及计算能力的提高,深度学习(Deep Learning, DL)席卷全球。传统的图像分类方法难以处理庞大的图像数据以及无法满足人们对图像分类精度和速度上的要求,基于卷积神经网络(Convolutional Neural Network, CNN)的图像分类方法冲破了传统图像分类方法的瓶颈,成为目前图像分类的主流算法,如何有效利用卷积神经网络来进行图像分类成为国内外计算机视觉领域研究的热点。本文在对卷积神经网络进行系统的研究并且深入研究卷积神经网络在图像处理中的应用后,给出了基于卷积神经网络的图像分类所采用的主流结构模型、优缺点、时间/空间复杂度、模型训练过程中可能遇到的问题和相应的解决方案,与此同时也对基于深度学习的图像分类拓展模型的生成式对抗网络和胶囊网络进行介绍;然后通过仿真实验验证了在图像分类精度上,基于卷积神经网络的图像分类方法优于传统图像分类方法,同时综合比较了目前较为流行的卷积神经网络模型之间的性能差异并进一步验证了各种模型的优缺点;最后对于过拟合问题、数据集构建方法、生成式对抗网络及胶囊网络性能进行相关实验及分析。      

残差神经网络及其在医学图像处理中的应用研究

残差神经网络（ResNet）是近几年来深度学习研究中的热点,在计算机视觉领域取得较好成就.本文对残差神经网络从以下几个方面进行总结：第一,阐述残差神经网络的基本结构和工作原理;第二,在模型发展方面,以时间为顺序总结了残差神经网络的8种网络模型;第三,在结构优化方面,从残差神经网络的卷积层、池化层、残差单元、全连接层以及整个网络5个方面进行总结;最后,将ResNet应用到医学图像处理领域,主要从图像识别和图像分割2个方面探讨.本文对残差神经网络的原理、模型、结构进行了系统地总结,对残差神经网络的研究发展具有一定的积极意义.     

基于卷积神经网络的图像识别算法研究

针对深度学习下的图像识别技术,研究了图像识别和卷积神经网络的工作原理。分析了AlexNet模型、ResNet模型、MobileNet模型的卷积神经网络模型,以及三种算法模型的各自特点,实现了深度学习环境的搭建,通过实验对比三个模型的分类准确率和训练效率,为深度学习下的图像识别算法研究提供参考。     

基于深度学习的手语识别综述

手语识别涉及计算机视觉、模式识别、人机交互等领域,具有重要的研究意义与应用价值。深度学习技术的蓬勃发展为更加精准、实时的手语识别带来了新的机遇。该文综述了近年来基于深度学习的手语识别技术,从孤立词与连续语句两个分支展开详细的算法阐述与分析。孤立词识别技术划分为基于卷积神经网络(CNN)、3维卷积神经网络(3D-CNN)和循环神经网络(RNN) 3种架构的方法;连续语句识别所用模型复杂度更高,通常需要辅助某种长时时序建模算法,按其主体结构分为双向长短时记忆网络模型、3维卷积网络模型和混合模型。归纳总结了目前国内外常用手语数据集,探讨了手语识别技术的研究挑战与发展趋势,高精度前提下的鲁棒性和实用化仍有待于推进。     

结合深度卷积循环网络和时频注意力机制的单通道语音增强算法

语音增强的目的是从带有噪声的语音中分离出纯净语音，实现语音的质量和可懂度的提高。近年来，采用有监督学习的深度神经网络已经成为了语音增强的主流方法。卷积循环网络是一种新型的神经网络结构，包含编码层、中间层、解码层三个主要模块，其已经在语音增强任务中取得了较好的效果。时频注意力机制是一个由数个相连的卷积层通过跳跃连接构成的简单网络模块，在训练过程中可以计算语音幅度谱特征图的非邻域相关性，从而更加有利于网络关注到语音的谐波特性。本文将时频注意力机制引入卷积循环网络的编码层和解码层中，实验结果表明，在不同信噪比条件下，该方法相比基线卷积循环网络能够进一步提高语音质量和可懂度，且增强后的语音信号可以保留更多的语谱谐波信息，实现更低程度的语音失真。      

基于深度学习的图像分类研究综述

近年来,深度学习在计算机视觉领域中的表现优于传统的机器学习技术,而图像分类问题是其中最突出的研究课题之一。传统的图像分类方法难以处理庞大的图像数据,且无法满足人们对图像分类精度和速度的要求,而基于深度学习的图像分类方法突破了此瓶颈,成为目前图像分类的主流方法。从图像分类的研究意义出发,介绍了其发展现状。其次,具体分析了图像分类中最重要的深度学习方法（即自动编码器、深度信念网络与深度玻尔兹曼机）以及卷积神经网络的结构、优点和局限性。再次,对比分析了方法之间的差异及其在常用数据集上的性能表现。最后,探讨了深度学习方法在图像分类领域的不足及未来可能的研究方向。     

一种结合Transformer和CNN的散斑图复原网络

近年来,深度学习已成功应用于计算成像领域,并取得了显著的成果。目前,实现激光透过散射介质后的图像复原技术成为热门的研究课题,本文提出了一种包含双编码器的深度学习网络模型Trans＿CNN,从散斑图复原目标物图像,该网络融合了来自Transformer编码器和卷积神经网络编码器的信息,并将融合的编码信息传递给解码器获得复原结果,从散斑图中最大程度地学习全局特征和局部特征,从而更好地从散斑图复原出目标图像。实验结果证明Trans＿CNN网络在复原散斑图像方面具有更好的性能和复原图像质量较好。     

基于光网络的深度学习算法研究

光网络是一种轻便的、通用的和纯基于Matlab的深度学习框架。其思想是为深度学习研究提供一个易于理解、易于使用和高效的计算平台。实现此框架可以支持大部分深度学习架构例如多层感知器网络(MLP)、卷积神经网络(CNN)和循环神经网络(RNN)。该框架支持CPU和GPU无缝转换。实验证明此框架在计算机视觉、自然语言处理以及机器人技术中有不同的应用。     

基于深度卷积神经网络的交通流量预测数学模型设计

精确的交通流量预测是实现未来智能交通的关键技术。神经网络模型在该领域的预测方面具有一定的优势。因此,为了提高预测精度,设计一种基于深度卷积神经网络的交通流量预测数学模型。首先,对交通流量数据的预处理方法进行分析,然后结合特征训练过程和卷积神经网络构建深度神经网络结构,并给出深度神经网络的配置参数。利用美国明尼苏达大学UMD分校的交通流数据集进行仿真实验,结果表明,提出的模型可以对短时交通全局趋势进行预测,并具有较好的稳定性和预测精度。     

基于机器学习的语音情感识别技术研究

针对快速发展的语音情感识别技术,归纳总结了机器学习算法在语音情感识别领域的发展过程并预测语音情感识别技术的发展方向.首先针对语音情感的离散描述模型,总结语音情感识别模型训练和识别算法的一般过程;然后,根据机器学习算法的发展阶段,分别对比分析传统机器学习算法,深度神经网络、卷积神经网络、循环神经网络等深度学习算法与语音情...     

卷积神经网络的发展与应用综述

在深度学习大热的现今,人们创造出了许多足以颠覆以前对于机器的认知的程序,如击败李世石的Alpha GO以及之后青出于蓝的Alpha Go Zero,在网络春晚上大放异彩的钢琴机器人特奥等。这些都是以前的浅层网络难以达到的水准,因此越来越多的研究者投入到深层神经网络之中,使得其逐渐成为了目前深度学习的主要形式,本文所介绍的卷积神经网络便是其中的一种代表性的结构。文章主要先讲述了卷积神经网络的发展;之后了解其结构以及各个部分分别在其中起到了怎样的作用;再次,介绍卷积神经网络的改进方法和目前的几个改进网络;最后,文章会介绍一下卷积神经网络具体应用的领域并且在结尾提出目前这一领域所需要面对的需要解决的问题。     

基于深度卷积神经网络的图像语义分割

近年来,以深度卷积神经网络(DEEP Convolutional Neural Network,DCNN)为代表结合条件随机场(Conditional Random Field,CRF)的深度学习算法在图像分割领域中有非常出色的表现。文中首先介绍传统的深度卷积神经网络在图像分割中面临的三个问题以及所借鉴的相关理论;其次介绍对传统深度卷积神经网络三个方面的改进;最后是本次实验的结果和分析。     

文本阅读理解的快速多粒度推断深度神经网络

机器阅读理解任务(MRC)是自然语言处理领域的重要研究方向,通过深度学习网络来进行机器阅读理解课题研究已成为目前的主流方法。考虑到深度网络中的计算冗余与同质性现象,本文提出了一个快速多粒度推断深度神经网络(FMG)。FMG模型在纵向上以卷积神经网络和注意力机制为基本底层架构,横向上以多粒度的文章文本表征与问题表征分层交互融合,共同实现答案的推断。实验结果表明,多粒度推断机制在提高模型表现上具有一定的有效性,且相比于经典循环神经网络,模型实现了训练速度上的进一步提升。     

基于深度学习的Attention机制文献综述

主要对机器学习中深度学习内应用较广、效果较好的一种Attention注意力机制的相关知识进行了总结。首先从背景、原理、分类、比较、应用场景等方面入手,参考了多篇文献;背景方面,介绍了深度学习、自然语言处理（natural language processing,NLP）的相关技术的研究现状,并明确了Attention在其中的定位;原理方面,由于self-attention的优越性和广泛应用,主要对self-attention进行了阐述;最后对不同的Attention类别进行了整理,依据不同的分类标准,划分了6大类别,并分别对其进行介绍。此外,将经典的卷积神经网络（convolutional neural network,CNN）、循环神经网络（recurrent neural network,RNN）与Attention机制进行对比,进一步明确了Attention在当前的深度学习中的地位,最后对应用场景进行了简要的介绍。     

集成学习在短文本分类中的应用研究

为了进一步提高基于深度神经网络短文本分类性能,提出将集成学习方法应用于5种不同的神经网络文本分类器,即卷积神经网络、双向长短时记忆网络、卷积循环神经网络、循环卷积神经网络、分层注意力机制神经网络,分别对两种集成学习方法(Bagging,Stacking)进行了测试。实验结果表明:将多个神经网络短文本分类器进行集成的分类性能要优于单一文本分类模型;进一步两两集成的实验验证了单个模型对短文本分类性能的贡献率。     

弱标签声音事件检测的空间-通道特征表征与自注意池化

深度神经网络声音事件检测方法需要大量标记声音事件类别和起止时间的强标签音频样本,然而强标签标注非常困难和耗时.弱标签声音事件检测是解决这一困难的有效途径.本文将弱标签声音事件检测作为多实例学习问题,并基于卷积循环神经网络提出弱标签声音事件检测的空间-通道特征表征与自注意池化方法 .该方法研究多实例弱标签声音事件检测的特征表征和帧级预测结果池化两个方面的内容.在特征表征方面,为了增强卷积神经网络的特征表征能力,结合上下文门控和通道注意机制构建门控注意力结构并嵌入到卷积循环神经网络中,实现了音频样本特征的空间和通道特征选择;在预测结果池化方面,引入自注意思想设计音频帧预测结果的自注意池化方法,增强了音频样本中事件帧之间的相关度,使事件帧获得更大的权重.本文方法通过对卷积循环神经网络特征表征和预测结果池化的革新,有效提升了模型的检测性能.本文提出的方法在DCASE 2017任务4和DCASE 2018任务4数据集的评估集中分别取得了52.47%和31.00%的F1得分,性能优于当前绝大部分的弱标签声音事件检测方法 .实验结果表明：本文提出的空间-通道特征表征与自注意池化方法能显著改善弱标签声...     

一种优化的卷积神经网络深度学习算法

为了提高卷积神经网络的识别精度,提出网络权值优化操作。构建SOM网络对样本进行预学习,从而自组织地挖掘样本的本质分布,并且计算网络的学习精度,将最优学习结果的神经元用于初始化卷积神经网络;而后对卷积神经网络总体权值进行迭代,记录最佳模型作为识别网络,实验结果表明优化后的卷积神经网络识别精度得到了提高。     

基于深度学习的小麦表型信息识别与分类

植物表型是植物受自身基因表达、环境等影响后的外在表现,其决定了农作物产量、品质和抗逆性等。大多数植物表型信息可以通过数字图像处理的方法来获取和分析,且随着深度学习在数字图像处理领域的进展,基于深度学习的图像处理在技术表现上远胜于传统方法。深度学习在网络中有更多的隐藏层,具有更大的鉴别能力和预测能力。文中使用深度学习中的卷积神经网络来自动识别数据集中的定量特征,验证了该方法在小麦植物表型识别、分类、特征识别和定位中的高精度应用。     

一种优化的卷积神经网络调制识别算法

针对非合作接收条件下信号的调制识别问题,提出了一种基于循环谱特征和深度卷积神经网络的自动调制分类算法。该算法首先利用二值化、形态学操作等技术对循环谱数据集预处理,提高网络泛化能力;然后将数据集输入到卷积神经网络模型中,经过网络的特征提取实现分类识别。在网络中添加残差块网络增大感受野,提高特征提取能力。采用Dropout、优化函数等技术优化网络结构,防止训练过拟合。仿真结果表示,与传统方法和现有的一些深度学习调制识别方法相比,该算法在低信噪比条件下有更高的准确率,具有明显的抗噪声优势,是一个有效的调制识别算法。