基于卷积神经网络的fMRI数据分类方法*

功能性磁共振成像(fMRI)数据分类方法无法有效提取fMRI数据的局部特征,影响分类准确性.因此文中提出基于卷积神经网络的fMRI数据分类方法.首先设计卷积神经网络结构,并根据卷积神经网络的卷积核尺寸构建受限玻尔兹曼机模型.然后使用fMRI数据感兴趣区域体素构造数据,对受限玻尔兹曼机进行预训练,并将训练得到的权重矩阵进行相对变换,用于初始化卷积神经网络的卷积核参数.最后训练初始化好的整个模型,得到最终的分类模型.在Haxby和LPD数据集上的实验表明,文中方法可以有效提升fMRI数据的分类准确率     

深度学习在肺结节辅助诊断中的应用

肺癌位居癌症死亡率首位,对其进行早期诊断和治疗可降低肺癌患者的死亡率。深度学习能够自动提取结节特征,并完成肺结节的良恶性及恶性等级分类,因此深度学习方法成为肺癌早期诊断的重要手段。对常用数据集进行介绍,系统阐述了栈式去噪自编码器（SDAE）、深度置信网络（DBN）、生成对抗网络（GAN）、卷积神经网络（CNN）、循环神经网络（RNN）和迁移学习技术在肺结节良恶性分类中的应用,阐述了深度卷积生成对抗网络（DCGAN）、多尺度卷积神经网络（MCNN）、U型网络（U-Net）和集成学习技术在肺结节恶性等级分类中的应用,针对肺结节分类的深度学习方法进行了综合分析,并对未来研究方向进行展望。     

基于图像识别的带式输送机输煤量和跑偏检测方法

传统的卷积神经网络(CNN)是单任务网络,为实现带式输送机输煤量和跑偏的同时检测,使用2个卷积神经网络分别对输煤量和跑偏进行检测,导致网络体积大、参数多、计算量大、运行时间长,严重影响检测性能.为降低网络结构的复杂性,提出了一种基于多任务卷积神经网络(MT-CNN)的带式输送机输煤量和跑偏检测方法,可使输煤量检测和跑偏检测这2个任务共享同一个网络底层结构和参数.在VGGNet模型的基础上,增大卷积核和池化核的尺度,减少全连接层通道数量,改变输出层结构,构建了MT-CNN;对采集的输送带图像进行灰度化、中值滤波和提取感兴趣区域等预处理后,获取训练数据集和测试数据集,并对MT-CNN进行训练;使用训练好的MT-CNN对输送带图像进行识别分类,实现输煤量和跑偏的准确、快速检测.实验结果表明,训练后的MT-CNN在测试数据集中检测准确率为97.3%,平均处理每张图像的时间约为23.1 ms.通过现场实际运行验证了该方法的有效性.     

基于无效卷积核权值回退的神经网络优化方法

在神经网络模型训练过程中,存在部分卷积核退化为无效卷积核,在神经网络推理过程失去作用的问题。针对该问题,提出了一种仅使用单个模型就能在训练过程中激活无效卷积核,提高模型性能的方法。首先将初始模型训练至收敛时刻;然后通过L1正则和卷积核相关性两种方式衡量卷积核的有效性;最后将无效卷积核的权值回退到模型训练的初期阶段并对模型进行重训练。在CIFAR-10、CIFAR-100等图像分类的数据集上的实验结果表明,无论是在残差网络还是在轻量级网络上,提出的方法都能有效地恢复无效卷积核,提高神经网络模型精度。相比之前的方法,该方法在低代价下达到了最佳效果,在图像分类任务上平均提高了0.93%的准确率。     

基于神经网络架构搜索的肺结节分类算法

肺结节分类是早期肺癌诊断的重要任务。基于深度学习的肺结节分类方法虽然能够取得良好的分类精度,但存在模型复杂和可解释性差的问题。为此,提出了一种基于神经网络架构搜索的肺结节分类算法。首先,将注意力残差卷积cell作为搜索空间的基本单元,并使用偏序剪枝方法作为搜索策略来构建神经网络架构以搜索3D分类网络,从而达到网络性能和搜索速度的平衡。其次,在网络中构建了多尺度通道和空间注意力模块来提高特征描述和类别推理的可解释性。最后,采用堆叠法将搜索到的网络架构进行多模型的融合,从而获取精准的肺结节良恶性分类预测结果。实验结果表明,在肺结节分类常用数据集LIDC-IDRI上,所提算法与最新肺结节分类算法相比具有较好的分类性能和较快的收敛,且所提算法的特异性和精确率分别达到95.37%和93.42%,能够实现良恶性肺结节的准确分类。     

基于改进CNN-LSTM的网络入侵检测模型研究

针对网络入侵检测模型特征提取算法复杂、训练参数过多、检测结果不理想等问题,提出一种改进卷积神经网络与长短期记忆网络结合的网络入侵检测方法(GCNN-LSTM)。首先,使用卷积神经网络对流量数据做特征选择,并选择全局池化层代替其中的全连接层;其次,结合长短期记忆网络强大的时间序列学习能力对改进卷积神经网络选择后的特征进行学习分类,以期在网络异常数据检测方面获得更好的效率和准确率。实验结果表明,提出的模型在UNSW-NB15数据集上有着较好的检测效果。在同等条件下,使用传统卷积神经网络的模型准确率为84.97%,训练时间为76.3 s;本模型准确率达到了88.96%,训练时间为61.1 s。     

基于卷积神经网络的滚动轴承故障诊断方法

为了简单、准确地进行轴承故障诊断,结合深度学习理论,对基于卷积神经网络的滚动轴承故障诊断方法进行了研究;首先,选用了结构相对简单的LeNet5卷积神经网络;然后,对轴承振动信号原始数据进行截取和归一化处理后直接生成生成二维矩阵作为神经网络输入;接着,优选卷积核大小、批大小、学习率及迭代次数等网络模型参数;最后,应用sigmoid函数进行多标签分类;实验结果表明,该方法能有效识别正常状态及不同损伤程度下的内圈、外圈、滚动体故障状态,识别准确率达到99.50%以上水平;基于卷积神经网络的滚动轴承故障诊断方法不仅在一定程度上可以简化故障诊断的过程,而且可以充分利用卷积神经网络模型的优势实现高效准确地故障诊断。     

基于卷积神经网络特征融合的人脸识别算法

为提高卷积神经网络的识别性能,提出了一种基于多种卷积神经网络模型的特征融合方法。论文通过构建一个深度学习网络,将多种卷积神经网络模型如ResNet、InceptionV3和VGG19提取的特征进行融合,并将融合后的特征应用到人脸识别中,据此训练出特征融合网络模型的网络参数;最后利用计算求出的阈值来区分类别。实验结果表明,在人脸库LFW数据集上,论文算法的人脸识别率可达98%;与现有的单一卷积神经网络相比,论文算法识别率更高。     

自适应调节学习率和样本训练方式的场景分类

在基于卷积神经网络的场景分类方法中,当训练数据较少时,由于网络训练次数较多、收敛性较差等原因,容易造成过拟合.为了消除此影响,在卷积神经网络的框架下,文中提出可以自适应调节网络学习率和样本训练方式的场景分类算法.根据网络训练中误差函数的变化自适应调节学习率,当误差函数变化较小时,保持批次的学习率不变,当误差函数变化加大时,学习率的变化与误差函数的改变成反比.同时根据网络输出结果改变实验样本的训练方式,着重训练分类不准确的图像.在Scene-15、Cifar-10场景数据集上的实验表明,文中算法改善神经网络的收敛性,有效提高分类精度,特别是对于室内场景等特征复杂场景的分类精度.     

基于深度卷积神经网络End-to-End模型的亲属关系认证算法

针对如何利用人脸图像进行亲属关系认证的问题,提出基于深度卷积神经网络End-to-End模型的亲属关系认证算法.首先,构建一个包含卷积层、全连接层和soft-max分类层的深度卷积神经网络模型.卷积层可以提取亲子图像的隐性特征,全连接层可以将提取的隐性特征映射为亲属关系认证的二分类问题,soft-max分类层可以直接判断该对样本是否具有亲属关系.然后,将成对的标记训练数据输入网络进行迭代,优化深度网络模型参数,直至损失曲线稳定.最后,利用训练完毕的深度网络模型对输入测试图像对进行分类判决,通过统计得到最终的准确率.在KinFaceWI和KinFaceWII数据库上的结果显示,相比以往的亲属关系认证算法,文中模型具有更好的性能.     

基于多卷积神经网络融合的SAR舰船分类

针对SAR图像中小型舰船分类准确率较低的问题,提出一种多卷积神经网络加权融合的方法。首先构建高分辨率卷积神经网络对特征图进行多尺度融合,引入微调模型和标签平滑减少训练过拟合的问题;然后利用高分辨网络、MobileNetv2网络和SqueezeNet网络训练3种单分类模型;最后采用加权投票方式对3种分类模型的结果进行融合。采用融合算法对GF-3号舰船数据集进行分类实验,取得94.83%的准确率、95.43%的召回率和0.9513的F1分数的分类性能。实验结果表明,该舰船分类算法模型具有较优的分类能力,验证了其在高分辨率SAR图像舰船分类上的有效性。     

基于反卷积特征提取的深度卷积神经网络学习

在深度卷积神经网络的学习过程中,卷积核的初始值通常是随机赋值的.另外,基于梯度下降法的网络参数学习法通常会导致梯度弥散现象.鉴于此,提出一种基于反卷积特征提取的深度卷积神经网络学习方法.首先,采用无监督两层堆叠反卷积神经网络从原始图像中学习得到特征映射矩阵;然后,将该特征映射矩阵作为深度卷积神经网络的卷积核,对原始图像进行逐层卷积和池化操作;最后,采用附加动量系数的小批次随机梯度下降法对深度卷积网络微调以避免梯度弥散问题.在MNIST、CIFAR-10和CIFAR-100数据集上的实验结果表明,所提出方法可有效提高图像分类精度.     

不同池化模型的卷积神经网络学习性能研究

目的 基于卷积神经网络的深度学习算法在图像处理领域正引起广泛关注。为了进一步提高卷积神经网络特征提取的准确度,加快参数收敛速度,优化网络学习性能,通过对比不同的池化模型对学习性能的影响提出一种动态自适应的改进池化算法。方法 构建卷积神经网络模型,使用不同的池化模型对网络进行训练,并检验在不同迭代次数下的学习结果。在现有算法准确率不高和收敛速度较慢的情况下,通过使用不同的池化模型对网络进行训练,从而构建一种新的动态自适应池化模型,并研究在不同迭代次数下其对识别准确率和收敛速度的影响。结果 通过对比实验发现,使用动态自适应池化算法的卷积神经网络学习性能最优,在手写数字集上的收敛速度最高可以提升18.55%,而模型对图像的误识率最多可以降低20%。结论 动态自适应池化算法不但使卷积神经网络对特征的提取更加精确,而且很大程度地提高了收敛速度和模型准确率,从而达到优化网络学习性能的目的。这种模型可以进一步拓展到其他与卷积神经网络相关的深度学习算法。     

基于GR-CNN算法的网络入侵检测模型设计与实现

针对现有网络入侵检测系统对网络行为检测准确率较低、实时性较差、泛化性能较低的问题,利用深度学习具有良好分类性能及强泛化能力等优点,设计基于增益率算法和卷积神经网络算法的网络入侵检测模型。采用增益率筛选数据集数据特征,在保证入侵检测准确率的同时,缩短卷积神经网络训练时间。实验结果表明,该模型相比其他基于机器学习的入侵检测模型具有较高的准确率和较强的泛化能力,同时优化卷积神经网络训练方式,保证准确率的同时使神经网络训练时间减少了77%。     

基于卷积神经网络的乳腺癌良恶性诊断

为了提高乳腺癌病理图像良恶性诊断的准确率,提出了一个基于卷积神经网络(CNN)对乳腺癌病理图像的诊断方法。利用这种方法,能够快速地对乳腺癌病理图像自动进行良恶性诊断。乳腺癌病理图像具有非常复杂的结构,利用VGG16架构的卷积神经网络对病理图像进行特征提取,利用数据增强的方法扩充数据集,使用迁移学习,将在ImageNet数据集上训练得到的权重作为该网络的初始化参数,该模型在乳腺癌数据集Breakhis上得到的准确率可以达到95%,而在经过解冻部分训练层、调整学习率等优化操作之后,分类准确率最高可以达到99%。实验结果表明,优化后的方法在乳腺癌良恶性诊断准确率方面有很大的提高。     

基于统计分析的卷积神经网络模型压缩方法

针对卷积神经网络中卷积层参数冗余,运算效率低的问题,从卷积神经网络训练过程中参数的统计特性出发,提出了一种基于统计分析裁剪卷积核的卷积神经网络模型压缩方法,在保证卷积神经网络处理信息能力的前提下,通过裁剪卷积层中对整个模型影响较小的卷积核对已训练好的卷积神经网络模型进行压缩,在尽可能不损失模型准确率的情况下减少卷积神经网络的参数,降低运算量.通过实验,证明了本文提出的方法能够有效地对卷积神经网络模型进行压缩.     

基于VGG13的水果图像识别

运用人工智能领域的图像识别技术能有效对水果进行分类检测,大大降低人工成本.而在图像识别领域,最流行的就是卷积神经网络了,VGG网络是当前流行的经典卷积网络之一,使用包含多个3*3的小卷积核的卷积层来代替拥有更大的卷积核的卷积层,使深度增加,能学习更复杂的模式,但参数却减少了,学习的更快.构建了VGG13这种经典的卷积神...     

基于迁移学习的人脸姿态分类方法

人脸姿态分类在智能人机交互、虚拟现实、智能控制以及人脸识别等多个领域都有广泛的应用。由于人脸姿态分类过程中存在不同角度间特征重叠率高的问题,导致其分类精度过低。为提高人脸姿态分类的准确率与鲁棒性,提出了基于迁移学习的人脸姿态分类方法。该方法利用卷积神经网络的特征提取和学习能力,对特征进行识别和分类,从而得到单方向人脸姿态的训练参数。利用迁移学习,将卷积神经网络训练好的参数应用于训练两个方向的人脸姿态模型中。使用该方法在CAS-PEAL数据集上进行了实验,最终结果的准确率达到98.7%,并且与AlexNet、VGGNet和ResNet等网络模型做对比实验,得到了更好的人脸姿态分类效果。实验结果表明,所提出的方法显著提高了人脸姿态分类的准确率与鲁棒性。     

基于卷积神经网络的单色布匹瑕疵快速检测算法

针对布匹生产企业存在人工检测布匹瑕疵效率低、误检率、漏检率高的问题,提出一种基于深度卷积神经网络的单色布匹瑕疵检测算法.首先由于布匹瑕疵的数据规模远小于大型深度卷积神经网络的数据规模,如果采用大型卷积神经网络,计算量大且容易导致过拟合,因此设计了浅层的卷积神经网络结构;然后提出双网络并行的模型训练方法,用一个大网络指导小网络的训练过程,提高模型的训练效果;最后为了使得深度卷积神经网络模型脱离GPU的限制,能够在普通电脑、移动设备、嵌入式设备中高速运行,且保证模型检测精度,提出结合特征图优化卷积核参数的模型压缩算法.实验结果表明该算法可实现高准确率、高检测速度,在PC机的CPU模式下,检测速度为135 m/min,准确率可达到96.99%.     

多输入卷积神经网络肺结节检测方法研究

针对传统计算机辅助诊断系统中肺部结节检出过程复杂,检出结果依赖于分类前期每个步骤的性能,以及存在假阳性率高的问题,提出了一种基于卷积神经网络的端到端的肺结节检测方法。该方法首先使用大量带标签的肺结节数据对构建的多输入卷积神经网络进行训练,实现从原始数据到语义标签的有监督学习。然后采用快速边缘检测方法和二维高斯概率密度函数构建候选区域模板,从待检测CT序列中获取候选区域并将其作为多输入卷积神经网络的输入数据。最后采用判定阈值实现疑似肺结节区域标注,同时在相邻的CT影像中进行重点检测。在LIDC-IDRI数据集上的大量实验结果表明,所提方法在肺部CT影像中对微、小结节的检出率较高;同时,重点检测模板能够小幅降低微、小结节检测的假阳率。