基于迁移学习和通道注意力的遥感图像场景分类

针对遥感图像场景分类任务中训练样本数量少及遥感图像背景复杂等问题,本文将迁移学习和通道注意力引入到卷积神经网络(convolutional neural network,CNN) 中,提出基于迁移学习和通道注意力的遥感图像场景分类方法。该方法首先选用经过ImageNet自然数据集预训练的两个CNN作为主干,同时引入通道注意力机制,自适应地增强主要特征,抑制次要特征;然后融合这两个网络提取的特征进行分类;最后采用微调迁移学习的方式实现目标域上的学习与分类。提出的方法在几个经典的公共数据集上进行了评估,实验结果证明了本文提出的方法在遥感图像场景分类中达到与其他先进方法相当的性能。     

基于深度卷积神经网络的红外场景理解算法

采用深度学习的方法实现红外图像场景语义理解。首先,建立含有4类别前景目标和1个类别背景的用于语义分割研究的红外图像数据集。其次,以深度卷积神经网络为基础,结合条件随机场后处理优化模型,搭建端到端的红外语义分割算法框架并进行训练。最后,在可见光和红外测试集上对算法框架的输出结果进行评估分析。实验结果表明,采用深度学习的方法对红外图像进行语义分割能实现图像的像素级分类,并获得较高的预测精度。从而可以获得红外图像中景物的形状、种类、位置分布等信息,实现红外场景的语义理解。     

基于神经网络的无线信道场景识别

无线信道场景识别对于无线资源调度和系统性能的优化等具有重要意义.文中基于QuaDriGa平台研究了反向传播神经网络(back propagation neural network,BPNN)和卷积神经网络(convolutional neural networks,CNN)在无线信道场景识别中的应用.首先,利用QuaD...     

基于卷积神经网络Caffe框架的图像分类

2013年贾扬清博士在Github上发布了一款深度学习框架"Caffe",为众多研究人员和工程师们提供了一套简单易用且性能强大的深度学习开源框架。本文首先对Caffe框架简单介绍,其次阐述深度学习中应用的卷积神经网络原理,最后介绍如何利用Caffe框架进行图像分类。     

深度迁移学习在文本分类问题中的应用研究综述

深度迁移学习技术是通过深度神经网络从一项任务中获得的知识来解决其他相关任务,作为机器学习的一种研究方向,已经得到广泛应用。文章首先介绍了在自然语言处理任务中深度迁移学习应用于文本分类的背景,深度迁移学习的定义,其次通过文献分析了近几年深度迁移学习以实例、映射、网络和对抗四种迁移方式及在文本分类中应用的现状,最后对借助深度迁移学习模型完成文本分类任务的应用进行总结和展望。     

基于高效用神经网络的文本分类方法

现有的基于深度学习的文本分类方法没有考虑文本特征的重要性和特征之间的关联关系,影响了分类的准确率.针对此问题,本文提出一种基于高效用神经网络（High Utility Neural Networks,HUNN）的文本分类模型,可以有效地表示文本特征的重要性及其关联关系.利用高效用项集挖掘（Mining High Utility Itemsets,MHUI）算法获取数据集中各个特征的重要性以及共现频率.其中,共现频率在一定程度上反映了特征之间的关联关系.将MHUI作为HUNN的挖掘层,用于挖掘每个类别数据中重要性和关联性强的文本特征.然后将这些特征作为神经网络的输入,再经过卷积层进一步提炼类别表达能力更强的高层次文本特征,从而提高模型分类的准确率.通过在6个公开的基准数据集上进行实验分析,提出的算法优于卷积神经网络（Convolutional Neural Networks,CNN）,循环神经网络（Recurrent Neural Networks,RNN）,循环卷积神经网络（Recurrent Convolutional Neural Networks,RCNN）,快速文本分类（Fast Text Classifier,FAST）,分层注意力网络（Hierarchical Attention Networks,HAN）等5个基准算法.     

基于图卷积神经网络的胸部放射影像疾病分类方法北大核心CSCD

医学X射线作为胸部疾病的常规检查手段,可以对早期不明显的胸部疾病进行诊断,并且观察出病变部位。但是,同一张放射影像上呈现出多种疾病特征,对分类任务而言是一个挑战。此外,疾病标签之间存在着不同的对应关系,进一步导致了分类任务的困难。针对以上问题,本文将图卷积神经网络(graph convolutional neural network,GCN)与传统卷积神经网络(convolutional neural network,CNN)相结合,提出了一种将标签特征与图像特征融合的多标签胸部放射影像疾病分类方法。该方法利用图卷积神经网络对标签的全局相关性进行建模,即在疾病标签上构建有向关系图,有向图中每个节点表示一种标签类别,再将该图输入图卷积神经网络以提取标签特征,最后与图像特征融合以进行分类。本文所提出的方法在ChestX-ray14数据集上的实验结果显示对14种胸部疾病的平均AUC达到了0.843,与目前3种经典方法以及先进方法进行比较,本文方法能够有效提高分类性能。     

基于分类器决策融合的红外图像目标识别方法

提出基于分类器决策融合的红外图像目标识别问题。采用稀疏表示分类（Sparse representation-based classification,SRC）和卷积神经网络（Convolutional neural network,CNN）作为基础分类器。对于测试样本,首先基于SRC进行分类,并根据输出的决策变量判断决策可靠性。当判定识别结果可靠时,则识别过程结束,输出目标类别。反之,根据SRC的结果遴选部分置信度较高的候选类别,并在下一阶段针对这一步类别采用CNN进行确认分类。此外,将CNN的输出结果与SRC进行线性加权融合处理,根据融合结果做出最后的目标类别决策。提出方法通过综合SRC和CNN两者分类器的优点,综合提升红外目标识别性能。同时,这种层次化的决策融合方式避免了对所有样本的两次分类过程,整体上能够保证识别算法的效率。实验采用五类日常生活中常见的车辆目标红外图像进行,分别设置了原始样本条件、噪声样本条件以及遮挡样本条件。通过与部分现有方法进行对比,结果反映了提出方法的有效性和可靠性。     

基于双层孪生神经网络的区块链智能合约分类方法

当前通过深度学习方法进行区块链智能合约分类的方法越来越流行,但基于深度学习的方法往往需要大量的样本标签数据去进行有监督的模型训练,才能达到较高的分类性能。该文针对当前可用智能合约数据集存在数据类别不均衡以及标注数据量过少会导致模型训练困难,分类性能不佳的问题,提出基于双层孪生神经网络的小样本场景下的区块链智能合约分类方法：首先,通过分析智能合约数据特征,构建了可以捕获较长合约数据特征的双层孪生神经网络模型;然后,基于该模型设计了小样本场景下的智能合约训练策略和分类方法。最后,实验结果表明,该文所提方法在小样本场景下的分类性能优于目前最先进的智能合约分类方法,分类准确率达到94.7%,F1值达到94.6%,同时该方法对标签数据的需求更低,仅需同类型其他方法约20%数据量。     

一种基于双路径深度卷积网络的声场景分类方法研究

声场景分类,就是训练计算机通过声音中所包含的信息将声音正确的划分到其所属的场景中,其在物联网设备、智能助听器、自动驾驶等领域有着广泛的应用。本文根据声学特征谱图的特点和深度学习中的卷积神经网络理论,提出了一种基于卷积神经网络的声场景分类方法。首先提取音频的对数Mel谱图及其一阶二阶差分谱图,并在通道维度上进行拼接,随后利用中值滤波器对融合谱图进行分层,得到两个融合谱图分量。然后搭建了双路径深度卷积神经网络分别对每个谱图分量进行建模,并在系统输出前将两个路径获得的特征图进行融合,最后通过全连接层进行分类。并在TUT数据集上进行实验,分类准确率可达79.2%     

深度学习在交通运输中应用综述

介绍了自编码器、卷积神经网络、循环神经网络三个主流深度学习网络架构在交通运输中的应用研究,简述了三个主流深度学习网络的应用背景。对于三个深度学习网络在交通运输中的应用,分别分析了自编码器在交通流预测,特别是在短时交通流预测方面的技术研究;卷积神经网络在交通热点图像、车牌识别、驾驶员注意力等方面的技术应用;循环神经网络在交通流预测的技术优势。并对三个深度学习网络在交通运输中的研究进行了总结,对深度学习未来的研究方向做了展望。     

基于深度学习的视频异常行为检测研究

视频异常行为的检测对保障公共安全至关重要,对基于深度学习的异常行为检测算法进行了分类与总结.首先,介绍了异常行为检测的整体流程.然后,根据神经网络训练的方式,从有监督学习、弱监督学习和无监督学习三个方面论述了深度学习在异常行为检测领域的发展与应用,同时分析了不同训练方式的优缺点.最后,介绍了常用数据集以及性能评估准则,...     

基于集成学习与深度神经网络的心律失常智能诊断方法

心律信号异常能普遍反映心电活动的不正常状态,通过将心电图反映的心拍信号分类并应用到心律失常的临床诊断有着很好的研究价值。考虑心电信号(electrocardiogram,ECG)含有噪声,首先利用小波分解与重构并结合小波阈值法对心电信号滤波,其次采用小波变换的方法提取QRS波峰值点,在此基础上对心拍进行分割并按疾病类型构建不同类型的心拍数据集,然后基于具有多个长度不同的卷积核的深度神经网络对心律失常进行分类,最后基于集成学习的方法进一步提升心律失常智能诊断的性能。对比人工提取心电特征的方法,深度神经网络(convolutional neural network,CNN)能够表征不同类型心拍的形态信息,具有强特征表达能力,且对于外部噪声鲁棒,集成学习能够综合利用各个深度神经网络所提取特征达到提升诊断诊断率的目的。经过MIT-BIH心律失常数据库验证：该方法对六类心律失常识别的平均准确率为98.54%,对比单独使用CNN网络和BP神经网络,方法的准确率分别提高2.71%和9.88%。     

残差神经网络及其在医学图像处理中的应用研究

残差神经网络（ResNet）是近几年来深度学习研究中的热点,在计算机视觉领域取得较好成就.本文对残差神经网络从以下几个方面进行总结：第一,阐述残差神经网络的基本结构和工作原理;第二,在模型发展方面,以时间为顺序总结了残差神经网络的8种网络模型;第三,在结构优化方面,从残差神经网络的卷积层、池化层、残差单元、全连接层以及整个网络5个方面进行总结;最后,将ResNet应用到医学图像处理领域,主要从图像识别和图像分割2个方面探讨.本文对残差神经网络的原理、模型、结构进行了系统地总结,对残差神经网络的研究发展具有一定的积极意义.     

深度学习及其在人脸识别中的应用进展

深度学习是目前受到广泛关注的机器学习方法。通过构建深度神经网络且使用深度学习算法学习适合模式识别和分类的高层次特征是目前模式识别领域热门研究方向,特别是在人脸识别领域已经取得了目前最好的成果。文章首先介绍了深度学习概述,然后分析了基于深度学习的人脸识别方法及识别模型并对识别模型进行了分类。最后讨论了应用深度学习进行人脸识别还存在的问题。该文拟对将深度学习应用于人脸识别的研究人员有所帮助。     

基于多输出一维卷积神经网络的轴承故障诊断

轴承作为用途最为广泛的零部件之一,其可以有效减缓旋转部件之间的摩擦力从而避免损坏,并且可以固定旋转轴。然而,在恶劣条件下连续工作会导致不可避免的故障。因此,对于工厂来说,进行轴承故障类型以及故障程度诊断越来越有必要。近些年来,随着深度神经网络,特别是卷积神经网络(convolutional neural network,CNN)的出现,使得智能诊断方法在精度方面取得了显著的提升。然而,在复杂的实际工业场景下,除了准确性之外,效率问题也需要提起重视。针对目前的多数CNN网络或效率低或不能检测故障程度的问题,提出了一种基于一维卷积神经网络的多输出分类的方法。方法利用提取的相关特征同时进行轴承故障类型分类和故障程度(裂纹尺寸)分类,与传统的基于CNN的多类分类相比,在多输出分类中利用相关特征提高了诊断的准确性和效率。     

基于深度学习的运动想象脑机接口研究综述

近年来，随着脑机接口（Brain-Computer Interface,BCI）技术的进一步发展，对特征提取技术的鲁棒性的需求也持续增加。深度学习（Deep Learning,DL）作为多层次的神经网络模型具有从高维数据中进行特征提取并从分层表示中学习的能力，在分类识别任务领域中的表现优于手工选择特征的传统机器学习方法。深度学习模型可以自动学习高维的EEG数据集从而提取有效特征，因此基于深度学习的脑机接口成为该领域新的研究趋势。卷积神经网络（Convolution Neural Network,CNN）、深度信念网络（Deep Belief Network,DBN）和递归神经网络（Recurrent Neural Network,RNN）是深度学习中对脑电信号进行分析的三大主流算法。主要介绍了这三大主流深度学习算法的基本原理。为了探索能更好契合脑电数据特点的分类模型，还探讨了它们在BCI中集成其他方法的实际运用。     

深度卷积神经网络在SAR自动目标识别领域的应用综述

深度卷积神经网络（DCNN）可自动学习目标层次化特征,在合成孔径雷达（SAR）自动目标识别（SAR-ATR）领域具有广泛应用前景。首先,介绍了DCNN的基本原理以及DCNN在光学图像上的应用与发展;然后,介绍了SAR-ATR的基本概念,综述了DCNN在SAR图像语义特征提取、片段级SAR图像分类、基于数据增强技术的SAR自动目标识别、异质图像变化检测等领域中的前沿应用研究及代表性网络架构;最后,总结并讨论了DCNN在SAR-ATR应用中存在的参数设置经验化、算法泛化能力较弱等不足,并对未来研究方向进行了展望。     

基于深度学习的肺结节良恶性及恶性等级分类应用

肺结节精确分类是提前诊断肺癌的基础。若能在早期检测恶性肺结节并干预处理，对患者预后有很大影响。深度学习能够自动提取肺结节的特征，完成肺结节的良恶性及恶性等级分类。基于此，介绍LIDC-IDRI及LUNA16这两个常用的肺结节数据集，阐述卷积神经网络（Convolutional Neural Networks,CNN）、视觉几何组（Visual Geometry Group,VGG）、迁移学习肺结节良恶性分类中的应用及其实验对比，总结U-Net、生成对抗网络（Generative Adversarial Networks,GAN）应用于恶性肺结节等级分类及该网络的相关研究现状，最后综合分析深度学习在该领域的应用情况。     

基于双路径循环神经网络的单通道语音增强

近年来,随着神经网络的应用,语音增强效果显著提升。但对关联性较强的长序列语音数据,单一的网络结构受到自身性能的限制可能无法继续提升增强效果。为了进一步提升神经网络对语音增强的效果,本文将一种被称为双路径循环神经网络（dual-path recurrent neural network,DPRNN）的复合网络结构应用在语音增强任务中。该复合网络结构由卷积神经网络（convolution neural network,CNN）和长短时记忆神经网络(Long short-term memory,LSTM)组成,网络的核心是两个LSTM组成的双路径循环神经网络块（DPRNN Block）。DPRNN将长序列语音数据分割为重叠帧数据块,利用DPRNN Block对这些数据块执行块内计算和块间计算,以此实现数据的局部和全局建模。实验结果表明,相比于单一网络结构,DPRNN在训练噪声和非训练噪声条件下均取得最好结果。