一种改进的卷积神经网络SAR目标识别算法

针对卷积神经网络在标签数据不足条件下易发生的过拟合现象及噪声条件下的合成孔径雷达目标识别问题,提出了一种改进的卷积神经网络目标识别算法．首先利用数据增强技术扩增训练集,以提高网络泛化能力;其次利用零相位成分分析对目标进行特征提取,得到一组特征集对卷积神经网络进行预训练．为优化网络结构,防止过拟合现象,在网络中采用了修正线性单元、Dropout、正则化、单位卷积核等稀疏性技术．实验表明,算法对各类目标及其变形目标子类具有较好的识别性能,并对噪声有较强的鲁棒性,是一种有效的目标识别算法．     

基于卷积神经网络的无人机遥感影像农村建筑物目标检测

将深度学习应用于遥感影像目标识别,提出基于卷积神经网络的无人机遥感影像农村建筑物的目标检测方法,用端到端的方式训练Faster R-CNN网络模型,并应用于农村建筑物的快速精确识别.该方法包括基于RPN网络的区域建议和基于Inception v2的卷积神经网络模型训练.为了训练和测试模型,通过无人机采集南疆地区的农村建筑物遥感影像,并人工标注建立了农村建筑物的数据集,在TensorFlow深度学习框架上通过对该数据集目标检测验证了模型.结果表明,基于改进的卷积神经网络目标检测方法对无人机遥感影像进行快速准确识别的总体精度超过90%,通过初始参数更新,模型收敛更快,对无人机遥感影像地物分类和目标识别具有一定的参考意义.     

基于迁移学习的SAR图像车辆目标识别方法研究

针对卷积神经网络因参数随机初始化引起的收敛慢和过拟合的问题,提出了一种基于迁移学习的卷积神经网络模型.将小样本的数据作为源域的训练样本,将源域训练得到的模型的参数作为目标域模型的初始参数,大样本数据作为目标域的训练样本进行网络微调,实现从源域到目标域的信息迁移.在卷积神经网络中采用神经元丢弃法和组合小卷积核代替大卷积核的方式,减少网络的参数,加快收敛速度,并且抑制过拟合问题.实验采用移动与静止目标搜索识别数据集,该数据集分为十类合成孔径雷达图像车辆目标,以数据集中的三类目标数据作为源域训练样本,十类目标数据作为目标域训练样本,实验结果表明,提出的方法在十类目标识别精度上达到了98.39％,同时具有较快的收敛速度.     

基于特征选择和时间卷积网络的工业控制系统入侵检测

针对工业控制系统流量数据存在特征冗余及深度学习模型对较小规模数据集检测能力较差的问题,提出了一种基于特征选择和时间卷积网络的工业控制系统入侵检测模型。首先,对源域数据集的异常特征和样本不平衡数据进行处理,提高源域数据集质量。其次,针对流量数据的特征冗余,利用信息增益率和主成分分析法构建IGR-PCA特征选择算法,筛选出最优特征子集实现数据降维。然后,根据工业控制系统流量数据的时间序列特性,在较大规模的源域数据集上,利用时间卷积网络（temporal convolution network,TCN）对时间序列数据优异的处理能力,构建源域时间卷积网络预训练模型。最后,在较小规模的目标域数据集上,结合迁移学习（transfer learning,TL）微调策略,获取源域样本数据的流量特征,构建目标域TCN-TL模型。利用公开的工业控制系统数据集进行实验测试,实验结果表明：流量数据经本文特征算法处理后,相较于其他方法,在降低数据维度减少计算量的同时仍具有良好的检测效果;在较大规模的源域数据集和较小规模的目标域数据集上,本文模型均取得了良好的检测效果,在目标域中利用迁移学习微调策略能够学习到源域中的知识,模型检测准确率为99.06%,在训练时间对比中,本文模型训练时间消耗更少,具有更好的泛化能力,能够更好地保护工业控制系统安全。     

基于卷积神经网络的水下目标声呐图像识别方法

水下目标识别是水下无人探测的一项核心技术,为提高水下自动目标识别准确率,提出基于卷积神经网络的目标声呐图像识别方法,针对声呐图像特点,设计了融合图像显著区域分割和金字塔池化的水下目标识别模型。基于流形排序显著性检测方法分割和裁剪图像,减小输入数据维度并减少图像背景对目标特征提取过程的干扰;通过堆叠卷积层和池化层,从原始声呐图像中自动学习目标的高层语义信息,避免人工提取图像特征对有效信息的破坏;提出采用空间金字塔池化方法提取特征图中的多尺度信息,弥补声呐图像细节信息少的缺陷,同时解决输入图像尺寸不一致的问题。结果表明,设计的卷积神经网络模型在实测声呐图像数据集上能够比常规卷积神经网络更准确、更快速地识别水下目标。     

基于降维数据边界点曲率的变电站设备识别

为了对变电站三维仿真模型进行快速重建,针对变电站设备三维数据量过大,不能快速识别的问题,通过对设备的三维数据做降维处理,减少数据处理量,研究利用降维后的数据对设备进行快速精确识别的方法.通过分析降维数据点集的特征,笔者提出一种利用降维数据边界点曲率进行识别的方法,其中边界点提取采用基于Alpha Shapes原理的滚圆法,边界点的曲率通过点到弦的距离累积来计算,最后利用边界点的曲率来识别不同的设备.仿真实验表明,该识别方法简洁高效,大大降低了计算量,并且能够有效地识别不同设备.     

基于FPGA的人体行为识别系统的设计

为实现边缘端人体行为识别需满足低功耗、低延时的目标,本文设计了一种以卷积神经网络(CNN)为基础、基于可穿戴传感器的快速识别系统.首先通过传感器采集数据,制作人体行为识别数据集,在PC端预训练基于CNN的行为识别模型,在测试集达到93.61%的准确率.然后,通过数据定点化、卷积核复用、并行处理数据和流水线等方法实现硬件加速.最后在FPGA上部署识别模型,并将采集到的传感器数据输入到系统中,实现边缘端的人体行为识别.整个系统基于Ultra96-V2进行软硬件联合开发,实验结果表明,输入时钟为200 M的情况下,系统在FPGA上运行准确率达到91.80%的同时,识别速度高于CPU,功耗仅为CPU的1/10,能耗比相对于GPU提升了91%,达到了低功耗、低延时的设计要求.     

基于改进稀疏滤波与深度网络融合的轴承故障诊断

针对滚动轴承故障时特征提取依赖人工经验,以及故障类别难以自动准确识别的问题,提出了一种改进稀疏滤波和深层空洞门卷积网络相结合的故障诊断模型. 采用滑动窗对具有时序特征的轴承振动信号进行采样处理以避免过拟合;通过改进目标函数的稀疏滤波消除数据中的异方差并提取数据特征,达到缩短计算时间和提高分类准确率的效果;利用空洞门卷积和双向LSTM网络对噪声进行滤除,同时进行故障分类识别. 对比凯斯西储大学和动力系统装置的轴承实验数据,显示该模型故障诊断准确率可达98%. 不同负载和不同信噪比的轴承振动信号实验,表明该模型具有泛化性和抗噪性.     

一种随机隐退DBN的脑电信号识别方法

针对DBN处理小样本脑电信号训练时间长且存在过拟合的问题,提出基于随机隐退的DBN算法对左右手运动想象脑电信号进行分类识别.先对原始脑电数据进行降维预处理,然后输入到随机隐退DBN模型中进行训练,得到最优参数值后进行分类识别.实验结果表明:与CSP、PCA、单一DBN网络等方法相比,基于随机隐退的DBN算法在保持较高识别率的同时,降低了对数据集的训练处理时间,证明了该方法的有效性.最后在智能轮椅平台上验证了该算法的可行性.     

基于卷积自编码器的地震数据处理

引入以深度学习为代表的数据驱动方法,加速地震数据的处理流程,获得更精确的地下介质信息. 卷积自编码器方法在地震数据压缩降维的同时,利用数据的空间局部相关性自动提取信号特征,避免数学物理模型的假设依赖. 通过设计不同地质模型的地下速度结构,利用波动方程正演模拟构建大量不同特征的地震数据训练集和测试集. 与模型驱动的地震随机噪声压制和地震道插值方法不同,数据驱动下的卷积自编码器方法能够从含随机噪声地震数据和地震道缺失数据中,直接识别和提取出其中的有效地震信号,从而压制随机噪声以及重建原始地震数据,实验结果验证了该方法的有效性. 卷积自编码器方法不需要人工阈值控制,具有更高的处理效率.     

基于注意力机制的卷积神经网络可视化方法

相比于传统机器学习算法,卷积神经网络“端到端” 的黑盒特性使其内部工作机制缺乏透明性和可解释性,导致其在某些安全性要求较高的领域受到一定限制。为此,提出一种基于注意力机制的卷积神经网络可视化方法,用于可视化解释卷积神经网络中间层所学特征。该方法首先将注意力机制添加到网络结构中,跟随网络一起训练;然后,获取训练后模型的最高层特征图,并使用双线性插值将其放大到输入图像大小;最后,将处理后的特征图与输入图像叠加形成热力图,用于定位输入图像的关键区域,实现对卷积神经网络所学特征的理解和解释。在ＣＩＦＡＲ１０ 数据集上实验结果表明,相比于直接对特征图进行可视化,基于注意力机制的可视化方法能够更准确地定位目标的关键特征,从而帮助理解卷积神经网络所学特征。     

基于投影阈值分割和数字序列校正的高噪声数字仪表图像识别方法

针对数字仪表图像噪声大、图像特征信息不足导致图像识别准确率低的问题,提出了一种基于卷积递归神经网络结合投影阈值分割和数字序列校正的高噪数字仪表图像识别方法。首先,用投影阈值分割二值化算法对图像进行预处理：使用垂直投影法将图像划分为不同区域,根据不同区域的噪声强度自适应设定二值化阈值,对图像进行二值化处理,降低噪声;其次,根据图像之间数字规律变化特点,利用数字序列校正算法将单个数字识别转换为数字序列识别,通过对比不同数字序列的识别概率得出识别结果,解决单张图像特征信息不足导致识别准确率低等问题。实验结果表明,在高噪声数据集上,相较于卷积递归神经网络模型,提出的高噪声数字仪表识别模型在准确率方面提高了约61.95%,达到93.58%。     

基于集成深度学习的时间序列预测模型

基于高斯过程的条件受限玻尔兹曼机(GCRBM)时序模型可以很好的预测单一种类时序数据,但是该模型难以预测多类别的真实高维数据。针对这个问题,提出基于集成深度学习的时间序列预测模型,对多类时序对应训练多个深可信网络(deep belief networks, DBN)模型来学习低维特征,利用低维特征对应训练多个GCRBM时序模型。预测时序时先通过训练出的一组DBN模型对目标数据进行降维并通过重建误差识别类别,然后通过识别到的类别所对应的GCRBM模型预测目标数据的后期时序。在CASIA-A步态数据集上的试验结果表明:本方法能够准确识别出步态序列,而且预测结果能够模拟出真实的步态序列,证实了本模型的有效性。     

基于卷积神经网络的人体动作识别方法

针对较小数据集识别时的过拟合和误差传递问题,提出了一种基于卷积神经网络的常见人体动作识别方法.该方法首先利用经典雷达信号处理方法对人体动作回波进行预处理,生成人体动作的时频图像;然后构建卷积神经网络(CNN),并以时频图作为CNN输入数据对网络参数进行训练;最后利用网络公开数据集对所提方法进行了实验验证.实验结果表明,构建的CNN能够准确识别4类不同的人体动作,准确率不低于97%.     

基于稀疏自编码器和高斯混合模型的手写数据集分类

深度学习模型训练需要大量的有标签数据进行训练,现实生活中数据大多没有标签,需要进行人工标注,对于小样本的训练存在过拟合现象,针对此问题,本文提出一种算法:首先采用稀疏编码器对数据进行降维处理,然后利用T-SNE算法继续将数据维度降低到二维空间,最后采用高斯混合模型对数据进行聚类分析。该算法采用无监督斱法,不需要预先对数据进行标签化。该算法对数据过拟合具有一定的泛化能力,在手写数据集的训练集取得0.89205的准确度,在测试集中取得0.896的精度。该算法为小样本的学习提供了新思路。     

基于深度卷积自编码网络的小样本光伏热斑识别与定位

针对传统卷积神经网络训练需要大量数据、而热斑效应图像样本量较少的现状,构建一种深度卷积自编码网络模型用于小样本光伏热斑识别与定位。首先对原始光伏红外图像做预处理得到小样本数据集,然后构建一种以卷积神经网络为基础、结合自编码器的深度卷积自编码网络模型。该模型能自动学习并提取小样本图像中的有效特征,提高识别准确率。实验结果表明,针对小样本光伏热斑图像数据集,深度卷积自编码网络模型比传统卷积神经网络在测试集上的识别准确率高出了7.98%,且具有更强的泛化能力和鲁棒性。     

3D CNN人体动作识别中的特征组合优选

为了提高人体动作识别准确率,改进原有3D CNN网络模型以获得更为丰富细致的人体动作特征,并通过对比实验为模型输入优选出识别效果最好的特征组合。该模型主要包括5个卷积层、3个下采样层和2个全连接层,二次卷积操作有利于提取到更为细致的特征,BN算法和dropout层用以防止模型过拟合,空间金字塔池化技术可以使网络能够处理任何分辨率的图像,提高模型适用性。通过在KTH和UCF101数据集上做识别测试实验,特征组合"ViBe二值图+光流图+三帧差分图"作为模型输入可以得到较高的识别准确率,尤其针对背景较复杂、动作类别多且差异性较小的数据集提高明显,具有较好的实际应用价值。     

基于二维卷积神经网络高层数据特征学习的过程故障检测

针对化工生产过程中高维数据故障特征难以学习和提取的缺点,提出一种基于二维卷积神经网络的化工过程故障检测方法.首先,采集化工过程不同故障的数据构成训练集和测试集;然后,对训练集和测试集中对应的正常样本和故障样本标注标签;最后,将训练集中的样本数据作为卷积神经网络的输入来训练、优化模型.方法应用于田纳西-伊斯曼化工过程,数据结果表明：二维卷积神经网络能够提取出原始数据中样本与样本、变量与变量之间更为抽象的高层数据特征,通过特征提取和学习后的重构特征数据输入到全连接层BP神经网络进行故障分类,比单独使用全连接BP神经网络的检测率提高了14.42 %,误报率降低了2.55 %.     

基于双谱的水下目标辐射噪声的特征提取与分类研究

以大量的水下目标辐射噪声资料为依托，借助高阶累积量分析法，研究了目标信号的非高斯特性。基于双谱估计和Walsh维数压缩技术提取了不同类别目标的65维双谱特征。结果表明，该特征对水下目标辐射噪声信号具有很好的分类效果，同时又能有效地抑制高斯有色噪声。对于六类水下目标辐射噪声信号，可取得约92％的正确分类率。     

基于深度学习图像语义分割的机器人环境感知

基于深度学习图像语义分割模型SegNet,提出了一种基于深度学习的实时图像语义分割框架RT-SegNet(Real time segmentation network)。框架分为3个阶段:编码阶段、解码阶段和降维阶段。在编码阶段,提出了一种跨层叠加特征图的方法(Feature map skip superposition,FMSS)来提升特征提取效果;在解码阶段,设计了新的轻量化解码器(Light decoder,LD)结构,减少了卷积层数量,以加快模型训练与预测速度;在降维阶段,提出了卷积降维方法(Dimension reduced module,DRM)将编码器与解码器逐层连接,增强解码器效果。与原始SegNet模型相比,RT-SegNet模型在公共数据集Cityscapes、SUN RGB-D、CamVid、KITTI和作者自行标注的数据集JLUData上平均交叉联合度量分别提升了3.2%、1.8%、5.3%、14.6%、6.8%。