核卷积神经网络研究与应用

利用核函数非线性映射的优势,结合卷积神经网络算法,提出一种基于核卷积神经网络（Kernel-Convolutional Neural Network , Kernel-CNN）的新的网络学习模型。该方法首先对数据预处理,其次利用核卷积神经网络对数据进行特征提取,最后,构建softmax分类器对数据进行分类。本网络将非线性映射引入卷积过程构成核卷积过程,通过核卷积过程进一步增强模型的特征提取能力,在MNIST手写数字库以及美国麻省理工学院提供的MIT-BIH心律失常数据库上实验验证,本文模型正确率分别为98.5%、97%,均较好于卷积神经网络和支持向量机,且本文模型具有较小的LOSS值。      

基于卷积神经网络的肺炎检测系统

提出一种利用卷积神经网络对胸部X光影像数据进行分析,实现对肺炎这一常见症状进行检测的系统。该方案首先进行图像预处理,然后采用VGG卷积神经网络和改进VGG卷积神经网络分别实现对胸部X光影像的特征提取,得到两种网络对肺炎的检测准确率,最终测试结果显示,改进VGG卷积神经网络在对肺炎检测上具备比VGG网络更好的识别效果,同时,改进VGG网络在标定好的数据集进行训练时能够更快的收敛。通过在公开数据集上进行测试表明,改进VGG卷积神经网络得到了98.5%的准确率,相比于VGG网络提升了2%以上的识别准确率,证明该方案在肺炎识别上具有可行性。     

美尔谱系数与卷积神经网络相组合的环境声音识别方法

通过对复杂环境下声音识别技术进行研究，本文提出了美尔谱系数（MFSC）与卷积神经网络（CNN）相组合的环境声音识别方法。对声音事件提取其MFSC特征，将特征参数作为输入送入设计好的CNN模型中对声音事件进行分类。实验数据集采用ESC-10，将构建的卷积神经网络模型与随机森林、支持向量机（SVM）、深度神经网络（DNN）及DCASE比赛中常用的三种识别模型进行对比实验。实验结果表明，在相同数据集下，本文所设计的美尔谱系数与卷积神经网络相组合的环境声音识别方法相较传统的声音识别方法在识别率上分别有13.1%，18.3%，15.7%的提升，相较于DCASE比赛中的三种常用识别模型，本文所设计识别模型识别率及识别效率均有明显的优势。      

面向原始辐射噪声的水声目标识别研究

水声目标识别是一项利用目标辐射噪声特性对目标属性进行判别的模式识别技术，具有十分重要的经济价值和军事价值。传统水声目标识别方法依靠信号处理技术对目标辐射噪声进行特征提取，进而通过人工识别或设计分类器识别的方法实现目标类别的判别。通过设计特征进行特征提取的过程中，不可避免会造成目标辐射信号中信息的损失，而深度神经网络依靠其多层网络结构，具备强大的特征提取能力。文章以一维卷积神经网络作为构建水声目标识别的基本模型，利用梅尔频率倒谱系数特征的提取思路，创造性地设计了MFCC1D卷积神经网络。结果显示，在ShipsEar数据集与水下目标信号构成的混合数据集上，设计方法的识别准确率达到96.4%。     

融合多种网络的半监督分层睡眠分期算法

当前的睡眠阶段时空特征提取依赖于给定数据集标签的监督学习,在一定程度上受到限制。提出一种基于脑电信号的半监督睡眠分期算法,利用由改进卷积编码-解码器和生成对抗网络构建的浅层特征提取网络提取浅层时空特征,采用Hard swish激活函数来加速模型收敛。为充分提取脑电信号高质量的深层时序依赖特征,模型的深层特征提取网络将传统的长短时记忆网络改进为参数较少的双向门控循环单元。在特征融合后使用加权交叉熵损失函数训练以提高模型的分类准确性。实验使用Sleep-EDF数据集在Fpz-Cz通道上对模型进行20折交叉验证,得到模型总体准确率和MF1值分别为86.3%和81.2%,相比于卷积循环网络分别提高了3.1%和3.3%。     

基于热释电红外传感器的人体动作识别方法

针对目前人体动作识别技术中存在的隐私暴露、技术复杂度高和识别精度低等相关问题,提出了一种基于热释电红外（PIR）传感器的人体动作识别方法。首先,采用一组安置在天花板上经过视场调制的PIR传感器采集人体运动时散发的红外热辐射信号,将传感器输出的电压模拟信号进行滤波放大后通过ZigBee无线模块传送到PC端打包成原始数据集;其次,将原始数据的两路传感器输出数据进行特征融合,对融合后的数据做标准化处理封装为训练集和测试集;然后,基于数据的特征提出一种两层级联的混合深度学习网络模型作为人体动作的分类算法,第一层采用一维卷积神经网络（1DCNN）对数据进行特征提取,第二层采用门控循环单元（GRU）保存历史输入信息防止丢失有效特征;最后,利用训练集来训练该网络模型得出参数最优的分类模型,通过测试集验证模型的正确性。实验结果表明,提出的该动作识别技术模型对基本动作分类的准确率高于98%,与图像动作识别或穿戴式设备动作识别相比,实现了实时、便捷、低成本和高保密性的高精度人体动作识别。     

B细胞免疫的卷积神经网络级联故障诊断

针对故障诊断中特征提取不充分和复杂性,对未知故障无法学习,诊断模型自适应能力差的问题,提出一种B细胞免疫卷积神经网络的级联故障诊断模型。在检测阶段用并行的卷积神经网络对时间窗内振动信号的时域波形和频域波形分别进行特征提取,通过分类器对故障进行识别,对诊断结果进行可靠性评估;然后根据评估结果决定后续免疫过程;在遇见未知故障类型时,把卷积神经网络提取到的特征映射为抗原,通过B细胞算法对抗原进行学习,把生成的新检测器放入未知故障知识库中,完成未知故障的学习和识别。文中采用美国凯斯西储大学公布的轴承数据集,实验结果表明,提出的B细胞免疫卷积神经网络对已知故障识别准确率高于基于特征提取的相关技术,其检测准确率提高了4.86%左右,而且能够很好地学习和识别未知故障,自适应动态变化的环境。     

分离通道联合卷积神经网络的自动调制识别

针对通信信号的自动调制识别需要大量特征提取的问题,提出了一种分离通道卷积神经网络自动调制识别算法。该算法通过结合深度学习中卷积神经网络(CNN),分别提取时域信号的多通道和分离通道调制特征,再利用融合特征实现不同信号的分类。仿真结果表明,相比基于CNN的算法,所提算法在高信噪比下针对两个数据集的识别率分别提升7%和18%;此外,相比于基于特征提取的传统识别算法,其高阶调制识别性能平均提升3 dB。     

基于深度学习的垃圾邮件文本分类方法

文中旨在研究基于深度学习的垃圾邮件文本分类方法，该方法结合了卷积神经网络（CNN）和循环神经网络（RNN）的模型，通过对邮件文本进行特征提取和分类，能高效、准确地对垃圾邮件进行分类。文中以卷积神经网络和循环神经网络为实验对象，提出了一种垃圾邮件文本分类方法，并在公开数据集上进行了实验。实验结果表明，该方法在垃圾邮件文本分类任务上具有较高的准确率和召回率。     

基于多层多核卷积神经网络的非侵入式负荷监测方法研究

非侵入式负荷监测仅依靠测量得到的总负荷的电压、电流与功率等承载电力信息的信号就实现负荷监测,无需额外的计量装置和线路改造,因此得到广泛研究。针对传统深度神经网络分解模型准确度仍不能满足实际需求的现状,本文提出了一种基于多层多核卷积深度神经网络分解模型。为体现不同设备的特性,模型在数据分割时采用不同的序列长度。然后,模型将分割后的数据先通过高维映射将输入的功率时间序列映射到高维向量,再利用多层卷积法与多核卷积法共同构建出的深度神经网络对生成的信息向量进行特征提取,经多次迭代学习生成负荷分解模型。与多种用于非侵入式负荷分解的深度学习方法相比,本模型对负荷识别准确率提升效果显著,在REDD数据集上的识别准确率达到99.41%。     

基于并行可分离卷积和标签平滑正则化的脑电情感识别

近年来，基于深度学习和脑电图（EEG）的情感识别方法取得了较好的效果。然而，现有方法依然存在脑电情感特征提取不够全面、受人工错误标注的情感标签影响较大等问题。对此，提出了并行可分离卷积和标签平滑正则化（PSC-LSR）网络模型。首先，通过注意力机制，赋予EEG重要时间点和重要通道更大的权重，得到EEG的浅层情感特征；其次，采用并行可分离卷积模块全面提取EEG情感信息，得到深层情感特征；最后，在优化模型参数时采用了情感标签平滑正则化方法，使模型对错误标签有更大的容错概率，增强了网络模型的泛化性和鲁棒性，提高了脑电情感识别的准确率。提出的方法在两个数据集进行了验证，其中，在DEAP数据集中，唤醒和效价两个维度的平均准确率分别达到了99.23%和99.13%；在Dreamer数据集中，唤醒和效价两个维度的平均准确率分别达到了97.33%和97.25%。     

基于多尺度卷积神经网络模型的手势图像识别

为了解决目前利用CNN算法进行手势识别的精度不高的问题,提出一种新的算法。首先对识别的手势图片进行二值化处理,滤除手势的背景,凸显手势在图像中的权重,背景对手势识别影响降低。其次,在经典卷积神经网络模型AlexNet的基础上,提出一种多尺度卷积核的改进卷积神经网络模型。改进卷积神经网络模型采取两种卷积核进行手势特征提取,利用多尺度卷积核和双通道进行特征融合,然后利用在不同角度,不同旋转下拍摄的手势图像数据集对改进模型进行实验验证。研究结果表明,提出的算法模型在不同的角度和不同的旋转情况下对手势图像具有较高的识别率,算法的鲁棒性、识别率方面有了明显的提高。     

基于深度学习的运动想象脑机接口研究综述

近年来，随着脑机接口（Brain-Computer Interface,BCI）技术的进一步发展，对特征提取技术的鲁棒性的需求也持续增加。深度学习（Deep Learning,DL）作为多层次的神经网络模型具有从高维数据中进行特征提取并从分层表示中学习的能力，在分类识别任务领域中的表现优于手工选择特征的传统机器学习方法。深度学习模型可以自动学习高维的EEG数据集从而提取有效特征，因此基于深度学习的脑机接口成为该领域新的研究趋势。卷积神经网络（Convolution Neural Network,CNN）、深度信念网络（Deep Belief Network,DBN）和递归神经网络（Recurrent Neural Network,RNN）是深度学习中对脑电信号进行分析的三大主流算法。主要介绍了这三大主流深度学习算法的基本原理。为了探索能更好契合脑电数据特点的分类模型，还探讨了它们在BCI中集成其他方法的实际运用。     

改进的卷积神经网络实现端到端的水下目标自动识别

由于水声信号的高度复杂性，基于特征工程的传统水下目标识别方法表现欠佳。基于深度学习模型的水下目标识别方法可有效减少由于特征提取过程带来的水声信号信息损失，进而提高水下目标识别效果。本文提出一种适用于水下目标识别场景的卷积神经网络结构，即在卷积模块化设计中引入卷积核为1的卷积层，更大程度地保留水声信号局部特征，且降低模型的复杂程度；同时，以全局平均池化层替代全连接层的方式构造基于特征图对应的特征向量主导分类结果的网络结构，使结果更具可解释性，且减少训练参数降低过拟合风险。实验结果表明该方法得到的水下目标识别准确率（91.7%）要优于基于传统卷积神经网络（69.8%）和基于高阶统计量特征的传统方法识别表现（85%）。这说明本文提出的模型能更好保留水声信号的时域结构，进而提高分类识别效果。      

基于卷积神经网络的少数民族头饰识别

传统头饰图片识别方法的特征点由研究人员手工提取,工作量大且准确率低,识别系统存在预处理步骤繁琐、样本要求高等缺点。针对上述问题,文中通过构建卷积神经网络从大量图片数据中自动学习头饰图片的深层特征。文中的CNN模型选用稀疏性较好的ReLU激活函数调整输出,利用反向传播算法(BP算法)优化网络参数,在训练得到的CNN模型后接Softmax分类器进行识别。实验结果表明,系统对头饰图片测试集的识别率达到96.25%,具有良好的识别准确率和识别效率。     

基于深度迁移学习的饮食图像识别研究

卷积神经网络(CNN)应用于图像识别具有很大优势,但是需要足够深的网络和大量标签完善的数据集才能发挥其优越性.实际应用中,往往需要应对的是质量差和大小不一的数据集,且受硬件设备限制.为了提高图像识别效率和精度,提出一种基于深度卷积神经网络和迁移学习的识别算法.该算法首先对图像预处理和数据增强,后迁移大样本提取出的特征信息用于CNN特征提取,再接入微调网络对数据集再训练.实验结果显示,本文算法对饮食识别的精度和时间性能均有显著的提高,精确度最高可达98％以上,精度提升最高可达10％以上,时间性能提升幅度最高可达110％.     

基于CNN的金属疲劳裂纹超声红外热像检测与识别方法研究

传统超声红外热像检测与识别金属疲劳裂纹主要是通过图像处理算法提取红外热图像的相关热特征,并与裂纹特征进行匹配,其过程过于繁琐,识别率较低且需要人工筛选有效特征。结合主动红外热成像技术以及卷积神经网络（Convolutional Neural Network,CNN）在金属结构无损检测与缺陷自动识别中的优势,提出了一种基于CNN的金属疲劳裂纹超声红外热像检测与识别方法。通过超声红外热成像装置对实验对象（文中为金属平板试件）进行检测,获取红外热图像并制作图像数据集。运用设计的卷积神经网络对不同尺寸裂纹的超声红外热图像进行特征提取与识别分类。此外,对所提出的方法与两种常见图像分类网络模型以及支持向量机的分类结果进行对比。实验结果表明,设计的卷积神经网络在该数据集上识别分类准确率为100%,优于其他网络模型和支持向量机的识别分类,可以有效检测与识别金属疲劳裂纹。     

3维卷积递归神经网络的高光谱图像分类方法

为了针对高光谱图像中空间信息与光谱信息的不同特性进行特征提取，提出一种3维卷积递归神经网络(3-D-CRNN)的高光谱图像分类方法。首先采用3维卷积神经网络提取目标像元的局部空间特征信息，然后利用双向循环神经网络对融合了局部空间信息的光谱数据进行训练，提取空谱联合特征，最后使用Softmax损失函数训练分类器实现分类。3-D-CRNN模型无需对高光谱图像进行复杂的预处理和后处理，可以实现端到端的训练，并且能够充分提取空间与光谱数据中的语义信息。结果表明，与其它基于深度学习的分类方法相比，本文中的方法在Pavia University与Indian Pines数据集上分别取得了99.94%和98.81%的总体分类精度，有效地提高了高光谱图像的分类精度与分类效果。该方法对高光谱图像的特征提取具有一定的启发意义。     

基于混合卷积自编码极限学习机的RGB-D物体识别

有效学习丰富的表征信息在RGB-D目标识别任务中至关重要,是实现高泛化性能的关键。针对卷积神经网络训练时间长的问题,提出了一种混合卷积自编码极限学习机（HCAE-ELM）结构,包括卷积神经网络（CNN）和自编码极限学习机（AE-ELM）,该结构合并了CNN的有效性和AE-ELM快速性的优点。它使用卷积层和池化层分别从RGB和深度图来有效提取低阶特征,然后在共享层合并两种模型特征,输入到自编码极限学习机中以得到高层次的特征,最终的特征使用极限学习机（ELM）进行分类,以获得更好的快速泛化能力。文中在标准的RGB-D数据集上进行了评估测试,其实验结果表明,相比较深度学习和其他的ELM方法,文中的混合卷积自编码极限学习机模型取得了良好的测试准确率,并且有效地缩减了训练时间。     

BLAC:注意力机制时序网络流量异常检测模型

入侵检测的难点之一是如何准确识别流量数据的异常特征。文中提出一个基于卷积神经网络（CNN）、双向长短期记忆网络（Bi-LSTM）和注意力（Attention）的时序流量异常检测模型,即BLAC。为提高BLAC模型的特征提取准确度,使用CNN提取流量数据中的空间特征,利用Bi-LSTM提取流量数据的完整时间特征,解决Attention难以对复杂时间序列数据位置信息进行编码的问题。通过对Attention权重的可视化分析,推测出异常在窗口中发生的时间点。使用雅虎的Webscope S5数据集进行对比试验,结果表明,BLAC模型的性能优于其他SOTA模型,其中关键指标召回率高达98.69%,表示二分类精确度的F1得分达到97.73%。