基于深度学习的小样本声目标识别方法

声目标分类识别是声源识别领域的核心问题,然而,在应用深层神经网络进行声目标分类识别时,从少量样本中学习(样本复杂度较低)是一个具有挑战性的问题;针对此问题,提出了一种基于深度学习的小样本声目标识别方法,该方法将手工设计特征和对数梅尔声谱特征结合到一起,扩充了深度学习模型的可利用特征量,提高了声信号识别效率和精度;在实验验证中,该方法在测试集上实现了87.6%的识别精度;更进一步地,用较少量的训练样本对该方法和其它几种主流的深度学习模型的性能进行了比较验证,结果表明,该方法只需要更少量的数据即可实现同样的识别精度,在声源探测领域具有一定应用价值。     

基于ResNet-BLSTM的端到端语音识别

基于深度学习的端到端语音识别模型中,由于模型的输入采用固定长度的语音帧,造成时域信息和部分高频信息损失进而导致识别率不高、鲁棒性差等问题。针对上述问题,提出了一种基于残差网络与双向长短时记忆网络相结合的模型,该模型采用语谱图作为输入,同时在残差网络中设计并行卷积层,提取不同尺度的特征,然后进行特征融合,最后采用连接时序分类方法进行分类,实现一个端到端的语音识别模型。实验结果表明,该模型在Aishell-1语音集上字错误率相较于传统端到端模型的WER下降2.52%,且鲁棒性较好。     

基于改进残差密集网络的心律失常自动分类

实现对不同类型心律失常的自动分类可为医生提供可靠诊断信息,有效提高该类疾病的诊断效率。因此,本文提出一种改进的残差密集网络用于心律失常的自动分类。该模型将改进的残差密集块作为残差密集网络的基本模块,使用深度可分离卷积替代传统卷积可有效提取通道间特征,降低参数量,同时引入通道注意力机制,实现特征选择,提高重要特征的权重分布。实验基于2018中国生理信号挑战赛提供的公开数据集,对9种类型的心律失常进行分类,F1均值达到81.2%,优于主流的深度学习网络模型。实验结果验证了该模型的可行性与优势,为心律失常分类提供了一种新的方法。     

一种改进残差网络的服装图像识别模型

传统的服装多类别分类方法主要是人工提取图像的颜色、纹理、边缘等特征,这些人工选取特征方法过程繁琐且分类精度较低。深度残差网络可通过增加神经网络的深度获得较高的识别精度被广泛地应用于各个领域。为提高服装图像识别精度问题,提出一种改进深度残差网络模型：改进残差块中卷积层、调整批量归一化层与激活函数层中的排列顺序;引入注意力机制;调整网络卷积核结构。该网络结构在标准数据集Fashion-MNIST和香港中文大学多媒体实验室提供的多类别大型服装数据集（DeepFashion）上进行测试,实验结果表明,所提出的网络模型在服装图像识别分类精度上优于传统的深度残差网络。     

基于CNN和BLSTM的房颤识别算法

针对传统机器学习算法难以提取复杂心拍特征的弊端,提出一种基于深度学习的房颤识别算法。基于心电信号的一维时序特性,设计一维深层卷积神经网络模型,自动挖掘原始信号预处理后的深层次特征。将适合捕捉时间序列长期依赖关系的双向长短期记忆网络与卷积神经网络进行结合,搭建一种深度学习网络模型。基于PCin CC2017数据库实现对原始心电信号的自动分类,完成对房颤的识别。实验结果表明,该算法以86%的分类准确率和83%的F1度量验证了模型的可行性和算法的有效性。     

基于深度残差网络的人脸表情识别

针对深度卷积神经网络随着卷积层数增加而导致网络模型难以训练和性能退化等问题,提出了一种基于深度残差网络的人脸表情识别方法。该方法利用残差学习单元来改善深度卷积神经网络模型训练寻优的过程,减少模型收敛的时间开销。此外,为了提高网络模型的泛化能力,从KDEF和CK+两种表情数据集上选取表情图像样本组成混合数据集用以训练网络。在混合数据集上采用十折（10-fold）交叉验证方法进行了实验,比较了不同深度的带有残差学习单元的残差网络与不带残差学习单元的常规卷积神经网络的表情识别准确率。当采用74层的深度残差网络时,可以获得90.79%的平均识别准确率。实验结果表明采用残差学习单元构建的深度残差网络可以解决网络深度和模型收敛性之间的矛盾,并能提升表情识别的准确率。     

基于多头注意力机制的房颤检测方法

近年来,随着人工智能的发展,深度学习模型已在ECG数据分析(尤其是房颤的检测)中得到广泛应用.本文提出了一种基于多头注意力机制的算法来实现房颤的分类,并通过PhysioNet 2017年挑战赛的公开数据集对其进行训练和验证.该算法首先采用深度残差网络提取心电信号的局部特征,随后采用双向长短期记忆网络在此基础上提取全局特征,最后传入多头注意力机制层对特征进行重点提取,通过级联的方式将多个模块相连接并发挥各自模块的作用,整体模型的性能有了很大的提升.实验结果表明,本文所提出的heads-8模型可以达到精度0.861,召回率0.862,F1得分0.861和准确率0.860,这优于目前针对心电信号的房颤分类的最新方法.     

一种改进的DNN算法在雷达信号分选中的应用

针对深度神经网络能自动学习数据深层特征的优点进行了研究，提出一种基于深度信念网络的信号分选方法，来解决传统雷达信号分选中人工提取特征的耗时、特征冗余等问题。通过堆叠多层的深度模型对原算法进行改进，克服单一模型学习力的不足，对不同信号的本质特征进行深入学习，融合各个深度模型的后验概率进行分类决策，从而进一步提高了信号的识别率。采用改进方法对七种不同类型的雷达信号进行分选识别，并与其他信号分选方法进行对比，实验结果表明，该方法取得了更好的分类效果，展现出较强的学习数据本质特征的能力，从而验证了算法的有效性和优越性。     

基于深度残差网络的脱机手写汉字识别研究

手写汉字识别是模式识别与机器学习的重要研究方向和应用领域;近年来,随着深度学习理论方法的完善、新技术的层出不穷,深度神经网络在图像识别分类、图像生成等典型应用中取得了突破性的进展,其中,深度残差网络作为最新的研究成果,已成功应用于手写数字识别、图片识别分类等多个领域;将研究深度残差网络在脱机孤立手写汉字识别中的应用方法,通过改进残差学习模块的单元结构,优化深度残差网络性能,同时通过对训练集的预处理,从数据层面实现训练生成模型性能的提升,最后设计实验,验证深度残差网络、End-to-End模式在脱机手写汉字识别中的可行性,分析、总结存在的问题及今后的研究方向。     

基于深度残差概率随机森林的时间序列分类方法

时间序列数据广泛存在于工业、医疗等应用领域,由于其时序相关性强、特征空间维度大,使得传统的时间序列分类方法普遍存在精度不足和需要复杂特征工程等问题.充分考虑深度神经网络在处理复杂时序数据上的优越性以及决策树方法拟合数据能力强的优势,提出一种基于残差网络和概率决策树的端到端统一深度学习模型.该模型利用残差网络从原始时间序列中提取高级特征,为了更好地建立时序数据特征与类别标签间的映射关系,将概率决策树融入至残差网络的分类层.同时,设计随机子空间的集成策略,缓解由于残差网络的深层结构产生的过度拟合现象,并给出联合优化模型分裂参数和预测参数的迭代优化方案.在大量的基准数据集和工业案例上进行实验和分析,实验结果表明,所提出模型的分类性能优于传统方法与其他深度学习方法,且可有效提高残差网络的泛化能力.     

数据驱动的ADS-B干扰源信号类型识别

传统干扰源信号类型识别方法在提取干扰信号的细微特征时,存在干扰信号调制类型分类精度低、识别效果差等缺点。对此,本文提出一种基于深度神经网络的ADS-B干扰信号调制类型识别算法。首先将ADS-B信号和干扰波形进行叠加混合,通过控制矢量信号发生器（VSG）进行仿真信号发射,并在接收端进行采集;接着对接收的基带I、Q数据进行人为添加随机噪声,并据此构造各种信噪比场景下的张量训练样本数据集;最后,利用训练样本数据对本文设计的神经网络进行训练,并在样本数据集上将传统分类算法和本文所提出的神经网络算法两者的识别性能进行对比分析。实验结果表明本文所提的神经网络算法相比于现有的传统识别算法,具有更好的识别性能。     

基于残差网络和随机森林的音频识别方法

环境声音分类(ESC)是音频处理领域的重要分支之一,在未来多媒体应用中有重要的作用。音频识别是提取音频中特定的声学特性,将音频分类至样本对应的正确场景,有助于感知和理解周围环境。现阶段音频识别主要是通过信号处理技术和机器学习方法达成。随着人工智能飞速发展,传统的音频处理技术以及机器学习方法面临着巨大的挑战,ESC的识别准确性有待进一步提高。结合残差网络和随机森林两种方法,将一维时域信号的音频数据转换为二维数据形式的梅尔声谱图,预训练残差网络获得一个精度较高的网络模型作为特征提取器,利用该网络模型提取音频中的深层特征,再利用随机森林对深层特征进行分类。该方法在ESC任务上识别率提升了近10%,取得了较好的分类结果。     

基于CTC模型的无分割文本验证码识别

验证码安全性是保障网络安全的重要一环,本文利用深度学习,提出长短期记忆（Long Short-Term Memory, LSTM）网络和连接时序分类（Connectionist Temporal Classification, CTC）模型对主流的验证码图片进行智能识别,利用开源CAPTCHA验证码库生成数据集,简化验证码识别模型,统一语音识别和文本识别方法,实现端到端模型识别。本文提出的方法在较小训练集情况下有更优秀的性能。     

结合随机子空间和级联残差网络的缺陷检测

针对基于深度学习的表面缺陷检测方法中的小样本问题,提出一种结合随机子空间和级联残差网络的缺陷检测方法（RSM-MTResNet）。该方法将缺陷数据分解为多个随机子空间,在每个子空间上构建残差网络,通过级联多个残差网络得到融合特征。在NEU表面缺陷数据集上进行实验,运用了混淆矩阵和[F1]值来评估模型性能。结果表明该方法的分类准确率为97.66%,比传统CNN方法的准确率高了14.5%,[F1]值均提高10.0%以上,这证明了该方法不仅能在一定程度解决小样本问题,同时能获得较高的识别性能。     

一种针对无线电信号分类的对抗增强方法

深度学习模型依赖大量带类标的数据作为训练数据,实际应用的各种无线电环境中收集并标记无线电信号需要消耗大量的人力物力,极大地限制了深度学习模型在无线电信号识别中的应用。目前针对数据量不足带来的问题,研究者们主要采用数据增强的方法,即根据一些先验知识,在保持已知信息的前提下,对原始数据进行适当变换达到扩充数据集的效果。具体到分类任务,在保持数据类别不变的前提下,可以对训练集中的每个样本进行变换,如在一定程度内的随机旋转、缩放、裁剪、左右翻转等,这些变换对应着同一个目标在不同角度的观察结果,并且增强效果有限。此外,深度学习作为一个非常复杂的方法,会面对各种安全问题。深度神经网络很容易受到对抗样本的攻击,攻击者可以通过向良性数据中添加特定的扰动,生成对抗样本,使DNN模型出错。虽然这些伪造的样本对人类的判断没有影响,但是对于深度学习模型来说是一个致命性的误导。聚焦到深度学习领域,本论文提出一种针对无线电信号分类的对抗增强方法,将对抗训练方法引入信号领域,通过控制eps、iteration参数,在数据集中添加算法精心设计的细微扰动生成靠近决策边界面的边界样本实现数据增强,将边界样本与训练样本混合,重新训练识别模型,在提升模型识别精度的同时,提升模型的防御能力。最终在多个分类模型、多个实际无线电信号数据集上的分类性能都有显著的提高,同时防御性能也显著增强,验证了本文提出的信号增强识别方法的有效性。关键词深度学习;对抗训练;调制识别;数据增强     

深度迁移学习在高光谱图像分类中的运用

针对高光谱图像分类中，样本空间特征利用不足的问题。将深层残差网络作为特征提取器运用到高光谱图像分类中，利用深层残差网络更深的网络结构，挖掘样本邻域空间中的深层特征，实验证明此特征具有更好的可分性。同时，针对深层卷积网络有监督训练的过程中，由于有标签样本不足导致的过拟合现象，提出基于深度迁移学习方法的训练策略，通过迁移网络在另一相关数据集中训练得到的网络浅层卷积核参数，再使用目标数据集对深层卷积核参数进行微调，提高了残差网络在少量有标签样本情况下的分类效果。     

面向企业信息推送的短文本有监督分类

随着企业信息传递量的激增,围绕信息精准推送的研究成为相关领域的热点,对于企业推送短文本的精准分类更是其中非常重要的一环。传统的短文本分类多采用TF-IDF算法构建词向量,并采用机器学习方法进行分类,存在维度过高、分类精准度不够等问题。提出基于深度学习的企业推送短文本有监督分类方法,引入深度神经网络代替机器学习分类方法,创建TextCNN模型对企业推送短文本进行处理并分类。实验结果表明,提出方法在开源数据集THUCNews上达到了96.53%的准确率,平均处理时间较传统方法最少缩短400%以上,在性能和准确率上都得到了较好的提升,具有较高的应用价值。