基于迁移学习与深度森林的晶圆图缺陷识别

为了有效识别晶圆图缺陷模式并及时诊断制造过程的故障源,提出基于迁移学习和深度森林集成的DenseNet-GCForest晶圆图缺陷模式识别模型. 为了解决深度学习模型训练困难和晶圆图缺陷类型数目不平衡的问题,利用迁移学习将深度卷积神经网络DenseNet在ImageNet上预训练的网络权重参数迁移至本模型并重新设计分类层,以减少深度网络模型的训练时间并提高模型的特征提取能力;基于DenseNet网络提取的高维抽象晶圆图特征,引入深度森林模型进行晶圆图特征缺陷模式识别. 工业案例的实验验证结果表明,该方法的识别准确率达到了96.8%,并提高了识别效率,其性能优于典型的卷积神经网络以及其他常用识别方法.     

基于DCGAN反馈的深度差分隐私保护方法

为了防止攻击者在深度学习模型应用过程中利用生成式对抗网络(generative adversarial networks,GAN)等技术还原出训练集中的数据,保护训练数据集中用户的敏感信息,提出一个基于深度卷积生成式对抗网络(deep convolutional generative adversarial networks,DCGAN)反馈的深度差分隐私保护方法.该方法在深度网络参数优化计算时结合差分隐私理论添加噪声数据,基于差分隐私与高斯分布可组合特点,计算深度网络每一层的隐私预算,在随机梯度下降(stochastic gradient descent,SGD)计算中添加高斯噪声使之总体隐私预算最小;利用DCGAN生成数据选取可能得到的最优结果,通过对比攻击结果和原始数据之间的差别调节深度差分隐私模型参数,实现训练数据集可用性与隐私保护度的平衡.实验结果表明,该方法针对训练数据集中的敏感信息具有较高的隐私保护能力.     

基于强化学习的自监督语音识别模型微调技术

近年来，基于大规模自监督预训练和微调技术的端到端连续语音识别取得显著进展，然而现有方法在模型微调阶段和测试阶段存在目标不一致性，制约其性能的进一步提升。针对此问题，提出采用强化学习技术对自监督预训练模型进行微调的方法。该方法将语音识别问题转化为序列决策问题，将预训练模型得到的语音高层表示作为环境状态编码，将词错误率作为奖励函数，将语音识别模型视为策略函数，采用策略梯度算法直接对词错误率进行优化。针对LibriSpeech语料库上的实验结果表明，基于Wav2vec2.0或Hubert预训练模型，采用强化学习微调得到的语音识别模型比采用CTC准则微调后系统的词错误率分别相对降低了6.3%和4.9%。     

基于深度学习的语音门禁系统设计

基于深度可分离卷积神经网络(Depthwise Separable Convolutional Neural Network,DS-CNN)设计一个嵌入式离线语音门禁系统.系统首先利用深度学习库TensorFlow搭建DS-CNN声学模型并完成模型训练,然后将训练好的模型移植到嵌入式平台实现离线式语音识别,最后根据识别结果控制继电器执行相应动作.为避免人工设计的滤波器在特征提取时造成信息损失,系统采用语音信号的语谱图作为声学模型输入,通过多层卷积单元自动提取说话人语音特征进行分类判断,并引入语音唤醒机制,保证系统的安全性和低能耗.系统测试结果表明,该门禁系统1次识别成功率达95%以上,平均响应时间满足设计要求,具有较好的实用性.     

基于深度学习的空管语音识别

文章在分析空中交通管制业务的基础上,研究一种适用于我国民航管制通话的端到端语音识别算法。文章设计了基于卷积神经网络和循环神经网络的深度学习模型,以CTC作为损失函数使用已标注数据进行迭代训练,从而优化模型参数。以空中交通管理中的管制通话语音作为模型的输入,最终输出中文汉字和空管专有名词。使用真实采集的管制通话语音数据进行实验,在10 h的训练数据上词错误率为9.49%。实验结果表明,与传统的语音识别算法比较,该算法有更优异的识别效果。     

基于TSG110的语音识别控制器

目的研究用自然语言向智能家居系统进行信息输入和对相关设备的控制及语音识别控制器设计．方法通过对语音信号特点和识别技术的分析，对语音识别系统的语音特征提取、声学模型与模式匹配、语言模型与语言的处理，阐述了HMM算法和DP匹配的语音识别算法，指出孤立词识别系统结构的特点．结果利用TSG110芯片，给出语音识别控制器的识别技术和系统硬件结构、软件设计及组成方法．结论语音识别技术运用于智能家居系统的语音识别控制器，使其具有语音分析、识别和系统控制等功能，实现信息输入与控制．     

基于迁移学习的少样本朝鲜语古籍文字的识别方法

为解决少样本朝鲜语古籍文字识别精度低的问题,提出了一种基于迁移学习的少样本文字识别方法.首先提出了一种结合传统数据增强和条件深度卷积生成对抗网络的数据增强方法,以此扩充朝鲜语古籍文字图像的训练样本数.其次,将富样本集预训练得到的模型迁移到少样本数据集的学习任务中,以此实现少样本的朝鲜语古籍文字识别.实验结果表明,提出的数据增强方法能够满足模型预训练和少样本的学习要求,且VGG16、ResNet18和ResNet50 3种网络模型在测试集上均获得良好的识别性能,其中ResNet50的识别准确率最高(99.72%).因此,该方法可有效解决小样本的朝鲜语古籍文字识别问题,并可为其他语种的小样本文字识别提供参考.     

一种基于DSmT推理的物品融合识别算法

针对目前提升深度模型分类表现方法存在的硬件性能不足、结构创新不易、训练样本有限等问题,提出一种基于DSmT(Dezert-Smarandache)推理的物品融合识别算法。对于待识别目标,应用数据融合思想将来自不同深度学习模型提供的识别信息进行融合处理。利用已有的预训练深度学习模型,根据分类识别任务进行特定的微调;针对DSmT理论中构造信度赋值困难的问题,使用深度学习网络对图像的判别输出进行证据源信度赋值;在决策级层运用DSmT组合理论对信度赋值融合处理,进而实现物品的准确识别。在不改变网络模型结构与同一数据集的情况下,将提出的方法与单一网络模型和平均值处理方法进行对比测试试验。试验结果表明,该方法可以有效地提高物品图像的识别率。     

基于深度学习的洗衣机异常音检测

基于卷积神经网络框架,提出一种洗衣机异音识别模型,根据卷积神经网络显著特征提取能力和平移不变性,学习洗衣机的异音特征,实现生产线洗衣机的异音自动智能识别。给出完整的过程解决训练数据集的建立、数据样本不平衡等问题。提出一种用于数据增强的网络模型——音频深度卷积生成对抗网络解决训练样本的稀缺性问题。该模型对传统的深度卷积生成对抗网络进行改进,以更好地适应工业音频的生成。利用该模型能够对原始数据进行扩展,生成洗衣机异音增强数据集,在该数据集的基础上进行卷积神经网络训练,经测试准确率达到0.999。利用添加背景噪声信号的数据集测试洗衣机异音识别模型的泛化能力,正确识别率达到0.902,表明该网络在识别洗衣机异音方面具有良好的鲁棒性。     

基于集成深度学习的时间序列预测模型

基于高斯过程的条件受限玻尔兹曼机(GCRBM)时序模型可以很好的预测单一种类时序数据,但是该模型难以预测多类别的真实高维数据。针对这个问题,提出基于集成深度学习的时间序列预测模型,对多类时序对应训练多个深可信网络(deep belief networks, DBN)模型来学习低维特征,利用低维特征对应训练多个GCRBM时序模型。预测时序时先通过训练出的一组DBN模型对目标数据进行降维并通过重建误差识别类别,然后通过识别到的类别所对应的GCRBM模型预测目标数据的后期时序。在CASIA-A步态数据集上的试验结果表明:本方法能够准确识别出步态序列,而且预测结果能够模拟出真实的步态序列,证实了本模型的有效性。     

深度学习算法的P2P流量识别与控制

为了提升P2P流量的识别精度与控制效果,提出了深度学习算法的P2P流量识别与控制方法.采用P2P流量数据训练深度学习算法的BP神经网络,根据训练好的神经网络对训练样本进行预分类,得到包含各服务流量特征的预分类结果.将预分类结果作为P2P流量聚类中心值,通过聚类算法检测P2P流量样本数据,得到P2P流量识别结果.采用分形自回归综合滑动平均模型分析P2P流量控制机制.结果表明,该方法的识别性能稳定、识别结果精度较高,有效降低了流量传输的丢包率,可对P2P流量传输进行稳定控制.     

一种基于生成对抗网络的语音去噪方法

本文提出了维纳滤波算法和生成对抗网络相结合的语音去噪方法.首先用维纳滤波算法对带噪声语音信号进行预处理,提高语音信号的识别度,然后将预处理后的语音信号作为深度学习生成对抗网络的输入,进一步去除噪声信号.实验结果表明,本文提出的去噪方法将带噪声语音信号的分段信噪比从4. 83 db提升到了5. 09 db,去噪效果较为明显.     

基于卷积神经网络的无人机遥感影像农村建筑物目标检测

将深度学习应用于遥感影像目标识别,提出基于卷积神经网络的无人机遥感影像农村建筑物的目标检测方法,用端到端的方式训练Faster R-CNN网络模型,并应用于农村建筑物的快速精确识别.该方法包括基于RPN网络的区域建议和基于Inception v2的卷积神经网络模型训练.为了训练和测试模型,通过无人机采集南疆地区的农村建筑物遥感影像,并人工标注建立了农村建筑物的数据集,在TensorFlow深度学习框架上通过对该数据集目标检测验证了模型.结果表明,基于改进的卷积神经网络目标检测方法对无人机遥感影像进行快速准确识别的总体精度超过90%,通过初始参数更新,模型收敛更快,对无人机遥感影像地物分类和目标识别具有一定的参考意义.     

基于稀疏滤波神经网络的智能调制识别

针对传统调制识别中特征提取依赖人工经验的问题,该文提出了一种基于抗噪预处理及稀疏滤波卷积神经网络的智能通信调制识别算法。该算法将调制信号的循环谱作为卷积神经网络的输入图像,并引入低秩表示算法去除循环谱图中的噪声及干扰。在有监督训练卷积神经网络之前,该文设计了一种新型的稀疏滤波准则对网络进行无监督的逐层预训练,从而提升了泛化性能。仿真表明算法在信噪比为0 dB时仍可达94.2%的识别准确率,优于传统方法及相关深度学习方法。     

基于SCHMM/ANN噪声背景下的语音识别系统设计

语音识别系统一般是将安静环境下训练得到的参数用于实际环境中, 当实际环境是安静的,语音识别系统的工作是令人满意的,然而,当实际环境中有噪声存在时,识别系统的性能就会下降.文中提出将自组织特征映射神经网络与半连续隐马尔可夫模型相结合,训练出适应噪声的隐马尔可夫模型的新方法.把该模型应用于小词汇量的孤立词语音识别系统.实验表明,该模型适合于对噪声背景下的语音进行识别.同传统的HMM模型相比,该模型具有更好的抗噪鲁棒性,在信噪比较低的情况下(2～12dB),识别率比传统HMM模型有明显提高.     

基于语音识别技术的家居环境控制系统设计

利用51单片机,LD3320语音识别芯片,SHT71数字式温湿度传感器以及外围驱动电路设计了一个语音控制的智能家居温、湿度测量控制系统.该系统能够接收非特定人发出的语音命令,并且不需要对使用者提前进行声音训练,接收到语音命令后按照要求将环境对象参数调整到适合的范围.     

基于超像素与半监督的岩石图像分割与识别

岩石薄片图像的分析往往依赖于专业人员在显微镜下观察并给出鉴定结果,不但费时费力,并且受设备限制影响较大。近些年,针对于薄片图像的自动识别方法已经被提出,然而这些方法大多采用监督学习与深度学习相结合的方式,进而受限于大量人工标注,为方法的推广与应用带来了巨大困难。此外模型在不同的地层、岩性等目标应用时,其泛化性也因此受到极大限制。本文针对该问题提出了一种超像素算法SLIC与半监督自训练结合的方法,仅依靠6%的人工标注便能够实现岩石图像的自动化分割与组分识别,极大的增强该方法在实际应用中的价值。该方法首先使用超像素算法SLIC对岩石图像进行预分割,随后基于分割片的颜色特征进行粗合并,并根据最小外接矩形进行切割;切割下来的岩石组分分割图像作为后续处理的基础数据集,这里仅需要人工标注6%的岩石组分数据;随后这些数据通过一个改进的半监督自训练方法,以改进的VGG16模型作为主模型、ResNet18模型作为评判模型,不断生成高置信度的伪标签,利用迭代优化调整,将其扩展到整个数据集,最终获得一个具有较高的稳定性、准确性以及一致性的组分识别模型。通过实际数据的测试与分析,本文所提出SLIC和半监督自训练结合的方法,对6类岩石组分的识别准确率可达到96%。该方法能够在数据差异不大的条件下,帮助用户基本实现自动化的组分识别。而当数据集产生较大差异时,仅需标注少量部分样品即可实现自动的组分识别。通过理论验证与实际数据测试,本方法具有较高的泛化性和可靠性,能够在实际应用提供足够的准确性与便利性。     

结合Spatial CNN的端到端自动驾驶研究

针对当前自动驾驶中端到端深度学习算法需要庞大数据集作为训练支撑且缺少针对性的问题,基于深度迁移的思想,提出了迁移预训练VGG-16网络结合Spatial CNN网络结构的端到端自动驾驶模型.将预训练模型在ImageNet数据集上已经学习到的图像识别能力迁移至转向预测任务上,同时嵌入Spatial CNN网络结构挖掘空间特征信息.研究结果表明:在基于同等少量样本的训练后,迁移学习模型提取的特征更具有相关性,与从零开始训练的DAVE-2模型相比,预测误差率降低11.1％.在测试地图上模型预测值能很好地跟随真实值变化,说明模型能够实现高精度预测.     

基于深度卷积自编码网络的小样本光伏热斑识别与定位

针对传统卷积神经网络训练需要大量数据、而热斑效应图像样本量较少的现状,构建一种深度卷积自编码网络模型用于小样本光伏热斑识别与定位.首先对原始光伏红外图像做预处理得到小样本数据集,然后构建一种以卷积神经网络为基础、结合自编码器的深度卷积自编码网络模型.该模型能自动学习并提取小样本图像中的有效特征,提高识别准确率.实验结果...     

一种基于自动标签机制的行为识别模型迁移方法

随着智能手机用户数量的逐年增长,很多情景感知相关的研究也逐步开展。基于智能手机的人体行为识别已成为用户自适应感知服务中的重要研究课题。尽管有很多研究者已经尝试使用移动设备进行用户行为识别,但依旧难于从不确定的、不完整的以及不充足的移动设备传感器数据中推测出用户的行为。文中提出一种基于自动标签机制的人体行为识别模型迁移方法,利用集成学习分治思想以及深度学习网络(MLP)构建自动标签系统对新用户数据进行打标签,将打完标签的数据划归到通用模型的训练集中进行重新训练,以此完成模型迁移。实验结果表明,迁移学习后的行为识别模型能有效提高行为识别准确率。