基于多尺度特征融合的水果图像识别算法研究

水果图像识别是智能采摘系统中最重要的组成部分.针对现阶段水果图像识别过程中存在的漏检和误检现象,为进一步提高识别准确率,研究了基于多尺度特征融合的水果图像识别算法.首先,为避免训练过程中出现欠拟合现象,对Fruits-360中的水果图像进行数据扩充,并进一步灰度归一化处理以减少计算量.随后采用ResNet-50作为骨干网络,并在骨干网络的基础上建立多尺度采样层,使用1×1、3×3和5×5的卷积核在拓宽网络宽度的同时进行特征提取,多尺度网络层整体增加BN层,即在每个卷积层之后都增加BN层.使在ResNet-50提取的原始特征基础上获取语义信息更加丰富的特征图.最后采用梯度下降法优化网络,得到最终的识别模型.实验结果表明,所提算法识别精度高,可准确的对水果图像经识别,识别精度高达99.4％,在相同数据集的情况下,优于目前主流算法,可为水果自动采摘技术提供帮助.     

基于深度学习的手绘草图识别

现有的手绘草图识别方法严重依赖于费时费力的手工特征提取,而经典的深度学习模型主要是为彩色多纹理自然图像设计,用于识别手绘草图时效果不甚理想。本文提出了一种基于深度学习的手绘草图识别方法(Deep-Sketch) ,该算法根据手绘草图缺失颜色、纹理信息的特点,使用大尺寸的首层卷积核取代自然图像识别中常使用的小尺寸首层卷积核,获得更多的空间结构信息。利用训练浅层模型获得的模型参数来初始化深层模型对应层的模型参数,以加快收敛,减少训练时长。加入不改变特征大小的卷积层来加深网络深度等方法以减小错误率。实验结果表明,本文所提出的方法较之其它几种主流的手绘草图识别方法具有良好的正确率,对250类手绘草图识别正确率达到69.2%。     

基于深度学习的变压器图像识别系统

针对变压器型号多、图像复杂,以及传统基于机器学习的人工设计特征的方法不能对大规模变压器图像准确分类等问题提出了基于深度学习的变压器图像识别系统直接对原始图像进行"端对端"的学习。为实现变压器图像的准确分类,提出了改进VGG-16卷积神经网络的变压器图像识别模型。在VGG-16模型的基础上,重新构建了全连接层,针对原有的SoftMax分类器,采用3标签的SoftMax分类器进行替换,以实现网络结构优化,并通过迁移学习共享V GG-16模型卷积层和降采样层的权值参数。通过构建变压器图像的训练集和测试集对改进模型进行了训练,并进行性能测试。结果表明,与深度神经网络、卷积神经网络模型相比,改进VGG-16模型具有更好的效果,识别误差达到了9.17%,并实现了对3种变压器的准确区分。     

基于改进Adam-DBN的油井工况诊断方法

针对深度信念网络在油井工况诊断中由于梯度扩散导致训练效果差,模型诊断准确率不高的问题,提出一种基于改进Adam优化算法的深度信念网络油井工况诊断方法.以二值化处理后的示功图作为深度信念网络输入,利用对比散度算法对网络进行无监督预训练,以获取较优的初始权值;在反向传播微调网络过程中,运用动量法预测梯度下降位置,更新梯度下降方向,并通过学习率自适应选择下降步长,避免梯度扩散降低模型训练效果.某采油平台油井上的仿真实验结果表明,基于改进Adam优化算法的深度信念网络对油井工况的识别准确率较高,能更好地满足油田生产实际需求.     

基于强化学习和3σ准则的组合剪枝方法

针对结构复杂、参数冗余的深度神经网络无法部署到资源受限的嵌入式系统的问题，受稀疏率对性能影响的启示，提出基于强化学习和3σ准则的组合剪枝方法.根据稀疏率对准确率的影响，确定最佳全局稀疏率，使稀疏率和精度达到较好平衡.在最佳全局稀疏率的指导下，利用强化学习方法自动搜索每层卷积层的最佳剪枝率，根据剪枝率剪去不重要的权重.通过3σ准则确定全连接层每层的权重剪枝阈值，对全连接层进行权重剪枝.通过再训练来恢复模型识别的精度.实验结果表明，所提剪枝方法可以将网络VGG16、ResNet56和ResNet50的参数，分别压缩83.33%、70.1%和80.9%，模型的识别准确率分别降低1.55%、1.98%和1.86%.     

自适应深度卷积神经网络模型构建方法

针对传统卷积神经网络(CNN)模型构建过度依赖经验知识、参数多、训练难度大等缺点,同时鉴于复杂多类问题的CNN模型构建策略的重要价值,提出一种自适应深度CNN模型构建方法.首先,将初始网络模型的卷积层和池化层设置为仅含一幅特征图;然后,以网络收敛速度为评价指标,对网络进行全局扩展,全局扩展后,根据交叉验证样本识别率控制网络展开局部扩展,直到识别率达到预设期望值后停止局部网络学习;最后,针对新增训练样本,通过拓展新支路实现网络结构的自适应增量学习.通过图像识别实验验证了所提算法在网络训练时间和识别效果上的优越性.     

表面滚压强化A473M钢的组织及性能

为了提高A473M马氏体不锈钢表面的耐磨性能,采用滚压加工强化不锈钢表面,对其组织及性能进行研究,并确定了最佳工艺参数.采用扫描电子显微镜、白光干涉仪、显微硬度计和摩擦磨损实验机对不锈钢的硬化层组织、表面粗糙度、显微硬度及摩擦磨损性能进行表征.结果表明,当滚压进给量由0.05 mm/r增加至0.15 mm/r时,不锈钢表面粗糙度变化趋势呈“∨”形,表面显微硬度和磨损性能的变化趋势呈“∧”形.当进给量为0.1 mm/r且表面粗糙度为62.7 nm时,不锈钢硬化层组织明显细化,滚压层表面显微硬度达到550 HV且为基材的2.2倍,硬化层深度达到200 μm,相对耐磨性为3.7.     

基于多尺度卷积神经网络的交通标志识别方法

为了提升交通标志自动识别的精度,提出一种基于多尺度CNN的交通标志识别方法(TSR -MSCNN算法).该方法采用三阶段卷积神经网络,融合了低阶、中阶和高阶3种不同尺度的特征,并串联了多个小卷积层用以代替单个较大卷积层.通过对全连接层的神经元个数、Dropout参数、卷积核尺寸等网络超参数进行选比实验,获得了最佳的网络超参数.利用德国交通标志基准数据库(GTSRB)对不同算法进行测试表明,本文提出的算法在较小的网络参数量下能够有效提取交通标志特征,获取的识别准确率达到99.76%,且显著优于传统卷积神经网络方法和多尺度特征方法的识别准确率,因此本文算法在图像识别领域有良好的应用价值.     

主从同步网中从节点时钟核心技术的研究与实现

锁相环技术作为主从同步网中从节点时钟的核心技术,其性能是保证网同步的重要因素。目前的从节点时钟大都采用“单环”智能锁相环方案,由于技术上的缺陷,它不可避免地存在稳定性及准确性的问题。本文介绍了“双环”松耦合智能锁相环方案,对该方案的设计原理进行了定量的技术分析,给出了环路参数和性能指标。通过与“单环”方案的定性分析相对比,证明本文提出的方案在稳定性、可控性方面比“单环”方案有了很大的改善,能够克服“单环”方案的不足。     

改进卷积玻尔兹曼机的图像特征深度提取

针对卷积深度和信念网络存在计算复杂度高和训练缓慢的问题,提出卷积深度玻尔兹曼机用于图像特征提取.针对卷积受限玻尔兹曼机进行改进,提出最大化图像中间区域概率的训练目标函数,并引入性能较好的交叉熵稀疏惩罚因子和dropout训练方法.设计卷积深度玻尔兹曼机结构,提出均值聚合机制,将聚合层内点的值定义为block中各点激活概率均值,对层间关联进行简化,将聚合层内各面直接叠加以供高层CRBM提取特征.通过在MNIST手写数字识别集上的实验结果证明,采用新模型提取的图像特征分类准确率提高0.5%、训练时间减少50%,且达到了目前MNIST数据集的最佳水平.     

基于半监督学习的脑电信号特征提取及识别

针对有监督学习容易造成未标记样本的浪费和手动特征提取容易导致信息丢失的问题,提出一种基于深层堆叠网络（DSN）的半监督特征学习方法,无监督特征学习的过程由多个受限玻尔兹曼机（RBM）的并行训练完成,将训练得到的参数用于DSN的输入权值初始化,再采用批量模式的梯度下降法进行监督微调。将所提方法用于运动想象脑电信号特征提取及识别,实验结果表明本文方法能够充分利用未标记样本中的隐含信息,有效提取脑电信号特征,识别结果优于共同空间模式（CSP）和深度信念网络（DBN）等算法,该方法可用于提高BCI系统中脑电信号的识别准确率。     

自适应控制深度学习和知识挖掘图像分类

针对传统分类方法的局限性,提出了一种深度学习结合知识挖掘的零样本图像自适应控制图像分类算法.利用对图像属性的深度学习来实现图像深层次特征及属性的学习和预测,基于图像的属性-类别映射使分类器性能有较大差异,通过稀疏表示模型挖掘图像类别和属性之间的关系并设计自适应控制的属性分类器实现对图像的分类操作.结果表明,与DBN和SVM算法相比,在监督模式和零样本模式下,该算法具有较高的属性预测准确度.在零样本情况下对Shoes数据集进行分类时,该算法具有最高的准确分类识别率,比其他算法的分类识别率提高了15%.     

基于Gabor滤波器和深度学习的图像检索方法

针对图像数据库日渐庞大的问题,研究了将特征提取与深度学习相结合进行图像检索的方法,提出了基于Gabor小波变换和受限玻尔兹曼机(RBM)的特征提取和降维模型.将整幅图像划分成局部图像块,利用Gabor滤波器组提取图像特征,通过RBM对特征进行学习和编码,从而实现图像特征的降维处理.采用基于深度信念网络(DBN)和Softmax分类器的图像检索算法,利用Corel图像库进行新方法的图像检索实验,并与其他两种方法进行比较.结果表明,本文方法在准确率、查全率和检索时间上均具有较好的性能,能得到更好的图像检索结果.     

情感维度下的深度情感关联模型

鉴于现有的情感模型只是从空间上对情感状态进行划分,忽略了情感之间的相互作用问题,建立了一种将多层限制玻尔兹曼机和情感关联认知网络相结合的深度情感关联模型。该模型将多层限制玻尔兹曼机训练得到的权值作为关联认知网络输入输出之间的权值,以三维情感模型中情感空间距离的倒数作为情感类别之间的关联度,通过训练关联认知网络得到最终的情感分类结果。选用TYUT1.0和CASIA情感语音库中的“高兴”“生气”和“中性”三种基本情感作为数据来源,分别采用深度信念网络和深度情感关联模型进行实验对比。实验结果显示,所构建的深度情感关联模型比深度信念网络的平均识别率最高高出6.06%,该模型得到了较好的识别结果。结果表明, 深度情感关联模型在语音情感识别上有较强的优越性和普适性,可以很好地反映情感之间的相互作用。     

基于改进Fisher准则的深度卷积神经网络识别算法

为了有效利用深度学习技术自动提取特征的能力,并解决当训练样本量减少或者迭代次数降低时识别性能急速下降的问题,提出了基于Fisher准则的深度学习算法.该方法在前馈传播时,采用卷积神经网络自动提取图像的结构信息等特征,同时利用卷积网络共享权值和池化、下采样等方法减少了权值个数,降低了模型复杂度;在反向传播权值调整时,采用了基于Fisher的约束准则.在权值的迭代调整时既考虑误差的最小化,又同时让样本保持类内距离小,类间距离大,从而使权值能更加快速地逼近有利于分类的最优值,当样本量不足或训练迭代次数不多时可有效地提高系统的识别率.大量的实验结果证明:该基于Fisher准则的混合深度学习算法在标签样本不足或者较少训练次数的情况下依然能达到较好的识别效果.     

基于多尺度分解和深度学习的锂电池寿命预测

针对目前的剩余寿命预测（RUL）方法存在模型适应性差及预测不准确等问题,提出多尺度深度神经网络的锂电池健康退化预测模型. 通过经验模态分解（EEMD）方法和相关性分析（CA）,将采集到的锂电池能量数据分解为主趋势数据和波动数据;采用深度置信网络（DBN）和长短期记忆网络（LSTM）,分别对主趋势与波动数据进行建模;将DBN与LSTM预测结果进行有效集成,得到锂电池的健康预测结果. 实验结果表明,利用该方法能够有效地对锂电池的健康趋势进行拟合,得到准确的RUL预测结果,性能优于其他典型的预测方法.     

一种新的深度卷积神经网络的SLU函数

修正线性单元(rectified linear unit,ReLU)是深度卷积神经网络常用的激活函数,但当输入为负数时,ReLU的输出为零,造成了零梯度问题;且当输入为正数时,ReLU的输出保持输入不变,使得ReLU函数的平均值恒大于零,引起了偏移现象,从而限制了深度卷积神经网络的学习速率和学习效果.针对ReLU函数的零梯度问题和偏移现象,根据"输出均值接近零的激活函数能够提升神经网络学习性能"原理对其进行改进,提出SLU(softplus linear unit)函数.首先,对负数输入部分进行softplus处理,使得负数输入时SLU函数的输出为负,从而输出平均值更接近于零,减缓了偏移现象;其次,为保证梯度平稳,对SLU的参数进行约束,并固定正数部分的参数;最后,根据SLU对正数部分的处理调整负数部分的参数,确保激活函数在零点处连续可导,信息得以双向传播.设计深度自编码模型在数据集MINST上进行无监督学习,设计网中网卷积神经网络模型在数据集CIFAR-10上进行监督学习.实验结果表明,与ReLU及其相关改进单元相比,基于SLU函数的神经网络模型具有更好的特征学习能力和更高的学习精度.