基于深度学习的太阳能电池片表面缺陷检测方法

目前对太阳能电池片的缺陷检测仍依赖人工完成,很难通过传统的CCD成像系统自动识别.作为一种多层神经网络学习算法,深度学习因对输入样本数据强大的特征提取能力而受到广泛关注.文中提出一种基于深度学习的太阳能电池片表面缺陷检测方法,该方法首先根据样本特征建立深度置信网络(DBN),并训练获取网络的初始权值;然后通过BP算法微调网络参数,取得训练样本到无缺陷模板之间的映射关系;最后利用重构图像与缺陷图像之间的对比关系,实现测试样本的缺陷检测.实验表明DBN能较好地建立上述映射关系,且准确、快速地进行缺陷检测.     

基于深度卷积神经网络的车型识别

传统的基于卷积神经网络的车型识别算法存在识别相似车型的准确率不高,以及在网络训练时只能使用图像的灰度图从而丢失了图像的颜色信息等缺陷。对此,提出一种基于深度卷积神经网络(Deep Convolution Neural Network,DCNN)的提取图像特征的方法,运用深度卷积神经网络对背景较复杂的车型进行网络训练,以达到识别车型的目的。文中采用先进的深度学习框架Caffe,基于AlexNet结构提出了深度卷积神经网络的模型,分别对车型的图像进行训练,并与传统CNN算法进行比较。实验结果显示,DCNN网络模型的准确率达到了96.9%,比其他算法的准确率更高。     

基于深度卷积神经网络的面部表情识别研究

本研究为了解决传统面部表情识别模型准确率较低的问题，基于深度卷积神经网络（Deep Convolutional Neural Network,DCNN）提出一种新的改进神经网络模型，与传统模型相对比，本模型将其核心的卷积层替换成了深度可分离卷积层，同时搭配卷积残差块的使用，使网络能够有效减少参数的情况下，能够提取多尺度上的特征信息，从而有效地保留了细节特征。最后通过仿真对比，证明本研究提出的DCNN网络具有突出的性能特点，适合用于面部表情识别任务。     

基于双通道卷积神经网络的航班延误预测模型

针对航班延误预测数据量大、特征提取困难而传统算法处理能力有限的问题,提出一种基于双通道卷积神经网络（DCNN）的航班延误预测模型。首先,该模型将航班数据和气象数据进行融合,应用DCNN进行自动特征提取,采用批归一化（BN）和Padding策略优化,提升到港延误等级的分类预测性能;然后,在卷积神经网络（CNN）基础上加入直通通道,以保证特征矩阵的无损传输,增强深度网络的畅通性;同时引入卷积衰减因子对卷积通道的特征矩阵进行稀疏性限制,控制不同网络深度的特征叠加比例,维持模型的稳定性。实验结果表明,所提模型与传统模型相比,具有更强的数据处理能力。通过数据融合,航班延误预测准确率可提高1个百分点;加深网络深度后,该模型能保证梯度的稳定,从而训练更深的网络,使准确率提升至92.1%。该基于DCNN算法的模型特征提取充分,预测性能优于对比模型,可更好地服务于民航决策。     

基于显著图的弱监督实时目标检测

深度卷积神经网络(Deep convolutional neural network,DCNN)在目标检测任务上使用目标的全标注来训练网络参数,其检测准确率也得到了大幅度的提升.然而,获取目标的边界框(Bounding-box)标注是一项耗时且代价高的工作.此外,目标检测的实时性是制约其实用性的另一个重要问题.为了克服这两个问题,本文提出一种基于图像级标注的弱监督实时目标检测方法.该方法分为三个子模块:1)首先应用分类网络和反向传递过程生成类别显著图,该显著图提供了目标在图像中的位置信息;2)根据类别显著图生成目标的伪标注(Pseudo-bounding-box);3)最后将伪标注看作真实标注并优化实时目标检测网络的参数.不同于其他弱监督目标检测方法,本文方法无需目标候选集合获取过程,并且对于测试图像仅通过网络的前向传递过程就可以获取检测结果,因此极大地加快了检测的速率(实时性).此外,该方法简单易用;针对未知类别的目标检测,只需要训练目标类别的分类网络和检测网络.因此本框架具有较强的泛化能力,为解决弱监督实时检测问题提供了新的研究思路.在PASCAL VOC 2007数据集上的实验表明:1)本文方法在检测的准确率上取得了较好的提升;2)实现了弱监督条件下的实时检测.     

改进的CNN在太阳能电池板缺陷检测中的应用

由于太阳能电池板生产工艺的复杂性,容易在多个环节产生断栅、开焊、隐裂等缺陷。提出一种改进的卷积神经网络方法来检测电池板缺陷,首先,改进的卷积神经网络采用一种新的损失函数,在新的损失函数中引入平衡因子ε,以提高网络的识别率。其次,将卷积神经网络和随机森林相结合,随机森林分类器替换卷积层的输出层,可以增强网络的泛化能力。仿真结果表明,改进的卷积神经网络能够快速、准确地识别出电池板的缺陷和缺陷类别,识别准确率高达96.48%,相比与传统的卷积神经网络提高了2.63%,能够满足工业过程中电池板缺陷检测的需求。     

基于改进Faster R-CNN和3D DCNN的肺结节检测算法

针对传统肺结节检测准确率低,且存在假阳性高的问题,提出了一种改进Faster R-CNN网络检测候选结节,以及改进的3D DCNN网络去除假阳性的算法。考虑到结节的形状大小等因素,在Faster R-CNN上更改锚点数量和尺寸检测结节的鲁棒性,并在特征提取器的最后一层添加一个反卷积层,在网络特征图上根据结节尺寸添加小型滑动网络以使网络自适应生成感兴趣区域,获取候选结节。为了去除假阳性结节,在2D DCNN网络基础上调整卷积核参数,引入时间维度生成3D DCNN,并利用Adam算法调整网络学习率更改网络权重参数,采用数据增强策略进一步提取结节的全局特征。LIDC-IDRI数据集上的实验结果表明,所提出的算法平均检测准确率达到97.71%,同时降低了误诊率和漏诊率。     

改进的VGG网络的二极管玻壳图像缺陷检测

针对于目前二极管玻壳缺陷检测中大多采用人工特征提取,识别准确率不高的问 题,提出一种改进的 VGG 网络的二极管玻壳图像缺陷检测方法。首先对玻壳图像进行预处理, 同时利用原始大样本数据集对卷积神经网络结构 VGG-19 模型进行预训练得到预训练模型,然 后通过迁移学习的方法将预训练模型中的部分卷积、池化等层权重参数迁移到改进网络模型的 固定层中,非固定层用于模型改进,并将网络的全连接层结构重新进行超参数设置和优化,最 后使用预处理后的玻壳图像数据集对改进模型进行训练,得到非固定卷积层和新的全连接层的 参数和权重。在二极管玻壳数据集进行测试,实验结果表明,该方法能有效提高二极管玻壳图 像分类识别准确率,达到了 98.3%。     

基于RPCA的太阳能电池片表面缺陷检测

目前太阳能电池片生产过程中的缺陷检测主要由人工完成,费时费力,容易受主观因素的影响.文中提出了一种基于RPCA(Robust Principal Component Analysis,RPCA)的太阳能电池片表面缺陷检测方法.该方法对图像矩阵进行变换,使之分解成无缺陷的低秩矩阵图像和有缺陷的稀疏矩阵图像.通过凸优化的方法,分别最小化上述两个矩阵的核范数和1范数,从而使矩阵得以有效快速地分解.同时,文中分别对优化的两种算法:加速逼近梯度(Accelerated Proximal Gradient,APG)法和非精确增广拉格朗日乘子(Inexact Augmented Lagrange Multiplier,IALM)法,在太阳能电池片缺陷检测的计算时间和迭代次数方面进行了比较.最后通过大量实验,证明了上述方法在检测太阳能电池片表面缺陷的可行性和有效性.     

大数据下基于特征图的深度卷积神经网络

针对大数据环境下DCNN(deep convolutional neural network)算法中存在网络冗余参数过多、参数寻优能力不佳和并行效率低的问题,提出了大数据环境下基于特征图和并行计算熵的深度卷积神经网络算法MR-FPDCNN(deep convolutional neural network algorithm based on feature graph and parallel computing entropy using MapReduce)。该算法设计了基于泰勒损失的特征图剪枝策略FMPTL(feature map pruning based on Taylor loss),预训练网络,获得压缩后的DCNN,有效减少了冗余参数,降低了DCNN训练的计算代价。提出了基于信息共享搜索策略ISS(information sharing strategy)的萤火虫优化算法IFAS(improved firefly algorithm based on ISS),根据“IFAS”算法初始化DCNN参数,实现DCNN的并行化训练,提高网络的寻优能力。在Reduce阶段提出了...     

基于DCNN的人脸特征点检测及面部朝向计算

在介绍人脸特征点检测的理论知识的基础上,提出了一种基于深层卷积神经网络（Deep Convolutional Neural Network,DCNN）解决人脸5点特征点（眼角、鼻子、嘴角）预测问题的方法。通过添加更多的卷积层稳定地增加网络的深度,并且在所有层中使用3×3的卷积滤波器,有效减小参数,更好地解决了人脸特征点检测问题。然后计算双眼角与嘴角所成平面与正视时此平面的单应性矩阵,最后利用等效算法求解驾驶员面部转角。实验结果表明,面部特征点检测准确率达到97.96%,算法在角度判断上的误差是1°~5°,这证明了该算法对注意力分散监测的有效性。     

基于迁移学习的水产动物图像识别方法

针对传统水产动物图像识别方法步骤复杂、准确率差、泛化性差,而深度卷积神经网络（DCNN）模型开发难度大等问题,提出一种基于参数迁移策略采用微调方式再训练源模型的方法。首先,对图像进行数据增强等预处理;然后,在修改源模型全连接分类层的基础上,进一步将高层卷积模块的权重设置为可训练以进行自适应调整;最后,以验证集识别率与训练时间作为评估指标,针对不同源模型采用不同的可训练参数占比进行性能实验。实验结果表明,通过再训练得到的图像识别模型准确率可达到97.4%,相比源模型最多可提高20个百分点;在可训练参数占比为75%左右时可得到较理想的性能。通过实验证实了采用微调方法可以在低成本开发条件下得到性能良好的深度神经网络图像识别模型。     

基于动态特征蒸馏的水工隧洞缺陷识别方法

针对水工隧洞缺陷识别任务中现有深度卷积神经网络（DCNN）对缺陷图像特征提取能力不足、识别种类少、推理耗时长的问题,提出一种基于动态特征蒸馏的缺陷自主识别方法。首先,通过深度曲线估计网络对图像进行优化,从而改善低照度环境下的图像质量;其次,构建加入注意力机制的动态卷积模块取代传统静态卷积,并且把得到的动态特征用于训练教师网络以获得更好的模型特征提取能力;最后,在知识蒸馏框架中融合鉴别器结构,以构造一种动态特征蒸馏损失,并通过鉴别器将动态特征知识从教师网络传递到学生网络,从而在大幅减少模型推理时间的同时实现六类缺陷的高精度识别。在四川某水电站水工隧洞缺陷数据集上对该方法和原有残差网络进行对比实验,结果表明该方法可达到96.15%的识别准确率,其模型参数量和推理时间分别降低到原来的1/2和1/6。通过实验结果可知,将缺陷图像的动态特征蒸馏信息融合到识别网络中能够提高水工隧洞缺陷的识别效率。     

基于卷积神经网络的工控网络异常流量检测

针对工控系统中传统的异常流量检测模型在识别异常上准确率不高的问题，提出一种基于卷积神经网络（CNN）的异常流量检测模型。该模型以卷积神经网络算法为核心，主要由1个卷积层、1个全连接层、1个dropout层以及1个输出层构成。首先，将实际采集的网络流量特征数值规约到与灰度图像素值相对应的范围内，生成网络流量灰度图；然后，将生成好的网络流量灰度图输入到设计好的卷积神经网络结构中进行训练和模型调优；最后，将训练好的模型用于工控网络异常流量检测。实验结果表明，所提模型识别精度达到97.88%，且与已有的精度最高反向传播（BP）神经网络测精度提高了5个百分点。     

基于Dropout深度卷积神经网络的ST段波形分类算法

心电信号的ST段波形变化是心肌损伤等心血管类疾病临床诊断的重要辅助手段之一.针对ST段波形分类以及深度卷积神经网络过拟合问题,提出一种基于概率随机舍弃神经元建立子网络的Dropout深度卷积神经网络,通过心电信号数据去噪、ST段候选段筛选、神经网络卷积与下采样运算过程,实现ST段波形样本训练与测试.仿真实验对比分析了算法的波形分类准确率、卷积核个数影响和Dropout对算法泛化能力影响,与专家手工标注、BP、RNN和DCNN等方法进行比较,实验结果表明Dropout DCNN能够有效提高卷积神经网络泛化能力,提升算法的可用性.     

基于NCS2神经计算棒的车辆检测方法

基于深度学习的车辆检测方法准确率较高,其在性能卓越的计算机与图形处理器设备上实时性较好,但在性能相对较低的嵌入式设备上实时性较差。在改进Tiny-YOLO网络的基础上,提出一种利用NCS2神经计算棒的嵌入式车辆检测方法。采用深度可分离卷积替换Tiny-YOLO网络标准卷积降低计算量,去除池化层并使用全卷积层以保留低级特征信息,采用Tensorflow深度学习框架训练改进的Tiny-YOLO网络,并将其部署到配备NCS2神经计算棒的嵌入式设备上。实验结果表明,与原始Tiny-YOLO网络相比,改进Tiny-YOLO网络检测实时性提高1倍,在MS COCO和VOC2007数据集上平均检测准确率分别提升1.12和0.23个百分点,配备NCS2神经计算棒后该方法检测的每秒传输帧数达到12,实时性较原始Tiny-YOLO网络大幅提高。     

基于深度迁移学习的电力作业安全带佩戴检测

在高空电力检修作业中会出现工人未按规定佩戴安全带的情况,存在严重的安全隐患。为此提出基于深度学习的安全带佩戴检测方法,针对深度学习中存在的样本依赖与超参数敏感问题,引入迁移学习以及群优化算法。首先通过重构预训练残差网络的卷积层与全连接层提出三种不同Fine-tuning迁移学习方法,再提出差分动态哈里斯鹰优化算法对三种方法构造的模型在自构建数据集上训练并进行超参数寻优,最后将超参数配置的模型应用到安全带佩戴检测中。仿真结果证明,差分动态哈里斯鹰算法可以实现较好的超参数寻优效果,并且在数据集较少的情况下该方法也能实现较高准确率的检测效果。     

基于Winograd卷积的并行深度卷积神经网络优化算法

针对并行深度卷积神经网络算法在大数据环境下存在冗余特征计算过多、卷积运算性能不足和参数并行化合并效率低等问题，提出了基于Winograd卷积的并行深度卷积神经网络优化算法。首先，该算法提出基于余弦相似度与归一化互信息的特征过滤策略，通过先筛选后融合的方式消除了通道间对于冗余特征的计算，以此解决了冗余特征计算过多的问题；然后，结合MapReduce提出了并行Winograd卷积策略，通过使用并行化Winograd卷积运算替换传统卷积运算的方式来提升卷积运算的性能，以此解决了卷积运算性能不足的问题；最后，提出基于任务迁移的负载均衡策略，通过动态负载迁移的方式来均衡集群中各节点之间的负载，降低了集群总体的平均反应时长，以此解决了参数并行化合并效率低的问题。实验表明，WP-DCNN算法显著降低了DCNN在大数据环境下的训练代价，而且对并行DCNN的训练效率也有大幅提升。     

基于改进卷积神经网络的网络入侵检测模型

针对基于深度学习的网络入侵检测技术存在检测效率低、模型训练易出现过拟合和泛化能力较弱的问题，提出一种基于改进卷积神经网络（ICNN）的入侵检测模型（IBIDM）。与传统"卷积-池化-全连接"层叠式网络设计方式不同，该模型采用跨层聚合网络的设计方式。首先，将预处理后的训练集数据作为输入数据前向传播并提取网络特征，对跨层聚合网络的输出数据执行合并操作；然后，根据分类结果计算训练误差并通过反向传播过程进行迭代优化至模型收敛；最后，利用训练好的分类器对测试数据集进行分类测试。实验结果表明，IBIDM具有较高的入侵检测准确率和真正率，且误报率较低。     

感知器残差网络和超限学习机融合的3D物体识别

目的 随着3D扫描技术和虚拟现实技术的发展,真实物体的3D识别方法已经成为研究的热点之一。针对现有基于深度学习的方法训练时间长,识别效果不理想等问题,提出了一种结合感知器残差网络和超限学习机（ELM）的3D物体识别方法。方法 以超限学习机的框架为基础,使用多层感知器残差网络学习3D物体的多视角投影特征,并利用提取的特征数据和已知的标签数据同时训练了ELM分类层、K最近邻（KNN）分类层和支持向量机（SVM）分类层识别3D物体。网络使用增加了多层感知器的卷积层替代传统的卷积层。卷积网络由改进的残差单元组成,包含多个卷积核个数恒定的并行残差通道,用于拟合不同数学形式的残差项函数。网络中半数卷积核参数和感知器参数以高斯分布随机产生,其余通过训练寻优得到。结果 提出的方法在普林斯顿3D模型数据集上达到了94.18%的准确率,在2D的NORB数据集上达到了97.46%的准确率。该算法在两个国际标准数据集中均取得了当前最好的效果。同时,使用超限学习机框架使得本文算法的训练时间比基于深度学习的方法减少了3个数量级。结论 本文提出了一种使用多视角图识别3D物体的方法,实验表明该方法比现有的ELM方法和深度学习等最新方法的识别率更高,抗干扰性更强,并且其调节参数少,收敛速度快。