一种基于注意机制和卷积神经网络的视觉模型

针对目前的深度卷积神经网络(CNN)模型规模大、训练参数多、计算速度慢以及难以移植到移动端等问题,提出了一种深度可分离卷积结合3重注意机制模块(DSC-TAM)的视觉模型.首先,通过深度可分离卷积网络来减少模型参数,提高网络模型的计算速度;其次,引入3重注意机制模块提高网络的特征提取能力,改善网络性能.实验结果表明:该...     

面向深度可分离卷积的硬件高效加速器设计

采用深度可分离(DS)卷积替代标准卷积已成为神经网络轻量化设计的趋势,但是由于深度可分离卷积不规则的数据维度和数据尺寸,现有卷积神经网络加速器在处理这类网络时计算并行度和计算单元(PE)利用率无法得到保证,导致加速器计算性能降低。针对这一问题,本文提出一种通道朝向的计算数据流,该数据流能够将数据维度不同的Depthwise卷积、Pointwise卷积和标准卷积在统一的数据流下展开运算。基于该数据流,设计了一款面向深度可分离卷积的加速器,该加速器采用统一的计算核心处理深度可分离卷积中各类卷积运算,在低面积开销下实现了高计算并行度。实验结果表明,与目前现有的深度可分离卷积加速器相比,该设计获得了 1.32倍处理速度和1.76倍面积效率的提升。     

基于注意力机制的轻量级RGB-D图像语义分割网络

目的针对卷积神经网络在RGB-D(彩色-深度)图像中进行语义分割任务时模型参数量大且分割精度不高的问题,提出一种融合高效通道注意力机制的轻量级语义分割网络。方法文中网络基于RefineNet,利用深度可分离卷积(Depthwiseseparableconvolution)来轻量化网络模型,并在编码网络和解码网络中分别融合高效的通道注意力机制。首先RGB-D图像通过带有通道注意力机制的编码器网络,分别对RGB图像和深度图像进行特征提取;然后经过融合模块将2种特征进行多维度融合;最后融合特征经过轻量化的解码器网络得到分割结果,并与RefineNet等6种网络的分割结果进行对比分析。结果对提出的算法在语义分割网络常用公开数据集上进行了实验,实验结果显示文中网络模型参数为90.41 MB,且平均交并比(mIoU)比RefineNet网络提高了1.7%,达到了45.3%。结论实验结果表明,文中网络在参数量大幅减少的情况下还能提高了语义分割精度。     

基于浅层卷积神经网络的面部表情识别

面部表情识别在人机交互等领域中发挥着重要作用,采用深度学习方法提高了模型精度,但过深的网络加大了计算成本,造成识别滞后和性能低下的问题.本文提出了一种浅层卷积神经网络模型,它受到Xception网络的启发,结合了残差模块和深度可分离卷积,同时引入了功能模块与网络进行融合.微调后的网络结构简单、模型较小,在FER2013数据集上获得了66.12％的准确率,优于多个对比网络.最后,本文搭建了一个可视化系统来验证所提模型在自然场景下的性能,验证结果与实验结论一致.     

基于改进YOLOv5s的腌制蔬菜真空包装缺陷检测

目的 针对传统的基于人工的腌制蔬菜真空缺陷包装剔除效率低、漏检率高等问题,提出一种基于改进YOLOv5s的腌制蔬菜真空包装缺陷检测方法。方法 首先,使用Ghost卷积替换CSP模块中的卷积,在提高模型特征提取能力的同时降低网络的参数量;其次,利用空间换深度(Space-to-Depth, SPD)和深度可分离卷积(Depthwise-Separable Convolution, DSConv)组合操作SPD–DSConv进行下采样,减少下采样造成的特征信息损耗;最后,在网络中引入SE注意力机制,提高算法的精确率。结果 在自制的腌制蔬菜真空包装数据集上,改进后的网络平均精度(man Average Precision, A_mAP)为93.88%,模型尺寸为3.91MB,相比原网络精度提高了2.05%,模型尺寸缩减了44.38%。结论 文中方法能够实现腌制蔬菜真空缺陷包装的分类和定位,为基于机器人的缺陷包装剔除奠定了基础。     

基于浅层Inception-MobileNet旋转机械故障诊断

针对现有的旋转机械故障诊断算法存在着时频表示模糊、特征提取困难,从而导致故障诊断效率和精度较低的问题,提出一种基于浅层Inception-MobileNet的旋转机械故障诊断模型。该模型通过拼接法将原始振动信号转换为二维图像,然后采用多尺度卷积核提取不同分辨率的特征图,并结合深度可分离卷积实现特征学习与分类。该网络在CWRU数据集和MFPT数据集上分别实现了十种故障分类和三种故障分类,分类精度为99.5%和95.78%。与传统的网络进行比较,该网络可提高特征提取能力,并且在相同数据集上该网络实现的故障识别精度最高。     

优化深度残差网络及其在强噪声环境下滚动轴承故障诊断中的应用

针对传统基于深度学习的故障诊断方法存在抗噪性能差、计算复杂度高和泛化性能不足的问题,提出了一种基于深度可分离残差网络（Depthwise Separable Residual Network,DS-ResNet）的滚动轴承故障诊断方法。采用快速傅里叶变换（Fast Fourier Transform,FFT）将滚动轴承一维振动转换到频域进行表示;利用深度可分离卷积（Depthwise Separable Convolution,DSC）计算复杂度低和逐点卷积（Pointwise Convolution,PWC）能增强网络非线性表达的优点,分别代替传统深度残差网络中的两个标准卷积层,构建出优化后的DS-ResNet模型。将各类故障状态下的频域信号作为DS-ResNet模型的输入进行识别分类,结果表明,在信噪比为-4 dB的强噪声环境中,识别准确率达到92.71%;在变转速工况下,平均识别准确率可达90.19%,高于其他常用深度学习诊断方法,且模型每轮的训练时间仅需2.16 s,证明了所提方法具有更好的抗噪性能、泛化性能和更高的诊断效率。     

基于多分支深度可分离卷积神经网络的滚动轴承故障诊断研究

针对传统滚动轴承故障诊断方法存在抗噪性差、需要人工特征提取、计算量较大、对运行设备要求高的问题,提出一种基于多分支深度可分离卷积神经网络(MBDS-CNN)的滚动轴承故障诊断方法,利用深度可分离卷积和权重剪枝技术对模型尺寸进行压缩,通过多分支结构保证模型的精度,避免梯度消失现象的发生。使用模型尺寸、诊断精度、预测速度作为评价指标对模型进行评估。试验结果证明,基于多分支深度可分离卷积神经网络的滚动轴承故障诊断,可以在噪声环境下有效识别轴承不同部位故障程度,提高了诊断效率,降低了对运行设备性能的要求。     

基于语义分割的实时车道线检测方法

车道线识别是自动驾驶环境感知的一项重要任务。近年来,基于卷积神经网络的深度学习方法在目标检测和场景分割中取得了很好的效果。本文借鉴语义分割的思想,设计了一个基于编码解码结构的轻量级车道线分割网络。针对卷积神经网络计算量大的问题,引入深度可分离卷积来替代普通卷积以减少卷积运算量。此外,提出了一种更高效的卷积结构LaneConv和LaneDeconv来进一步提高计算效率。为了获取更好的车道线特征表示能力,在编码阶段本文引入了一种将空间注意力和通道注意力串联的双注意力机制模块(CBAM)来提高车道线分割精度。在Tusimple车道线数据集上进行了大量实验,结果表明,本文方法能够显著提升车道线的分割速度,且在各种条件下都具有良好的分割效果和鲁棒性。与现有的车道线分割模型相比,本文方法在分割精度方面相似甚至更优,而在速度方面则有明显提升。

     

基于改进型U-Net卷积神经网络的磁片表面缺陷检测

为了对磁片质量检测过程中常见的缺角、划痕、脏污缺陷准确地分割,利用U-Net卷积神经网络的编码解码功能,提出了一种改进的U-Net网络的磁片缺陷图像分割算法。该方法采用深度可分离卷积来减小计算量与模型参数量,结合注意力机制sSE block提炼图像特征图,提高模型的准确率。实验结果表明,所提出算法在磁片缺陷检测中网络的输出图像失真更小,针对缺角、划痕、脏污缺陷检测取得了良好的表现,网络检测结果的准确率(AC)分别达到98.23%、97.25%、96.57%,与原始网络相比提高了1.1%～2.86%,平均交互比(MIoU)分别达到了84.72%、77.36%、75.81%,提高了1.5%～3%,图像分割的效果良好。将改进后的网络在车间现场进行测试,误报率小于5%,漏报率为0。