FuseNet：应用于移动端的轻量型图像识别网络

为解决目前Transformer模型因其巨大的参数量和计算复杂度而无法应用在计算资源相对有限的移动设备中的问题,提出了一种适用于移动端的友好型轻量图像识别网络称为FuseNet。FuseNet利用卷积神经网络提取局部特征信息和自注意力机制擅长对全局信息进行建模的特性,将局部表示与全局表示两者的特性整合至一个特征提取模块,高效融合了两种不同结构的优点达到以较小的模型规模实现较高准确率的目的。实验证明不同参数规模的FuseNet可以在不进行预训练的情况下实现良好的性能,可以很好地应用在移动设备中。FuseNet-B在ImageNet-1K数据集上以14.8M的参数量实现了80.5%的准确率,性能表现超过了同体量的Transformer模型和卷积神经网络。     

基于轻量型卷积神经网络的生活垃圾图像分类

为解决人工分拣生活垃圾过程中存在的分类效率低、劳动强度大等问题,提出一种轻量型的生活垃圾图像分类模型DG-MobileNetV2。该模型以轻量级网络MobileNetV2为基础,通过引入双尺度深度卷积模块、通道混洗技术、调整宽度因子等手段,达到压缩模型参数量的同时提高分类准确率的目的。实验表明,DG-MobileNetV2的参数量仅为0.403 M(文中1 M=1,000,000),在华为技术有限公司发布的生活垃圾分类数据集上的分类准确率达到90.58%,具有良好的分类效果。后续该轻量型模型可以移植至移动端或嵌入式设备中,为生活垃圾智能化的分类提供了新的思路和实现方法。     

融合小波包变换的一维ＭｏｂｉｌｅＮｅｔ癫痫脑电信号识别

针对目前传统神经网络内存需求大,运算量大,在移动端或嵌入式设备上运行困难等问题,提出了一种融合了小波包变换的轻量级卷积神经网络模型,用于癫痫脑电信号识别的研究。根据癫痫脑电信号的特性,首先采用小波包变换将脑电信号分成三个频段,然后运用改进的一维MobileNet训练、分类。同时引入超参数宽度因子α,通过改变宽度因子的大小以调整模型的深度。实验结果表明,当一维MobileNet模型的宽度因子α选取为0.75时,最终准确率达到100%,其模型的计算量和参数量分别为56.1M和1.24M。与现有的癫痫EEG信号识别方法比较,此模型在准确率、参数量、计算量方面均有不错的表现。     

基于混合注意力的轻量级偏瘫步态评估系统

脑卒中患者通常会出现偏瘫步态,而视觉式步态分析可以用于检测这些变化.然而,当前公开的病理步态数据集规模较小、缺乏对偏瘫严重程度的详细分级,并且传统的视觉式深度学习步态分析方法通常需要较高计算量和较大参数量,不适用于小规模病理步态数据集.本文设计了一款轻量级偏瘫步态评估系统.系统使用一种轻量级卷积神经网络(convolutional neural networks, CNN)来评估偏瘫步态表现.通过线性拼接不同尺度的分组卷积,低成本地获得高效率特征.系统引入多维度混合的轻量级注意力模块来帮助CNN关注空间和通道维度上的显著特征,从而更好地平衡系统有效性与模型参数量.此外,本文还构建了一个专门用于步态识别的偏瘫模拟步态数据集,为模型训练和测试提供数据支撑.实验结果表明,系统的神经网络仅使用VGG-19 1/53的参数量,将步态识别准确率提高至96.91%,高于预训练后的VGG-19,与其他轻量化SOTA方法相比同样具有精度优势.系统的开发成本低,可部署于移动设备,并支持实时检测,为家庭式病理步态分析提供了一种可行的方案.     

基于分裂倒残差的轻量化目标检测算法

针对工业应用领域中终端设备计算能力较低且对检测算法的响应速度存在较高需求的问题,提出基于分裂倒残差的轻量型实时目标检测算法.首先,在主干网络中使用分裂倒残差结构,削减网络结构的参数量以及运算次数,以达到加快推理速度的目的;其次,引入自适应上下文感知模块以及轻量型双向特征融合模块,旨在提升特征信息交流、增加对小目标检测性能的同时,避免增加额外的学习参数与推理.实验结果表明,文中算法在参数量仅有7.5×105的情况下, MS COCO数据集中检测精度达到21.1%,移动端检测速度达到48帧/s,远超对比算法,该检测算法更适合在无法提供高计算能力的移动端设备上完成目标检测任务.     

基于区域分块和轻量级网络的人脸反欺骗方法

如何高效地辨别各种被攻击的人脸是人脸识别过程中迫切需要解决的问题。基于深度学习的人脸反欺骗方法在有着高性能的同时,也带来了庞大的参数量和计算量,使其无法部署在移动或嵌入式设备中。针对以上问题,提出了一种基于区域分块和轻量级网络的人脸反欺骗方法。首先,对训练样本进行随机区域分块;然后,设计了一种基于注意力机制的轻量级网络用于特征提取和图像分类;最后,为了提高测试准确率,对测试样本进行基于区域分块的数据扩增。实验结果表明,所提模型在CASIA-FASD和REPLAY-ATTACK数据集上达到了100%的准确率;在CASIA-SURF数据集的Depth模态上获得了99.49%的准确率和0.458 0%的平均分类错误率（ACER）,远优于ResNet、ShuffleNet等卷积神经网络,且该模型的参数量也仅有0.258 2 MB。在实际应用中,端到端的轻量级网络结构使所提模型更方便部署在移动设备上来进行实时的人脸反欺骗检测。     

轻量化YOLOv5n的高精度垃圾检测算法

针对现有部署至移动设备或嵌入式设备的生活垃圾检测模型参数量多，计算量大，且识别种类较少等问题，对YOLOv5n目标检测算法进行了轻量化、高精度的优化研究。在YOLOv5n的架构上引入轻量级网络ShuffleNetv2与GhostNet实现了检测网络的轻量化；同时添加注意力机制SE增强特征提取能力，以及引入基于响应的知识蒸馏算法提升定位和分类的准确率，从而提高目标检测精度。实验结果表明，在HGI-30数据集上，优化后的YOLOv5n的参数量和计算量分别减少22.3%和23.3%，检测精度mAP0.5和mAP0.5:0.95分别增加1.6个百分点和2.6个百分点。     

基于轻量型网络的单载波信号调制识别

针对当前应用深度学习实现数字信号调制识别过程中网络复杂、计算量高、硬件平台要求高的问题, 本文提出了在改进的MobileNetV3轻量级神经网络中使用信号星座图调制识别的方法. 首先, 将接收到的MPSK和MQAM信号转换成星座图像, 将其进行灰度图像提取, 灰度图像增强, 构建星座图的图像数据集, 然后将ResNet中的跨层结构引入MobileNetV3网络, 解决了随着网络层数的增加, 权重减小而导致的梯度消失现象. 最后将星座图数据集用于训练MobileNetV3的轻量型神经网络权重, 对星座图像进行识别. MobileNetV3基于深度卷积可分离和神经架构搜索(network architecture search, NAS)技术在保证识别精度的前提下, 大大降低了参数量和训练时间, 将对于简单信号的调制识别, 轻量型神经网络可以有效简化网络结构, 降低对硬件设备的要求. 仿真结果表明, 针对的调制信号(BPSK、QPSK、8PSK、16QAM、64QAM), 能实现识别率为99.76%的调制识别, 相较于传统应用深度学习实现调制识别的网络, 网络参数量和计算量明显减小.     

基于Xception改进的卷积神经网络服装分类算法

针对服装图像分类模型的参数量过大, 时间复杂度过高和服装分类准确度不高等问题. 提出了一种利用网络剪枝方法和网络稀疏约束, 减少卷积神经网络Xception中从卷积层到全连接层的冗余参数, 增加网络的稀疏性和随机性, 减轻过拟合现象, 在保证不影响精度的前提下尽可能降低模型的时间复杂度和计算复杂度. 此外在卷积层引入了注意力机制SE-Net模块, 提升了服装图像分类的准确率. 在DeepFashion数据集上的实验结果表明, 使用网络剪枝方法缩减的网络模型在空间复杂度上和时间复杂度上均有所降低, 服装图像分类准确率和运行效率与VGG-16, ResNet-50和Xception模型相比均有所提升, 使得模型对设备的要求更低, 深度卷积神经网络在移动端、嵌入式设备中使用成为可能, 在实际服装领域的电商平台的应用中有比较高的使用价值.     

基于轻量型卷积神经网络的交通标志识别方法

交通标志识别设备的功耗和硬件性能较低,而现有卷积神经网络模型内存占用高、训练速度慢、计算开销大,无法应用于识别设备.针对此问题,为降低模型存储,提升训练速度,引入深度可分离卷积和混洗分组卷积并与极限学习机相结合,提出两种轻量型卷积神经网络模型:DSC-ELM模型和SGC-ELM模型.模型使用轻量化卷积神经网络提取特征后,将特征送入极限学习机进行分类,解决了卷积神经网络全连接层参数训练慢的问题.新模型结合了轻量型卷积神经网络模型内存占用低、提取特征质量好以及ELM的泛化性好、训练速度快的优点.实验结果表明.与其他模型相比,该混合模型能够更加快速准确地完成交通标志识别任务.     

基于组注意力卷积和特征重建的轻量分割算法

针对卷积神经网络的庞大参数量和计算量难以应用于移动设备或嵌入式设备的问题,提出冗余特征重建模块(redundant feature reconstruction,RFR)和组注意力卷积模块(group attention convolution,GAC),RFR模块使用较少的参数量提取重要的固有特征,通过线性算子重建冗...     

基于轻量级卷积神经网络的人脸检测算法

针对人脸检测在移动端应用时面临的移动设备计算能力及存储资源受限等问题,设计一种基于轻量级卷积神经网络的改进人脸检测算法Lightweight-SSH。基于单点无头人脸检测器（SSH）人脸检测算法,采用基于MobileNet的轻量级卷积神经网络对样本数据进行特征提取,减少模型的参数量和计算量,通过在SSH网络的检测模块中引入可变形卷积层,提升卷积神经网络对人脸形变的建模能力。在Wider Face数据集上的实验结果表明,与常用人脸检测算法相比,Lightweight-SSH算法在保证检测精度的前提下,明显降低模型复杂度,并提高了模型检测速度。     

基于特征图切分的轻量级卷积神经网络

卷积神经网络模型所需的存储容量和计算资源远超出移动和嵌入式设备的承载量,因此文中提出轻量级卷积神经网络架构(SFNet).SFNet架构引入切分模块的概念,通过将网络的输出特征图进行“切分”处理,每个特征图片段分别输送给不同大小的卷积核进行卷积运算,将运算得到的特征图拼接后由大小为1×1的卷积核进行通道融合.实验表明,相比目前通用的轻量级卷积神经网络,在卷积核数目及输入特征图通道数相同时,SFNet的参数和计算量更少,分类正确率更高.相比标准卷积,在网络复杂度大幅降低的情况下,切分模块的分类正确率持平甚至更高.     

OMCBIR: Offline mobile content-based image retrieval with lightweight CNN optimization

Convolutional Neural Networks (CNNs) have achieved great success in computer vision applications. However, due to the high requirements for computation power and memory usage, most state-of-the-art CNNs are difficult to deploy on resource-constrained mobile devices. Although many typical lightweight neural networks have been proposed in the industry, such as MobileNetV2, which reduce the amount of parameters and calculations, they still have a lot of redundancy. Furthermore, few papers consider the use of deep learning models to implement image retrieval on terminals, so we propose a new offline retrieval framework based on lightweight neural network models, called Offline Mobile Content-Based Image Retrieval (OMCBIR). In this framework, we focus on the feature extraction of the model, by introducing pointwise group convolution and channel shuffle into the bottleneck block, reconstructing the network structure, and introducing the convolutional attention module, we propose an extremely lightweight small network-Attention-based Lightweight Network (ALNet). Compared to MobileNetV2, ALNet obtains a higher mAP on each dataset in OMCBIR when the model parameters are reduced by more than 62% and the model size is reduced by more than 63%. Extensive experiments conducted on five public datasets provide a trade-off between retrieval performance and model size of different algorithms, which proves the efficiency of the proposed OMCBIR.     

基于YOLOv5增强模型的口罩佩戴检测方法研究

人脸口罩佩戴检测是公共场所疫情防控中极为重要的措施,智能、高效地检测口罩佩戴情况对实现疫情防控的自动化和数字化具有重要意义。使用卷积类深度神经网络实现端到端的人脸口罩佩戴检测具有可行性,但卷积类神经网络具有结构复杂、参数量和浮点计算量庞大的特点,从而产生较高的计算开销和内存需求,极大地限制了其在资源有限的终端设备上的应用。为了使人脸口罩佩戴监督功能更易获取,并实现多尺度条件下的模型压缩和加速检测,提出一种基于改进YOLOv5的轻量化增强网络模型。设计参数量和计算量更小的GhostBottleneckCSP和ShuffleConv模块并替换原YOLOv5网络中的C3及部分Conv模块,以降低特征通道融合过程中的计算量并增强特征表达能力。实验结果表明,该模型的识别精度达95%以上,模型在精度近乎无损失的前提下,参数量和计算量分别仅为原YOLOv5网络的34.24%和33.54%,且在GPU和CPU上的运行速度分别提升13.64%和28.25%,降低了模型对内存存储及计算能力的要求,更适用于在资源有限的移动端部署。     

CPU环境下快速精确的人脸检测方法

近年来人脸检测在使用深度学习方法的情况下,取得了显著的突破.然而人脸检测在CPU上实时运行并且保持很高的精度依然是一个很大的挑战.本文提出一种轻量的卷积网络模型,可以加快卷积神经网络提取特征的速度;对相邻卷积层进行特征融合,在融合后的多个卷积层检测人脸;为了使每一层的anchor密度相同,对anchor做了稠密化处理;修改了人脸检测分类损失函数,使其更关注比较难分类的样本.在公开数据集FDDB的实验表明,在本文提出的神经网络模型下准确率达到了95.9%,并且可以在CPU上实时检测.     

基于轻量级网络的实时人脸识别算法研究

为了在嵌入式和移动设备上实现高精度的实时人脸识别,对常见的网络在人脸识别方面的优缺点进行了分析,提出了一种高效的深度卷积神经网络模型Lightfacenet。在网络中结合深度可分离卷积、逐点卷积、瓶颈结构和挤压与激励结构提出了轻量化神经网络单元,使网络在保证有一定准确率的情况下有效地解决深层的神经网络带来的参数冗余和计算量大的问题,再通过改进的非线性激活函数进一步提高网络的准确性。该神经网络在保留卷积神经网络部分优点的同时也很好地平衡了网络的缺点。在同样的实验环境下,Lightfacenet网络既实现了非常高的识别精度,也在模型推理速度上达到实时的效果。在使用MS-Celeb-1M数据集训练后,该模型在LFW数据集上达到了99.50%的准确率,其效果已经可以与现在的大型卷积神经网络媲美。对于面部识别,Lightfacenet比目前最先进的移动卷积神经网络在保证准确率的情况下提高了效率。     

增强可分离卷积通道特征的表情识别研究

针对目前人脸表情识别准确率不高、网络模型参数复杂等问题,提出一种增强可分离卷积通道特征的人脸表情识别研究方法。设计了一种轻量型卷积神经网络结构提取表情特征,在卷积层中采用深度可分离卷积减少网络参数;引入了压缩激发模块,对不同通道的特征进行权重分配,在不同的卷积层采用不同的压缩率来增强网络对人脸表情的特征提取能力;将提取到的特征送入分类器实现人脸表情分类,在CK+和FER2013数据集上进行实验并分析。实验结果表明：与现有方法相比,提出的网络结构在CK+和FER2013数据集上,识别率分别提高了0.15个百分点和3.29个百分点,且网络模型参数量降低了75%。所提方法在降低网络参数的同时,提高了表情识别准确率。