交叉连接的少层残差卷积神经网络

最近的研究表明,卷积神经网络的性能可以通过采用跨层连接来提高,典型的残差网络(Res Net)便通过恒等映射方法取得了非常好的图像识别效果.但是通过理论分析,在残差模块中,跨层连接线的布局并没有达到最优设置,造成信息的冗余和层数的浪费,为了进一步提高卷积神经网络的性能,文章设计了两种新型的网络结构,分别命名为C-FnetO和C-FnetT,它们在残差模块的基础上进行优化并且具有更少的卷积层层数,同时通过在MNIST,CIFAR-10,CIFAR-100和SVHN公开数据集上的一系列对比实验表明,与最先进的卷积神经网络对比,C-FnetO和C-FnetT网络获得了相对更好的图像识别效果,其中C-FnetT网络的性能最佳,在四种数据集上均取得了最高的准确率.     

Re-GAN：残差生成式对抗网络算法

目的 生成式对抗网络（generative adversarial network,GAN）是一种无监督生成模型,通过生成模型和判别模型的博弈学习生成图像。GAN的生成模型是逐级直接生成图像,下级网络无法得知上级网络学习的特征,以至于生成的图像多样性不够丰富。另外,随着网络层数的增加,参数变多,反向传播变得困难,出现训练不稳定和梯度消失等问题。针对上述问题,基于残差网络（residual network,ResNet）和组标准化（group normalization,GN）,提出了一种残差生成式对抗网络（residual generative adversarial networks,Re-GAN）。方法 Re-GAN在生成模型中构建深度残差网络模块,通过跳连接的方式融合上级网络学习的特征,增强生成图像的多样性和质量,改善反向传播过程,增强生成式对抗网络的训练稳定性,缓解梯度消失。随后采用组标准化（GN）来适应不同批次的学习,使训练过程更加稳定。结果 在Cifar10、CelebA和LSUN数据集上对算法的性能进行测试。Re-GAN的IS （inception score）均值在批次为64时,比DCGAN （deep convolutional GAN）和WGAN （Wasserstein-GAN）分别提高了5%和30%,在批次为4时,比DCGAN和WGAN分别提高了0.2%和13%,表明无论批次大小,Re-GAN生成图像具有很好的多样性。Re-GAN的FID （Fréchet inception distance）在批次为64时比DCGAN和WGAN分别降低了18%和11%,在批次为4时比DCGAN和WGAN分别降低了4%和10%,表明Re-GAN生成图像的质量更好。同时,Re-GAN缓解了训练过程中出现的训练不稳定和梯度消失等问题。结论 实验结果表明,在图像生成方面,Re-GAN的生成图像质量高、多样性强;在网络训练方面,Re-GAN在不同批次下的训练具有更好的兼容性,使训练过程更加稳定,梯度消失得到缓解。     

基于YOLOv4的输电线路外破隐患识别算法

针对人工巡检及传统视频监测方式不能及时识别输电线路外破隐患的问题, 本文提出基于YOLOv4的输电线路外破隐患识别算法. 该算法采用改进K-means算法对图片样本集目标的大小进行聚类分析, 筛选出符合检测目标特征的锚框, 之后利用CSPDarknet-53残差网络提取图片深层次网络特征数据, 并采用SPP算法对特征图进行处理增加感受野, 提取更高层次的语义特征. 最后结合实际的输电线路现场监控图片, 测试结果表明该算法能够及时准确检测到外破隐患.     

融合独立组件的ResNet在细粒度车型识别中的应用

针对细粒度车型中子车系间识别率低的问题,同时为了增强卷积神经网络的表征能力,提出融合独立组件的残差网络（IC-ResNet）模型。优化ResNet网络,通过改进下采样层,减少特征信息损失,接着使用中心损失函数和Softmax损失函数联合学习策略,增强模型的类内聚性。在卷积层前引入独立组件（IC）层,获得相对独立的神经元,增强网络独立性,提高模型的特征表示能力,从而对细粒度车型实现更准确的分类。仿真实验表明,该模型在Stanford cars-196数据集上的识别准确率达到94.7%,与其他模型相比,实现了最优效果,从而验证了该车型识别模型的有效性。     

空洞残差U型网络用于视网膜血管分割

青光眼是一种不可逆转的致盲性眼科疾病,应当早发现和早治疗。但人工诊断是费时费力的过程,而且受基层医疗资源的限制,人工诊断很容易产生漏诊和误诊的现象。因此,利用深度学习技术辅助诊断眼疾病具有重大意义。如何更为准确且有效地分割视网膜血管成为眼疾病辅助诊断的研究热点问题。于是,基于U型网络（U-Net）提出一种新的网络结构称为空洞残差U型网络（Atrous Residual U-Net,AR-Unet）。在AR-Unet中,为了避免U-Net中的梯度消失以及图像结构信息丢失等问题,将残差网络（ResNet）引入到U-Net中。为了扩大感受野和提高物体间的相关性,再将空洞卷积（Atrous Convolution）整合到U-Net中,从而使得血管分割更加精确。在三个公开的彩色眼底图像数据集DRIVE、STARE和CHASE上进行大量实验,结果表明在不同评价指标下,AR-Unet方法的性能均要优于大多数对比方法。     

改进残差网络的猴痘病毒皮肤病变分类

目前猴痘病毒在全球范围内传播,这种病毒在临床上与其他皮肤疾病难以区分,特别是天花病毒和水痘病毒.在确定性聚合酶链式反应技术和其他生物检测技术还没有完全成熟的情况下,通过计算机辅助诊断技术检测猴痘病毒皮肤病变是一种可行的方法,因此提出了一种基于残差网络的猴痘病毒皮肤病变分类算法.该算法以残差网络为基本框架,结合深度可分离卷积和轻量化注意力,在降低模型计算量与复杂度的同时,也提高了模型的分类性能.实验结果表明,该算法对猴痘病毒皮肤病变表现出较好的分类性能,对猴痘皮肤病变的分类准确率、召回率和精度分别为97.3%, 96.8%和97.2%,且均优于实验中所对比的常见分类模型和其他研究方法.     

融合改进 Padim 建模和 ResNet 网络的 喷涂质量检测算法

为了满足喷涂机器人对于喷涂质量检测的需求,采用迁移学习对改进 Padim 建模和 ResNet 网络进行融合,构建自主喷 涂机器人喷涂质量检测一体化模型。 该模型提取一次图像特征可同时用于缺陷定位和分类。 在缺陷定位端,通过改进 Padim 模型以减少特征冗余所造成网络的计算消耗,首先将 ResNet-18 网络获取的 patch 嵌入向量语义层由原先前 3 层改为单 2 层,然 后特征表达由 100 维降维至 20 维,最后训练正样本得到正态分布模型与测试图像进行缺陷定位。 在缺陷分类端,对预训练 ResNet-18 网络进行负样本二次训练,得到 ResNet-18 分类模型对测试图像进行缺陷分类。 经过实验,将一体化模型移植在 jetson nano 移动端中,参数量仅为 11. 69 M,定位精度 94. 5%,分类准确率高达 99. 6%,在机器人位移速度 0. 02 m/ s 下检测时间 为 0. 730 s,不会出现缺帧漏检情况,满足实时检测的要求。     

基于忆阻器卷积神经网络的表情识别

忆阻器具有纳米级尺寸、低功耗、类似神经突触等优点,在神经计算、图像分类等领域具有广阔的应用前景。本文提出了一种基于忆阻器卷积神经网络的面部表情识别方法,首先基于忆阻器构建了ResNet卷积神经网络,并对ResNet网络进行剪枝操作,然后将ResNet模型的所有卷积层以及全连接层的权重映射为忆阻器十字交叉阵列中忆阻器的忆导值。实验结果显示忆阻器卷积神经网络模型在FER2013数据集上的识别准确率为63.82%,在CK+数据集上的识别准确率为93.95%。相比与原卷积网路,准确率损失仅分别为0.31%和0.76%。最后测试了忆阻器的非理想特性对准确率的影响,为忆阻器神经网络的实际部署提供参考。