深度迁移学习在高光谱图像分类中的运用

针对高光谱图像分类中，样本空间特征利用不足的问题。将深层残差网络作为特征提取器运用到高光谱图像分类中，利用深层残差网络更深的网络结构，挖掘样本邻域空间中的深层特征，实验证明此特征具有更好的可分性。同时，针对深层卷积网络有监督训练的过程中，由于有标签样本不足导致的过拟合现象，提出基于深度迁移学习方法的训练策略，通过迁移网络在另一相关数据集中训练得到的网络浅层卷积核参数，再使用目标数据集对深层卷积核参数进行微调，提高了残差网络在少量有标签样本情况下的分类效果。     

用于轴承故障诊断的两步迁移学习法

由于轴承故障数据存在数据量少和分布不均衡的问题,将迁移学习引入故障诊断领域,同时由于轴承故障数据的分布与源数据集分布差异巨大,直接采用迁移学习的方法会产生负迁移效应,即由于源数据集与目标数据集间分布差异过大而导致无法学习到源数据集的知识,提出一种对迁移学习进行改进的诊断新方法:即两步迁移学习法,使用DCGAN来制作辅助...     

面向旋转机械故障诊断的深度流形迁移学习

深度学习因强大的特征提取能力已逐渐成为旋转机械故障诊断的主要方法。但深层模型缺乏领域适应能力,工况变化时性能衰退严重。迁移学习为解决变工况诊断问题提供新的途径。然而现有深度迁移学习方法大多仅对齐不同领域分布的均值中心,未考虑特征分布的流形结构,其适配性能仍难以应对不同工况复杂的机械故障信号。针对该问题,提出一种深度流形迁移学习方法,以堆叠自编码器为框架,在无监督预训练阶段同时利用源域和目标域样本训练,充分挖掘数据本质特征;针对模型微调,提出流行迁移框架,在适配分布差异同时还保持领域间特征分布结构的一致性。将新方法与现有迁移学习方法在旋转机械故障诊断案例进行充分的比较实验,结果表明,新方法优于现有方法,能显著提高变工况故障诊断精度。通过有效性分析在机理上进一步证明了融合目标域数据的无监督预训练策略和流形迁移微调策略对提高变工况故障诊断的有效性。     

基于迁移学习的暴恐音频判别方法

本文从网络和电影中截取暴恐音频片段组成暴恐音频库,由于暴恐音频来源受限,而卷积神经网络需要大量的数据训练,为此,将迁移学习技术引入暴恐音频的判别中.首先采用公开的TUT音频数据集进行预训练,然后保留模型权重并迁移网络在暴恐音频库上继续训练,最后在fine-tune后的网络中增加网络的层数,添加了一种类似于残差网络的结构使其能够利用更多的音频信息.实验结果表明,使用迁移学习方法比未使用迁移学习方法的平均判别率提升了3.97%,有效解决了在暴恐音频判别研究中音频数据集过小而带来的训练问题,且改进后的迁移学习网络进一步提升了1.01%的平均判别率,最终达到96.97%的判别率.     

MDEV Model: A Novel Ensemble-Based Transfer Learning Approach for Pneumonia Classification Using CXR Images

Pneumonia is a dangerous respiratory disease due to which breathing becomes incredibly difficult and painful; thus, catching it early is crucial. Medical physicians’ time is limited in outdoor situations due to many patients; therefore, automated systems can be a rescue. The input images from the X-ray equipment are also highly unpredictable due to variances in radiologists’ experience. Therefore, radiologists require an automated system that can swiftly and accurately detect pneumonic lungs from chest x-rays. In medical classifications, deep convolution neural networks are commonly used. This research aims to use deep pre-trained transfer learning models to accurately categorize CXR images into binary classes, i.e., Normal and Pneumonia. The MDEV is a proposed novel ensemble approach that concatenates four heterogeneous transfer learning models: MobileNet, DenseNet-201, EfficientNet-B0, and VGG-16, which have been finetuned and trained on 5,856 CXR images. The evaluation matrices used in this research to contrast different deep transfer learning architectures include precision, accuracy, recall, AUC-roc, and f1-score. The model effectively decreases training loss while increasing accuracy. The findings conclude that the proposed MDEV model outperformed cutting-edge deep transfer learning models and obtains an overall precision of 92.26%, an accuracy of 92.15%, a recall of 90.90%, an auc-roc score of 90.9%, and f-score of 91.49% with minimal data pre-processing, data augmentation, finetuning and hyperparameter adjustment in classifying Normal and Pneumonia chests.     

Classification of Glaucoma in Retinal Images Using EfficientnetB4 Deep Learning Model

Today, many eye diseases jeopardize our everyday lives, such as Diabetic Retinopathy (DR), Age-related Macular Degeneration (AMD), and Glaucoma. Glaucoma is an incurable and unavoidable eye disease that damages the vision of optic nerves and quality of life. Classification of Glaucoma has been an active field of research for the past ten years. Several approaches for Glaucoma classification are established, beginning with conventional segmentation methods and feature-extraction to deep-learning techniques such as Convolution Neural Networks (CNN). In contrast, CNN classifies the input images directly using tuned parameters of convolution and pooling layers by extracting features. But, the volume of training datasets determines the performance of the CNN; the model trained with small datasets, overfit issues arise. CNN has therefore developed with transfer learning. The primary aim of this study is to explore the potential of EfficientNet with transfer learning for the classification of Glaucoma. The performance of the current work compares with other models, namely VGG16, InceptionV3, and Xception using public datasets such as RIM-ONEV2 & V3, ORIGA, DRISHTI-GS1, HRF, and ACRIMA. The dataset has split into training, validation, and testing with the ratio of 70:15:15. The assessment of the test dataset shows that the pre-trained EfficientNetB4 has achieved the highest performance value compared to other models listed above. The proposed method achieved 99.38% accuracy and also better results for other metrics, such as sensitivity, specificity, precision, F1_score, Kappa score, and Area Under Curve (AUC) compared to other models.     

基于深度迁移学习的大鼠肝纤维化诊断

针对肝纤维化临床诊断方法具有有创性和传统机器学习方法特征提取的不完全性的缺陷,本文采用深度迁移学习方法利用预训练的ResNet-18和VGGNet-11模型用于肝纤维化分期诊断.使用南方医科大学提供的大鼠肝纤维化核磁共振影像数据集进行不同程度的迁移训练.将两种模型在通过4种不同参数采集的核磁共振影像数据集上,分别使用6种网络迁移配置训练.实验结果表明,使用T1RHO-FA参数采集的核磁共振影像和采用VGGNet-11模型更能提高肝纤维化分期诊断的准确率.同时相对于ResNet-18模型,深度模型迁移学习方法能稳定提升VGGNet-11模型进行肝纤维化分期诊断的准确率和训练速度.     

深度学习在阿尔茨海默病分类诊断中的应用

阿尔茨海默病是一种常见的神经退行性疾病,可依据神经影像学进行临床诊断。深度学习能够挖掘患者影像资料中隐含的丰富信息并完成不同阶段的病程分类,是目前计算机辅助诊断领域的研究热点。介绍阿尔茨海默病神经影像学数据集,总结经典深度学习网络模型在阿尔茨海默病分类诊断中的应用以及深度学习模型可解释性,重点对卷积神经网络与融合多网络的分类诊断方法进行梳理分析,对不同的思路和方法综合对比,讨论深度学习在阿尔茨海默病辅助诊断领域面临的挑战与未来研究方向,对提高阿尔茨海默病的临床诊断效率与早期预测准确性具有重要意义。     

利用迁移学习和焦点损失卷积神经网络的石墨分类

为了使得优质石墨资源得到优质优用, 提出利用迁移学习和焦点损失卷积神经网络的石墨分类识别算法.在自建的初始数据集基础上, 通过对数据集的离线扩充与在线增强, 有效扩大数据集并减低深层CNN过拟合的风险. 以VGG16、ResNet34和MobileNet V2为基础模型, 重新设计新的输出模块载入全连接层, 提高了模型...     

基于深度学习和迁移学习的水果图像分类

图像识别作为深度学习领域内的一项重要应用,水果图像的分类识别在智慧农业以及采摘机器人等方面具有重要应用。针对以往传统图像分类算法存在泛化能力差、准确率不高等问题,提出一种在TensorFlow框架下基于深度学习和迁移学习的水果图像分类算法。该算法采用Inception-V3的部分模型结构对水果图像数据进行特征提取,采用Softmax分类器对图像特征进行分类,并通过迁移学习方式进行训练得到迁移训练模型。测试结果表明,该算法与传统水果分类算法对比,具有较高识别准确率。     

迁移学习方法在医学图像领域的应用综述

深度学习技术发展迅速,在医学图像处理领域取得了显著成果。但是由于医学图像样本少,标注困难,使得深度学习的效果远未达到预期。近年,利用迁移学习方法缓解医学图像样本不足的问题,提高深度学习技术在医学图像领域的效果,成为了研究热点之一。介绍了迁移学习方法的基本概念、类型、常用策略及模型,根据迁移学习方法的类型,对当前医学图像领域具有代表性的相关研究进行了梳理与小结,对该领域的未来发展进行了总结和展望。     

青光眼眼底图像的迁移学习分类方法

针对目前缺少大型公开已标记的青光眼数据集,为了解决小样本学习能力不足、分类精度低等问题,提出一套基于迁移学习的青光眼眼底图像识别系统.对获取的青光眼眼底图像进行去噪、删除多余背景、提取感兴趣区域(ROI)、图像增强等预处理操作.在VGG16网络的基础上,对全连接层进行重新设计,得到一个简化的深度神经网络模型Reduce...     

基于深度学习的遥感图像茶园区域识别应用研究

得益于遥感技术的发展和深度学习在图像处理方面的进展,采用深度学习识别遥感图像的方法被广泛应用。与传统的统计农作物种植面积方法相比较,通过深度学习的方法来识别茶园种植区域,可以减少人工依赖,节约人力资源,实时获取数据,具有更高的时效性。数据来源于Bigmap,以贵州省卫星遥感图像为数据基础,提出了使用深度学习来识别茶园区域的应用方法。实验目标为从整张遥感图像中提取出茶园种植区域。首先对遥感图像进行数据预处理,然后采用人工目视解译的方法标注出茶园区域并制成数据集,将数据集导入神经网络进行训练获得网络模型,最后将验证图像放入到训练好的神经网络当中,获得验证结果;检测精确率为95.83%,检测召回率为85.00%。     

基于迁移学习的人脸姿态分类方法

人脸姿态分类在智能人机交互、虚拟现实、智能控制以及人脸识别等多个领域都有广泛的应用。由于人脸姿态分类过程中存在不同角度间特征重叠率高的问题,导致其分类精度过低。为提高人脸姿态分类的准确率与鲁棒性,提出了基于迁移学习的人脸姿态分类方法。该方法利用卷积神经网络的特征提取和学习能力,对特征进行识别和分类,从而得到单方向人脸姿态的训练参数。利用迁移学习,将卷积神经网络训练好的参数应用于训练两个方向的人脸姿态模型中。使用该方法在CAS-PEAL数据集上进行了实验,最终结果的准确率达到98. 7%,并且与AlexNet、VGGNet和ResNet等网络模型做对比实验,得到了更好的人脸姿态分类效果。实验结果表明,所提出的方法显著提高了人脸姿态分类的准确率与鲁棒性。     

基于深度残差网络与迁移学习的毒蕈图像识别

我国毒蕈种类繁多且分布广泛,经常有人因无法鉴别毒蕈和可食用菌而误食毒蕈,导致身体健康甚至生命安全受到严重威胁。为了减少毒蕈中毒事件的发生,本文以中国常见毒蕈为研究对象,提出基于深度残差网络与迁移学习的毒蕈图像识别方法。首先通过互联网途径获取常见种类的毒蕈和非毒蕈的图像,经筛选后得到18种毒蕈和5种非毒蕈共14669张图像,使用数据增强扩充数据量,建立中国常见毒蕈图像数据集。然后以ResNet-152为预训练网络模型,采用基于模型的迁移学习方法,构建出毒蕈图像识别的模型结构,以Adam算法为模型优化方法,最后通过k折交叉验证进行模型训练。试验结果表明,毒蕈图像识别模型Top-1和Top-5准确率分别为92.17%和97.35%,对于常见毒蕈图像具有较高的识别率,可以有效的帮助人们避免误食毒蕈,为毒蕈识别研究提供新的方法。     

Automatic Detection of COVID-19 Infection Using Chest X-Ray Images Through Transfer Learning

The new coronavirus(COVID-19),declared by the World Health Organization as a pandemic,has infected more than 1 million people and killed more than 50 thousand.An infection caused by COVID-19 can develop into pneumonia,which can be detected by a chest X-ray exam and should be treated appropriately.In this work,we propose an automatic detection method for COVID-19 infection based on chest X-ray images.The datasets constructed for this study are composed of194 X-ray images of patients diagnosed with coronavirus and 194 X-ray images of healthy patients.Since few images of patients with COVID-19 are publicly available,we apply the concept of transfer learning for this task.We use different architectures of convolutional neural networks(CNNs)trained on Image Net,and adapt them to behave as feature extractors for the X-ray images.Then,the CNNs are combined with consolidated machine learning methods,such as k-Nearest Neighbor,Bayes,Random Forest,multilayer perceptron(MLP),and support vector machine(SVM).The results show that,for one of the datasets,the extractor-classifier pair with the best performance is the Mobile Net architecture with the SVM classifier using a linear kernel,which achieves an accuracy and an F1-score of 98.5%.For the other dataset,the best pair is Dense Net201 with MLP,achieving an accuracy and an F1-score of 95.6%.Thus,the proposed approach demonstrates efficiency in detecting COVID-19 in X-ray images.     

基于深度学习的图像风格迁移研究进展

图像风格迁移是计算机视觉领域的一个热点研究方向.随着深度学习的兴起,图像风格迁移领域得到了突破性的发展.为了推进图像风格迁移领域的发展,对基于深度学习的图像风格迁移的现有研究方法进行综述.对基于深度学习的图像风格迁移方法进行分类和梳理,并对比分析基于卷积神经网络和基于生成对抗网络的风格迁移方法,介绍了图像风格迁移的改进...     

一种迁移学习和可变形卷积深度学习的蝴蝶检测算法

针对自然生态蝴蝶多种特征检测的实际需求,以及生态环境下蝴蝶检测效率低、精度差问题,本文提出了一种基于迁移学习和可变形卷积深度神经网络的蝴蝶检测算法（Transfer learning and deformable convolution deep learning network,TDDNET）.该算法首先使用可变形卷积模型重建ResNet-101卷积层,强化特征提取网络对蝴蝶特征的学习,并以此结合区域建议网络（Region proposal network,RPN）构建二分类蝴蝶检测网络,以下简称DNET-base;然后在DNET-base的模型上,构建RPN网络来指导可变形的敏感位置兴趣区域池化层,以便获得多尺度目标的评分特征图和更准确的位置,再由弱化非极大值抑制（Soft non-maximum suppression,Soft-NMS）精准分类形成TDDNET模型.随后通过模型迁移,将DNET-base训练参数迁移至TDDNET,有效降低数据分布不均造成的训练困难与检测性能差的影响,再由Fine-tuning方式快速训练TDDNET多分类网络,最终实现了对蝴蝶的精确检测.所提算法在854张蝴蝶测试集上对蝴蝶检测结果的mAP0.5为0.9414、mAP0.7为0.9235、检出率DR为0.9082以及分类准确率ACC为0.9370,均高于在同等硬件配置环境下的对比算法.对比实验表明,所提算法对生态照蝴蝶可实现较高精度的检测.     

深度学习下的病媒蚊虫分类

蚊虫是多种疾病的传播媒介,对病媒蚊虫的监测是预防蚊媒疾病的关键,针对传统病媒蚊虫的人工鉴定方法成本较高且效率低下,提出深度学习下的病媒蚊虫分类方法,基于迁移学习,微调(fine-tuning) ResNet18、DenseNet121、MobileNetV2这3种ImageNet预训练模型,在900张少量蚊虫数据集下采用K折交叉验证,对埃及伊蚊、白纹伊蚊、库蚊3种蚊虫进行分类,评估模型性能,平均峰值准确率分别达到了95%、97%、97%.最后,利用在900张蚊虫数据集下重新训练后的模型,对344张蚊虫图像进行预测,其中轻量化模型MobileNetV2达到了最高0.95的精准率(precision)、召回率(recall)、F1 score.结合3种模型的最终预测准确率,得出轻量化的模型MobileNetV2在少量数据集下表现更优.实验改变了以往的模型微调方式,通过设置模型分类层学习率为前层学习率的10倍,与前人实验相比,对白纹伊蚊的预测准确率提高了5%–6%,解决了少量数据样本的训练收敛问题,进一步拓展了病媒蚊虫识别的适用环境.