基于主动学习的唐卡主尊标注研究

唐卡是藏文化中一种特色绘画，有较高的学术价值。为降低唐卡主尊检测任务中数据标注的人力成本，文中采用主动学习流程训练目标检测模型，并针对唐卡主尊分布特点提出最大框选法和最大框不确定性方法，用以优先选取未标注样本中对神经网络最有益的样本。采用Faster R-CNN目标检测模型进行唐卡主尊主动学习实验，结果表明：所提出的最大框不确定性方法优于随机采样主动学习方法，仅400张训练数据即可达到98.19%的平均准确率（mAP），与全监督下1 249张数据训练的模型结果（98.17%）接近；在500张数据时mAP可达到最高，为98.31%。所提最大框不确定性采样法可高效挑选出高信息量唐卡主尊数据，不但可以降低训练所需数据量，减少网络训练时间，而且能够减少低信息量数据对模型的影响，对模型的性能具有显著提升效果。     

融合注意力机制的雷达欺骗干扰域适应识别方法

针对目前雷达欺骗干扰识别中常规特征识别方法应用受限和训练高性能深度学习模型需要的大量标注样本难以高效获取的问题,该文提出一种基于对抗域适应网络的雷达欺骗干扰识别方法,以改善标签限制;并融合注意力机制残差模块进一步提升识别精度。首先,对雷达接收信号进行时频变换后,应用基于对抗网络思想的域适应技术实现从标注源域样本到未标注目标域样本的迁移识别。其次,通过所设计的空间通道注意力残差模块使网络训练聚焦于时频图全局空间特征和高响应通道,以忽略时频图像中可迁移性低的区域抑制负迁移的产生。在不同源域与目标域雷达欺骗干扰数据集上的实验结果表明了该方法的可行性和有效性。     

红外目标检测网络改进半监督迁移学习方法

针对红外数据集规模小,标记样本少的特点,提出了一种红外目标检测网络的半监督迁移学习方法,主要用于提高目标检测网络在小样本红外数据集上的训练效率和泛化能力,提高深度学习模型在训练样本较少的红外目标检测等场景当中的适应性。文中首先阐述了在标注样本较少时无标注样本对提高模型泛化能力、抑制过拟合方面的作用。然后提出了红外目标检测网络的半监督迁移学习流程:在大量的RGB图像数据集中训练预训练模型,后使用少量的有标注红外图像和无标注红外图像对网络进行半监督学习调优。另外,文中提出了一种特征相似度加权的伪监督损失函数,使用同一批次样本的预测结果相互作为标注,以充分利用无标注图像内相似目标的特征分布信息;为降低半监督训练的计算量,在伪监督损失函数的计算中,各目标仅将其特征向量邻域范围内的预测目标作为伪标注。实验结果表明,文中方法所训练的目标检测网络的测试准确率高于监督迁移学习所获得的网络,其在Faster R-CNN上实现了1.1%的提升,而在YOLO-v3上实现了4.8%的显著提升,验证了所提出方法的有效性。     

基于网格法分集和主动学习的高光谱图像分类方法

针对高光谱图像分类过程中分类精度低和样本数量较少的问题,文中提出了一种基于网格法分集和主动学习的图像分类方法。该方法利用网格法将主成分空间划分成若干网格,在每个含有样本的网格中随机挑选一个样本,并将其原始光谱数据归入训练集;随后,采用主动学习方法,在其余样本中用K-近邻法选择不确定性最大的若干样本并入训练集,从而扩充了训练集,并使数据集具有代表性,提升了分类精度。同时,在数据处理过程中,联合运用主成分分析和线性判别分析对光谱数据进行降维,进一步提高了运算速度。实验结果表明,在Indian Pines高光谱数据集中,在少量训练集样本的情况下,该方法相较于随机分集和非主动学习,分别将总体分类精度提升了12.24%和19.76%。     

基于动态权重的知识积累与灵巧干扰识别方法

针对低干噪比条件下灵巧干扰识别准确率不高与干扰特征难以积累导致的网络需要重新训练问题，本文将信号的平滑伪Wigner?Ville分布的时频二维图像作为输入，提出了一种基于动态权重的知识积累（Dynamic Weighted Knowledge Accumulation method based on Convolutional Neural Network, DWKA?CNN）灵巧干扰识别方法，利用通道特征注意力机制，提升了低干噪比下模型的干扰识别能力，通过均值最近邻分层屏蔽网络权重，实现了在单一网络中的知识积累，与当前典型基于深度学习的灵巧干扰识别方法相比，无需每次重新训练即可学习多项干扰识别任务。并且仿真实验表明，与现有典型算法相比，该算法模型在7种雷达灵巧干扰分类数据集上的平均识别准确率显著提升，在低干噪比条件下分类性能优秀。     

基于增强自适应原型重构模型的小样本图节点分类

现实中存在着许多图结构数据，但是在应用场景中时常面临着标注数据短缺的问题。由于图结构的独特性，传统的小样本学习方法无法直接迁移到非欧几里得空间的图领域。同时，适用于大规模标注数据集的图表示算法发展迅速，但是缺乏对标注数据极端匮乏情况下的处理。因此，将小样本学习算法和图表征算法进行高效融合才能有效解决图有关的小样本问题。基于此，提出了一种图小样本学习模型增强自适应原型重构模型(Enhanced Self-adaptive Prototype Rebuilt, ESPR),通过图网络编码器获得丰富的节点表征，改进了原始原型网络的框架中不可学习的无参数原型提取方式；引入自注意力机制进行自适应的原型学习与重构，实现了噪声抑制，并在4个公开图数据集上进行了实验。结果表明，所提出的模型在准确率和F1值上显著超过了Meta-GNN和GPN等经典模型。     

基于特征关系依赖网络的小样本学习方法

小样本学习任务旨在仅提供少量训练样本的情况下完成对测试样本的正确分类.基于度量学习的小样本学习方法通过将样本映射到嵌入空间中,计算样本间距离得到相似性度量以预测类别,但仅对样本特征进行独立映射,而忽略了对整个任务的观察,同时在小样本场景下通过传统方法计算的原型与期望原型存在偏差,导致在查询集上泛化性较低.针对上述问题,提出了特征关系依赖网络(FRDN).特征关系依赖网络包含两个模块:首先使用关系挖掘模块充分挖掘任务中样本的类内与类间关系,将其作为自注意力值对类簇进行调整,以获得判别性更高的任务自适应嵌入空间,计算初始原型;随后使用偏差抑制模块对初始原型进行校正,得到在查询集上泛化性更高的优化原型,进一步提高模型的分类准确率.在MiniImagenet数据集上,该方法1-shot分类准确率59.17%,5-shot准确率74.11%,分别超过传统度量学习方法6.13%与2.83%;在CUB数据集上分别提升9.3%和2.74%.     

一种基于自监督学习的人脸美丽预测方法

人脸美丽预测是研究如何让计算机判断人脸美丽的前沿课题，随着深度学习的不断进展，已经取得了一定效果。然而，基于深度学习的人脸美丽预测需要大量的训练数据和昂贵的人脸美丽标注。因此，如何在少样本条件下取得较好效果，仍有待深入研究。自监督学习可在上游任务中利用无标注数据来学习较好的特征，从而能在下游任务中降低对标注数据的依赖。为此，本文将自监督学习应用于人脸美丽预测，采用批次内对象识别和多视图特征聚类。其中，批次内对象识别通过给每批次不同样本分配独立的伪标签来学习特征，使得网络有区分每个样本对象的能力。多视图特征聚类首先将人脸图像进行多次数据增强；再经过编码器，得到人脸属性特征；最后通过自监督约束使人脸属性特征聚合在一起。基于大规模亚洲人脸美丽数据库（Large Scale Asia Facial Beauty Database, LSAFBD）和SCUT-FBP5500数据库的实验结果表明，本文所提方法降低了模型对有标注数据的依赖，提高了预测准确率，在少样本条件下优于以Resnet18为基线的有监督学习方法，准确率高于常规自监督学习方法，可广泛应用于目标检测和图像分类等领域。     

面向小样本SAR图像自动目标识别的孪生自监督学习方法

现有的自监督学习算法对小样本合成孔径雷达（Synthetic Aperture Radar,SAR）图像表征能力不足，无法充分地满足自动目标识别（Automatic Target Recognition,ATR）性能的需求。因此，本文提出了一种基于孪生自监督学习的SAR ATR方法。首先，将无标注SAR数据通过孪生特征提取网络模块中的数据增强方式建立正负样本对；其次，通过孪生自监督学习模块中的对比学习头部网络和特征冗余降低头部网络，依据无监督对比学习损失函数和特征信息冗余损失函数进行联合优化，进而得到具有较好表征能力的预训练网络；最后，将自监督预训练网络权重加载到下游网络中，并通过交叉熵损失对下游网络进行小样本SAR图像有监督识别。实验结果表明，对于运动与静止目标获取和识别（Moving and Stationary Target Acquisition and Recognition,MSTAR）数据集，本文的方法仅在3.13%的训练数据上可达82.95%准确率。本文所提方法可在无标注数据中获得较好的表征能力，有效地改善小样本SAR图像识别的过拟合问题。     

基于主动学习的图像分类技术：现状与未来

图像分类作为计算机视觉领域中的重要研究方向之一，应用领域非常广泛.基于深度学习的图像分类技术取得的成功，依赖大量的已标注数据，然而数据的标注成本往往是昂贵的.主动学习作为一种机器学习方法，旨在以尽可能少的高质量标注数据达到期望的模型性能，缓解监督学习任务中存在的标注成本高、标注信息难以大量获取的问题.主动学习图像分类算法根据样本选择策略，从未标记样本数据集合中选择出信息量丰富，对分类模型训练贡献更高的样本进行标注，以更新已标注训练数据池，如此循环直至满足给定的停止条件或模型标注预算耗尽.本文对近年来提出的主动学习图像分类算法进行了详细综述，并根据所用样本数据处理及模型优化方案，将现有算法分为三类：基于数据增强的算法，包括利用图像增广来扩充训练数据，或者根据图像特征插值后的差异性来选择高质量的训练数据；基于数据分布信息的算法，根据数据分布的特点来优化样本选择策略；优化模型预测的算法，包括优化获取和利用深度模型预测信息的方法、基于生成对抗网络和强化学习来优化预测模型的结构，以及基于Transformer结构提升模型预测性能，以确保模型预测结果的可靠性.此外，本文还对各类主动学习图像分类算法...     

基于双阶段元学习的小样本中医舌色域自适应分类方法

舌色是中医(TCM)望诊最关注的诊察特征之一。在实际应用中,通过一台设备采集到的舌象数据训练得到的舌色分类模型应用于另一台设备时,由于舌象数据分布特性不一致,分类性能往往急剧下降。为此,该文提出一种基于双阶段元学习的小样本中医舌色域自适应分类方法。首先,设计了一种双阶段元学习训练策略,从源域有标注样本中提取域不变特征,并利用目标域的少量有标注数据对网络模型进行微调,使得模型可以快速适应目标域的新样本特性,提高舌色分类模型的泛化能力并克服过拟合。接下来,提出了一种渐进高质量伪标签生成方法,利用训练好的模型对目标域的未标注样本进行预测,从中挑选出置信度高的预测结果作为伪标签,逐步生成高质量的伪标签。最后,利用这些高质量的伪标签,结合目标域的有标注数据对模型进行训练,得到舌色分类模型。考虑到伪标签中含有噪声问题,采用了对比正则化函数,可以有效抑制噪声样本在训练过程中产生的负面影响,提升目标域舌色分类准确率。在两个自建中医舌色分类数据集上的实验结果表明,在目标域仅提供20张有标注样本的情况下,舌色分类准确率达到了91.3%,与目标域有监督的分类性能仅差2.05%。     

少量样本下基于孪生CNN的SAR目标识别

针对深度学习中的有监督学习需要大量的标注数据,提出了一种少量训练样本下的SAR目标识别方法,解决了SAR图像人工标注成本较高、标注样本不足的问题。首先通过构建正负样本对的策略对数据集进行样本扩充,大幅增加数据量;其次,设计了一种基于度量学习和深度学习的孪生卷积神经网络(孪生CNN),用于衡量样本之间的相似概率;然后采用多任务联合学习的方法训练模型,有效缓解了相干斑噪声对SAR图像的影响,降低了噪声过多易引起的过拟合风险;最后,设计了一种基于孪生CNN的识别样本具体类别的加权投票模型。实验采用了MSTAR和OpenSARShip数据集,在小规模训练集上通过上述方法取得了较好的识别效果。     

基于集成 PU 学习数据流分类的入侵检测方法

入侵检测问题可以模型化为数据流分类问题,传统的数据流分类算法需要标注大量的训练样本,代价昂贵,降低了相关算法的实用性。在PU学习算法中,仅需标注部分正例样本就可以构造分类器。对此本文提出一种动态的集成PU学习数据流分类的入侵检测方法,只需要人工标注少量的正例样本,就可以构造数据流分类器。在人工数据集和真实数据集上的实验表明,该方法具有较好的分类性能,在处理偏斜数据流上优于三种PU 学习分类方法,并具有较高的入侵检测率。     

基于自编码器的零样本扣件检测

基于深度学习的扣件检测需要大量人工标注的扣件图像数据集驱动,然而铁路扣件图像中负样本偏少,不均衡的数据集会使得深度学习模型的泛化能力较差,达不到检测扣件状态的效果.针对该问题,本文提出了一种基于自编码器的零样本扣件检测.首先,使用欠完备自编码器、栈式自编码器和卷积自编码器提取扣件正样本图像特征;然后,通过正样本特征向量与基向量的余弦相似度推断出负样本的分布空间;在检测时将各自编码器算法得出的结果利用多数投票法确定样本属性.实验证明,使用本文方法,在只使用正样本训练的情况下,可以有效地检测出扣件图像的负样本,准确率为95.59％,实现了零样本扣件检测.     

基于用户兴趣集的在线垃圾邮件快速识别新方法

为在不显著降低垃圾邮件识别精度的同时有效提高邮件识别速度,提出了一种在线垃圾邮件快速识别新方法.首先引入用户正、负兴趣集的概念,结合用户兴趣集及支持向量机对邮件进行分类;然后根据主动学习理论,结合训练集样本密度及改进角度差异方法寻找分类最不确定的样本并推荐给用户进行类别标注;最后将标注后样本及分类最确定性样本加入训练集,并使用样本价值评价新函数淘汰冗余样本以生成新的训练集.实验表明,本文方法的用户标注负担小,垃圾邮件识别精度高、速度快,具有较高的在线应用价值.     

基于主动学习和否定选择的垃圾邮件分类算法

针对现在网络上泛滥的垃圾邮件问题,本文结合主动学习方法和否定选择算法提出了一种二类文本分类方法：主动否定学习算法.根据用户少量标注建立双向兴趣集,利用否定选择算法的自体异常检测机制改善主动学习中的采样策略,并将双向兴趣集作为检测器,新增样本集作为自体集,对两者进行异常匹配.本文算法与在线垃圾邮件快速识别方法、增强差异性的半监督协同分类算法、垃圾邮件过滤方法、基于人工高免疫的多层垃圾邮件过滤算法和在线主动多领域学习方法在六个常用邮件语料集上进行了分析比较,结果表明本文算法具有较高的准确率、召回率、分类精度,和较低的用户标注负担.使用用户个性喜好转换为双向兴趣特征的方式有助于提高算法的分类能力;利用异常检测匹配选取未知类别特征的方式,有效地降低了用户标注负担.     

数据库样本缺失下的雷达辐射源识别

目前,基于机器学习的雷达辐射源识别技术大多以训练集和测试集同分布为假设,当雷达数据库样本不足导致与信号真实分布存在偏差时,传统的分类方法效果不佳.为此,将迁移学习理论引入识别系统,设计了一种基于结构发现与再平衡的雷达辐射源信号识别方法.通过对数据库和待识别辐射源信号样本进行聚类分析发现数据结构信息,通过重采样处理修正其分布差异.将新采样数据输入支持向量机进行训练并对侦收样本进行识别.仿真实验表明,在新训练样本集上学习的模型对测试集的分类性能有了很大的提升.     

基于样本迭代融合的海洋生物检测

海洋生物相互聚集形成遮挡现象是误检和漏检的重要原因。为了解决这个问题，提出一种采用样本迭代融合辅助网络训练的海洋生物检测方法。首先，选用改进后的深度空洞残差结构作为特征提取网络，提升了网络的特征提取能力；然后，结合海洋生物图像目标遮挡、密集的特点，改进损失函数避免发生误检、漏检现象；最后，为了进一步解决目标遮挡、数据不平衡的问题，提出样本迭代融合方法，生成模拟图像扩充训练集，提高了网络训练的有效性和对小样本量海洋生物的检测能力。实验结果表明，所提海洋生物检测方法在URPC2018和台湾鱼类数据集上的准确率分别达91.36%和90.27%，检测准确率和速度高于现有目标检测算法。     

基于深度学习的乳液泵缺陷检测算法

为了实现对工业产品乳液泵的缺陷检测,本文采集泵顶、泵上端、泵下端、尾管4个角度的样本图像,并基于深度学习中迁移学习和卷积神经网络的原理分别构建各角度的分类模型以检测缺陷样本。首先,使用Mini-ImageNet数据集预训练网络模型。然后,调整模型结构并加载预训练网络的参数,并将乳液泵各角度的训练集和验证集经过图像预处理算法后输入至卷积神经网络中训练,根据训练过程中验证集准确率的变化调整网络超参数,得到最终网络模型。最后,将预处理后的乳液泵测试样本输入至训练好的模型中,检测最终模型的缺陷识别效果。最终4个角度检测准确率均在93%以上,单样本检测用时为2.52s,优于传统方法。本文算法可用于设计乳液泵缺陷检测系统,该系统能与工业结构相结合筛选出有缺陷的泵体,也可拓展到工业其他物件的缺陷检测。     

基于EWC算法的DDoS攻击检测模型参数更新方法

针对现有基于多层线性感知器(Multi-Layer Perceptron, MLP)神经网络的DDoS攻击检测模型参数更新方法(MLP-UD)易遗忘模型训练原参数所用的DDoS攻击数据集(原数据集)知识、时间空间开销大的问题,该文提出一种基于弹性权重保持(Elastic Weight Consolidation, EWC)算法的模型参数更新方法(EWC-UD)。首先,使用K-Means算法计算原数据集聚类簇中心点作为费雪信息矩阵计算样本,有效提升计算样本均匀度与聚类覆盖率,大幅减少费雪信息矩阵计算量,提升参数更新效率。其次,基于费雪信息矩阵,对模型参数更新过程中的损失函数增加2次惩罚项,限制MLP神经网络中重要权重与偏置参数的变化,在保持对原数据集检测性能的基础上,提升对新DDoS攻击数据集的检测准确率。然后基于概率论对EWC-UD方法进行正确性证明,并分析时间复杂度。实验表明,针对构建的测试数据集,EWC-UD方法相较于MLP-UD仅训练新DDoS攻击数据集的更新方法,检测准确率提升37.05%,相较于MLP-UD同时训练新旧DDoS攻击数据集的更新方法,时间开销下降80.65%,内存开销降低33.18%。