代价敏感的半监督Laplacian支持向量机

代价敏感学习是机器学习领域的一个研究热点.在实际应用中,数据集往往是不平衡的,存在着大量的无标签样本,只有少量的有标签样本,并且存在噪声.虽然针对该情况的代价敏感学习方法的研究已取得了一定的进展,但还需要进一步的深入研究.为此,本文提出了一种基于代价敏感的半监督Laplacian支持向量机.该模型在采用无标签扩展策略的基础上,将考虑了数据不平衡的错分代价融入到Laplacian支持向量机的经验损失和Laplacian正则化项中.考虑到噪声样本对决策平面的影响,本文定义了一种样本依赖的代价,对噪声样本赋予较低的权重.在7个UCI数据集和8个NASA软件数据集上的实验结果表明了本文算法的有效性.     

基于非均衡数据集的代价敏感学习算法比较研究

大多数非均衡数据集的研究集中于重构数据集或者代价敏感学习,针对数据集类分布非均衡和不相等误分类代价往往同时发生这一事实,在简要回顾代价敏感学习理论和现有学习算法的基础上,将所提出的自适应混合重取样算法,与基于最小误分类代价的MetaCost算法分别进行实验比较,实验表明所提出算法在代价敏感学习中具有一定的优势,实验结果显示非均衡类对代价敏感学习算法性能产生较大影响,当样本类别差异较大时,用样本类空间重构的方法可以得到较好的分类效果.     

自监督双流融合的小样本雷达辐射源识别方法

针对实际场景中辐射源数据稀缺造成的小样本问题，提出了一种基于自监督和双流融合的小样本雷达辐射源识别方法。首先利用高斯分布噪声、莱斯多径衰落、设计时钟偏移信号等减损方法，基于有限数量的真实样本构建类均衡辐射源信号样本集。基于增强数据集，提出一种信号时间序列与时频图的双流特征融合模型。采用对比学习方法构建双流特征融合模型的自监督上游任务，以提升在有限标签数据情况下信号多域特征的表征能力与泛化能力。实验结果证明，该方法在小样本条件下能够有效地实现较好的辐射源类型识别能力，在目标域每个类别100个样本限制下，识别精度达到97.1%,与传统一维特征方法和基于长短期记忆(Long Short Term Memory, LSTM)的方法相比均有较大提升。     

小样本条件下基于数据增强和WACGAN的雷达目标识别算法

目前小样本条件下高分辨距离像雷达目标识别算法存在识别率较低、识别率稳定度较差等问题,对此,本文提出了基于数据增强和加权辅助分类生成对抗网络（Weighted Auxiliary Classifier Generative Adversarial Networks,WACGAN）的雷达目标识别算法.该算法首先根据雷达目标散射特性,通过时间镜像数据增强方法扩充数据集,然后将扩充数据集输入WACGAN,通过自动选择高质量的生成样本,使判别器在标签样本监督学习的基础上得到进一步优化,最后直接利用判别器实现对雷达目标的有效识别.仿真实验结果表明,本文算法在不增加识别时间的基础上,有效提高了小样本条件下对雷达目标的识别率和识别稳定度.     

基于深度自编码器的辐射源个体开集识别

为实现对城市用频设备的精确管控,针对特定辐射源开集识别问题,构建了一套基于深度学习的辐射源个体开集识别处理流程,核心在于指纹特征有效区间筛选与基于深度自编码器的开集识别模型。一方面,通过使用Grad-CAM实现对深度网络激活可视化,筛选出信号对网络激活贡献较高的部分,在不损失过多指纹信息的情况下进行信号区间筛选;另一方面,建立基于半监督对抗自编码器的辐射源个体开集识别模型,实现对电磁环境中出现的未知辐射源个体的有效识别。实验表明此开集识别模型能够在不损失闭集识别率的条件下实现高精确度的开集识别。     

一种优化孪生网络的小样本辐射源个体识别方法

针对信号辐射源个体识别小样本难以稳定收敛、识别准确率不足的问题,提出了一种基于优化孪生网络模型进行小样本辐射源个体识别的方法,分析了通过孪生网络实现不同类别样本对特征向量距离增大、相同类别样本对特征向量距离减小的弹簧模型,达到小样本训练损失函数的快速收敛的目的,并结合交叉熵实现损失函数优化,从而提升了小样本个体识别的准确率和稳定性。试验结果表明,针对每类不大于10个训练样本集的通信电台所提方法能够达到88%以上个体识别准确率。     

基于生成式对抗网络的遥感图像半监督语义分割

高分辨率遥感图像的语义分割问题是目前遥感图像处理领域中的研究热点之一。传统的有监督分割方法需要大量的标记数据,而标记过程又较为困难和耗时。针对这一问题,提出一种基于生成式对抗网络的半监督高分辨率遥感图像语义分割方法,只需要少量样本标签即可得到较好的分割结果。该方法为分割网络添加全卷积形式的辅助对抗网络,以助于保持高分辨率遥感图像分割结果中的标签连续性;更进一步,提出一种新颖的能够进行注意力选择的对抗损失,以解决分割结果较好时判别器约束的分割网络更新过程中存在的难易样本不均衡问题。在ISPRS Vaihingen 2D语义标记挑战数据集上的实验结果表明,与现有其它语义分割方法相比,所提出方法能够较大幅度地提高遥感图像的语义分割精度。     

基于有监督判别投影的网络安全数据降维算法

针对传统流形学习在数据降维时不考虑原数据类别和聚类程度低的缺陷,提出了一种有监督判别投影(SDP)的流形学习降维算法来改善网络安全数据降维效果.在近邻矩阵基础上,利用数据集的类别标签信息,构建有监督判别矩阵,变无监督流形学习为有监督学习,寻找一个同时具有最大全局散度矩阵和最小局部散度矩阵的低维投影子空间,保证了降维投影...     

数据库样本缺失下的雷达辐射源识别

目前,基于机器学习的雷达辐射源识别技术大多以训练集和测试集同分布为假设,当雷达数据库样本不足导致与信号真实分布存在偏差时,传统的分类方法效果不佳.为此,将迁移学习理论引入识别系统,设计了一种基于结构发现与再平衡的雷达辐射源信号识别方法.通过对数据库和待识别辐射源信号样本进行聚类分析发现数据结构信息,通过重采样处理修正其分布差异.将新采样数据输入支持向量机进行训练并对侦收样本进行识别.仿真实验表明,在新训练样本集上学习的模型对测试集的分类性能有了很大的提升.     

基于判别子字典学习的图像分类优化方法

本文提出了一种基于判别子字典学习算法的图像分类优化方法.在判别字典学习算法的基础上,引入字典矩阵的正则化约束项,针对每一类图像学习其对应的特定字典,使字典中包含该类别的特定原子,规避不同子字典之间原子的相关性.同时,引入标签信息矩阵和拉普拉斯正则化矩阵,使大系数集中在某一类别的特定原子上,属于同一类别的样本彼此靠近,从而提高字典的判别能力.将该算法应用在3种不同的数据集上,实验结果证明了所提方法的有效性.     

基于自注意力特征融合的半监督生成对抗网络用于SAR目标识别

与具有大量标注数据的光学图像相比,合成孔径雷达(Synthetic Aperture Radar,SAR)图像缺乏足够的标记样本,限制了监督学习的SAR目标识别算法的性能.而无监督识别方法又难以满足实际需求,因此本文提出了基于自注意力特征融合的半监督生成对抗网路.首先,在构建生成器和判别器时引入自注意力层,克服卷积算子...     

A deep learning based fine-grained classification algorithm for grading of visual impairment in cataract patients

Recent advancements in artificial intelligence(AI) have shown promising potential for the automated screening and grading of cataracts. However, the different types of visual impairment caused by cataracts exhibit similar phenotypes, posing significant challenges for accurately assessing the severity of visual impairment. To address this issue, we propose a dense convolution combined with attention mechanism and multi-level classifier(DAMC＿Net) for visual impairment grading. First, the double-at...     

基于部分标记数据进行人脸图像特征提取

针对无监督特征提取的识别率低与监督特征提取需要大量标记的问题,提出一种基于部分标记数据的半监督判别分析(SSDPA)特征提取法。本文方法能实现图像数据降维,避免线性判别分析(LDA)存在的小样本问题,达到提高识别率的目的。算法对图像进行离散余弦变换(DCT)变换;根据DCT图像的频率分布,利用部分标记数据计算SSDP;优先搜索SSDP高的DCT图像信息。将本文方法与其它方法进行组合,在不同人脸数据库上进行了实验。实验证明了本文方法的有效性,用较低的代价获得了优于传统方法的识别率。     

基于ICNN和IGAN的SAR目标识别方法

近年来,卷积神经网络(CNN)已广泛应用于合成孔径雷达(SAR)目标识别。由于SAR目标的训练数据集通常较小,基于CNN的SAR图像目标识别容易产生过拟合问题。生成对抗网络(GAN)是一种无监督训练网络,通过生成器和鉴别器两者之间的博弈,使生成的图像难以被鉴别器鉴别出真假。本文提出一种基于改进的卷积神经网络(ICNN)和改进的生成对抗网络(IGAN)的SAR目标识别方法,即先用训练样本对IGAN进行无监督预训练,再用训练好的IGAN鉴别器参数初始化ICNN,然后用训练样本对ICNN微调,最后用训练好的ICNN对测试样本进行分类。MSTAR实验结果表明,提出的方法不仅能够在训练样本数降至原样本数30%的情况下获得高达96.37%的识别率,而且该方法比直接采用ICNN的方法具有更强的抗噪声能力。     

红外目标检测网络改进半监督迁移学习方法

针对红外数据集规模小,标记样本少的特点,提出了一种红外目标检测网络的半监督迁移学习方法,主要用于提高目标检测网络在小样本红外数据集上的训练效率和泛化能力,提高深度学习模型在训练样本较少的红外目标检测等场景当中的适应性。文中首先阐述了在标注样本较少时无标注样本对提高模型泛化能力、抑制过拟合方面的作用。然后提出了红外目标检测网络的半监督迁移学习流程:在大量的RGB图像数据集中训练预训练模型,后使用少量的有标注红外图像和无标注红外图像对网络进行半监督学习调优。另外,文中提出了一种特征相似度加权的伪监督损失函数,使用同一批次样本的预测结果相互作为标注,以充分利用无标注图像内相似目标的特征分布信息;为降低半监督训练的计算量,在伪监督损失函数的计算中,各目标仅将其特征向量邻域范围内的预测目标作为伪标注。实验结果表明,文中方法所训练的目标检测网络的测试准确率高于监督迁移学习所获得的网络,其在Faster R-CNN上实现了1.1%的提升,而在YOLO-v3上实现了4.8%的显著提升,验证了所提出方法的有效性。     

半监督学习对十个口述数字的识别

提出了一种基于半监督学习的音节识别方法,该方法可在训练样本很少的情况下得到较好的识别效果。实验结果表明,在小样本情况下,半监督学习方法比传统的HMM方法具有更高的识别率。     

A multiscale expectation-maximization semisupervised classifier suitable for badly posed image classification.

This paper deals with the problem of badly posed image classification. Although underestimated in practice, bad-posedness is likely to affect many real-world image classification tasks, where reference samples are difficult to collect (e.g., in remote sensing (RS) image mapping) and/or spatial autocorrelation is relevant. In an image classification context affected by a lack of reference samples, an original inductive learning multiscale image classifier, termed multiscale semisupervised expectation maximization (MSEM), is proposed. The rationale behind MSEM is to combine useful complementary properties of two alternative data mapping procedures recently published outside of image processing literature, namely, the multiscale modified Pappas adaptive clustering (MPAC) algorithm and the sample-based semisupervised expectation maximization (SEM) classifier. To demonstrate its potential utility, MSEM is compared against nonstandard classifiers, such as MPAC, SEM and the single-scale contextual SEM (CSEM) classifier, besides against well-known standard classifiers in two RS image classification problems featuring few reference samples and modestly useful texture information. These experiments yield weak (subjective) but numerous quantitative map quality indexes that are consistent with both theoretical considerations and qualitative evaluations by expert photointerpreters. According to these quantitative results, MSEM is competitive in terms of overall image mapping performance at the cost of a computational overhead three to six times superior to that of its most interesting rival, SEM. More in general, our experiments confirm that, even if they rely on heavy class-conditional normal distribution assumptions that may not be true in many real-world problems (e.g., in highly textured images), semisupervised classifiers based on the iterative expectation maximization Gaussian mixture model solution can be very powerful in practice when: 1) there is a lack of reference samples with respect to the problem/model complexity and 2) texture information is considered negligible (i.e., a piecewise constant image model holds).