多代表点自约束的模糊迁移聚类

以往建立在模糊C均值(fuzzyC-means, FCM)框架下利用源域虚拟簇中心作为迁移知识的迁移聚类算法容易受到离群点和噪声的干扰,且单个簇中心不足以描述簇结构。针对此问题,提出多代表点自约束的模糊迁移聚类算法,该算法引入样本代表权重机制为簇中每个样本分配代表权重来刻画簇结构,这种机制能更好的刻画簇结构,对离群点和噪声有较好的抑制作用;同时利用源域样本,重构目标域簇结构,并以此作为迁移知识进行目标域样本聚类,相对于利用单中心作为迁移知识来说,整体重构后的目标域簇结构所包含的迁移知识量更为丰富。试验结果表明。在人工数据集和真实数据集上,所提出的聚类算法相比对比算法, NMI和ARI最高提升了0.674 5和0.608 4。说明在迁移环境下,以代表点自约束作为知识迁移规则,所提出的聚类算法具有一定的聚类效果。     

同构迁移学习理论和算法研究进展

迁移学习的目的是解决目标领域中训练样本不足的学习问题,可以把一些在其他相关的源领域中获得的知识,迁移到目标领域中.它放宽了传统机器学习中的两个基本假设:用于学习的训练样本与新的测试样本满足独立同分布的条件;必须有足够可利用的训练样本才能学习得到一个较好的分类模型.按照源领域和目标领域的特征空间是否相同可划分为同构迁移学习和异构迁移学习.本文主要针对同构迁移学习的相关研究进展进行了综述,从理论、算法、应用方面介绍了在该领域所做的研究工作,并指出了同构迁移学习未来可能的研究方向.     

基于样本局部判别权重的加权迁移成分分析

鉴于迁移成分分析(TCA)忽略了样本间的局部信息差异性,提出一种基于样本局部判别权重的加权迁移成分分析.首先,通过对局部近邻圆内样本分布情况的分析,为共享特征子空间中的每个样本均设计一个局部判别权重;然后,通过将局部判别权重与最大均值差异相结合构造的分布差异矩阵引入进TCA的目标函数中,从而体现样本对维持局部结构的贡献度差异;最后,结合联合分布调整和线性判别分析,使算法不仅能够同时缩小领域间的边缘分布差异和条件分布差异,而且能够提高算法的类间可分特性.36组跨领域图片数据集上的实验结果表明,所提算法能够获得65.67%的平均分类精度.     

基于迁移学习的机械制图智能评阅方法

针对机械图样几何特征种类多、线条线型易混淆、人工制图风格多样导致校对效率低、误检、漏检等问题,提出基于迁移学习的机械制图智能评阅方法. 对机械图样进行预处理,采用改进的阀值迭代算法去除背景、噪点和干扰,完成图样图像的分割,提取机械图样的特征投影图像. 通过训练源领域图片的特征提取器,将特征提取器的网络权值迁移到机械图样评阅模型中,完成相似领域的知识迁移. 训练逻辑回归分类器,建立基于神经网络权重参数自适应的智能评阅模型,对几何特征、投影特征、图线、剖面符号等机械图样的制图标准要素进行识别. 实验结果表明,所提出的机械制图智能评阅方法具有较高的错误识别率和鲁棒性能,单个测试样本平均评阅时间为0.95 s,机械图样的平均评阅正确率为98.82%;与人工评阅相比,所提方法能够在提高评阅效率的同时具有较高准确率.     

基于迁移学习的跨域异常流量检测

基于已知数据的机器学习模型在实际异常流量检测任务中不完全可靠,为此,将不同分布的流量分别作为源域和目标域,建立跨域网络异常流量检测框架,提出了基于联合分布适配的迁移学习方法.通过寻找最优变换矩阵、适配源域与目标域之间的条件概率和边缘概率,实现源域与目标域间的特征迁移,从而解决由于源域与目标域分布差异大所引起的检测准确率下降等问题.实验结果表明,所提方法可以显著提升跨域流量的检测准确率.     

多阶段特征重分布算法的小样本目标检测

深度神经网络在目标检测任务上需要训练大量的标签数据,然而在许多实际应用场景中标签数据难以获取。针对这一问题,提出了一种面向小样本目标检测的多阶段特征重分布算法(MSFR)。该算法通过对特征向量进行重分布变换,解决了小样本任务下源域数据和目标域数据分布不一致的问题;通过多阶段学习策略将源域知识逐步迁移到小样本目标任务中,进一步提高知识迁移效率。在VOC数据集上的大量实验表明,与现有小样本目标检测算法相比,该算法在不同任务上的精度最高提升了9.06%。该算法在大幅提高小样本目标域类别检测性能的同时,较大限度地保持了对源域类别的检测精度,具有较大的实用价值。     

多视图交叉一致性学习的半监督水面目标检测

为缓解基于半监督学习的水面目标检测对有限标注样本过拟合的问题,提高无标注样本中目标提取的有效性,提出了基于多视图交叉一致性学习的半监督水面目标检测算法。首先,该算法通过数据增强的方式为训练样本生成不同的视图以丰富数据集的多样性;然后,利用所提出的多视图目标判别器为无标注样本在线生成伪标签,有助于提取无标注样本的有效信息;最后,利用所提出的多视图交叉一致性学习使同一目标实例的不同视图的输出实现交叉一致性正则化,以促进检测模型学习判别性的特征从而降低过拟合的风险。在海上和内河数据集上的实验结果表明：文中所提算法能够提高特征提取的判别性,对多类别的水面目标检测精度达到91.0%,比全监督检测算法提高了18.7%,比其他半监督检测算法提高了3.8%以上;在检测速度上,该算法达到13.1帧/s,基本满足实时性要求。所提算法通过多视图交叉一致性学习提高特征的判别性和缓解检测模型的过拟合风险,有助于提高半监督水面目标检测的性能。     

一种基于正则化判别分析的迁移学习算法

针对大多数基于实例的迁移学习方法容易产生分布参数估计困难和泛化效果差的问题,提出一种正则化判别迁移学习算法。依据判别分析和半监督学习理论,采用核方法和正则化方法,研究了基于正则化的高斯核半监督判别分析方法,以构造修正嵌入空间的方式进行样本迁移。一方面,在映射空间中筛选样本可克服估计分布参数的困难;另一方面,引入伪标记数据和定义距离函数可避免过拟合问题。文本和非文本数据集上的实验结果验证了所提算法能够有效提高迁移的正确率及学习模型的泛化能力。     

多目标迁移机制的动态负载平衡算法

针对并行计算中的负载失衡现象.提出一种新型动态负载平衡算法.将重载节点和轻载节点间需要交流的进程数目信息包括在负载平衡消息中,并视情况扩展目标节点的搜索范围.使重载节点能在算法的一次执行中外迁进程到多个目标节点,还提出 3条规则以减少消息传播的路由耦合现象.通过矩阵运算和求素数这 2个典型的并行计算实验,比较了 4种动态负载平衡算法的性能.结果表明,提出的算法因多目标迁移机制而具有最少的迭代执行次数,并能在一次执行中发现最多的轻载节点,有效缩减了系统对计算密集型任务的平均响应时间.     

优化迁移实例容错执行性能的阶段构建模型

针对迁移工作流研究现状,提出了一种基于复制容错方法的动态阶段构建模型,模型通过优化迁移实例任务执行,减少对工作位置的不必要重访,缩短迁移实例的执行周期;提出了一种工作位置优先级的计算方法——动态优先级,能够更加准确地反映工作位置作为迁移实例运行时环境的适合程度;还提出了一种阶段工作位置的选取算法,该算法综合考虑工作位置的任务执行能力、运行环境以及可靠性等各个因素。性能分析及仿真试验表明,动态阶段构建模型可以在保证可靠性的同时,有效提高容错执行过程的性能。     

面向轴承智能诊断的多领域深度对抗迁移网络

针对不同工况下轴承监测数据分布差异性导致的诊断精度下降问题,基于深度学习与迁移学习,提出一种多领域深度对抗迁移网络,用于变工况下轴承的智能诊断。将不同工况下的样本集视作属于不同的领域,在特征提取时利用深度残差网络将轴承源域的训练数据与目标域的测试数据映射到高维特征空间,提取监测数据高层抽象的特征表示;设计多领域对抗模块,以支持多故障模式的轴承样本在不同领域对抗模块上进行对抗迁移训练,保障源域与目标域数据在特征空间中的分布有效对齐;在利用源域数据训练故障分类器时引入标签平滑约束,增强故障识别的泛化能力,将源域故障诊断知识迁移到目标域数据的故障信息识别,实现变工况下的轴承智能诊断。利用变工况下的齿轮箱轴承故障数据集与电机轴承数据集对提出方法进行验证,结果表明：相比其他方法,提出的新方法考虑了轴承监测数据的多故障模式结构,更好地提取了领域不变特征,提升了变工况下轴承故障的识别精度。     

层次型非线性子空间字典学习

为了提高遥感图像场景分类的准确率,提出层次型非线性子空间字典学习(HNSDL)方法. 用所提方法训练多层网络模型学习多层非线性变换. 将遥感图像投影到子空间中,构建稀疏编码和投影编码的局部信息保持项,在保持局部结构信息的同时最小化样本的类内差异,增强模型的分类识别能力. 在模型目标式求解中,使用交替学习算法求解子空间和字典的联合学习任务,使所有参数同时达到最优解. 在Ucmerced、Google和WHU-RS数据集上进行实验设计和测试,结果表明所提方法在遥感图像的多种场景分类上均表现出较高的分类准确率.     

重构迁移学习的红外目标分类

红外图像目标分类在目标识别等领域有重要的应用价值,目前卷积神经网络在可见光图像分类方面达到了优异的性能。但对于红外图像来说,由于有标记样本数量少和图像成像差异大,直接使用现有的网络模型来处理红外图像无法取得理想效果。该文将可见光图像作为源域,将红外图像作为目标域,在深度网络中使用迁移学习方法来解决此问题。在迁移学习中,目标域网络提取的特征越能体现出本域数据的真实分布,那么在此基础上进行两个域的分布适配就更加有效,迁移后的目标域网络性能和泛化能力越好。该文首先利用大量无监督的红外样本训练了红外图像深度卷积自编码器,增强了红外图像域网络的特征表达能力。其次,通过减小源域和目标域的特征分布距离,使得两个图像域特征分布相似,从而将源域中深度网络的学习能力迁移到目标域。经过上述改进,相比于可见光图像预训练微调的方法,分类准确率提升了11.27%。     

基于合群度-隶属度噪声检测及动态特征选择的改进AdaBoost算法

为了提高AdaBoost集成学习算法的数据分类性能,提出基于合群度-隶属度噪声检测及动态特征选择的改进AdaBoost算法. 综合考虑待检测样本与邻居样本的相似度及与不同类别样本集的隶属关系,引入合群度和隶属度的概念,提出新的噪声检测方法. 在此基础上,为了更好地选择那些能够有效区分错分样本的特征,在传统过滤器特征选择方法的基础上提出通用的结合样本权重的动态特征选择方法,以提高AdaBoost算法针对错分样本的分类能力. 以支持向量机作为弱分类器,在8个典型数据集上分别从噪声检测、特征选择及现有方法比较3个方面进行实验. 结果表明,所提算法充分考虑了噪声样本和样本权重对AdaBoost分类结果的影响,相对于传统算法在分类性能上获得显著提升.     

基于多源域领域适应字典学习和稀疏表示的脑电情感识别方法

脑电信号容易记录且不易伪装,基于脑电信号的情感识别越来越受到人们的关注.然而,人类情感具有多样性和个体可变性,基于脑电信号的情感识别仍是情感计算领域的难题.本文提出一种多源域领域适应字典学习和稀疏表示方法.为减少源领域和目标领域数据分布的差异,将所有领域的数据投影到共享子空间,并在共享子空间中学习一个共有字典.根据稀疏重建的最小化类内误差和最大化类间误差准则,稀疏表示具有类别的分辨能力.另外,每个源域自适应学习领域权重,可以避免负迁移的发生.模型参数的求解通过参数交替优化方法,所有参数可同时达到最优解.DEAP数据集的实验结果显示本文方法在所有对比方法中是最优的.     

基于机器学习的MEC随机任务迁移算法

针对移动边缘计算（MEC）,提出了一种基于机器学习的随机任务迁移算法,通过将任务划分为可迁移组件和不可迁移组件,结合改进的Q学习和深度学习算法生成随机任务最优迁移策略,以最小化移动设备能耗与时延的加权和.仿真结果表明,该算法的时延与能耗加权和与移动设备本地执行算法相比节约了38.1%.     

类别语义信息对齐的无监督领域自适应网络

针对在目标应用场景中缺乏大量有标定训练数据的情况下难以获得有效的深度学习分类模型的问题,结合领域分布差异的方法与对抗学习方法的优势,提出以显式特征对齐与隐式领域对抗及类别对齐为基础的领域自适应框架.对于显式特征对齐模块,考虑到领域知识差异大带来的优化难题,采用渐进式协同优化策略,通过逐层减小不同语义层之间的领域差异,提升领域自适应性能.对于隐式类别对齐模块,为了增强目标特征的判别性,使用自训练方法获得伪标签,克服伪标签存在的标签噪声问题,并通过学习混淆矩阵优化伪标签的准确率,自动构造新的目标领域损失函数,从而在减小领域间差异的同时,提升源领域与目标领域相同类别的特征分布对齐的准确性.基于Office-31数据集的6个跨领域分类任务与基于Office-Home数据集的12组跨领域分类任务的实验结果表明,该方法在迁移学习任务上的平均分类准确率相较于基准方法分别提升11.9%和19.9%,所提出网络对于领域自适应任务是有效的.     

基于带权重多样例学习的视觉跟踪算法

原始在线加权的多示例学习跟踪假设每个示例是独立且在包中的贡献均相同,同时为所有正样本赋予相同的权重,这不符合"包中的示例与目标位置的远近,对目标贡献程度是不一样"的事实.再加上原始算法采取单一特征无法准确和全面地表示目标包中所包含的示例,从而影响了跟踪算法的鲁棒性.针对原始算法的这些问题,提出一种基于带权重多样例学习的视觉跟踪方法.该方法同时融合多特征(HOG特征和Haar特征),在多示例学习框架下同时训练分类器,并通过样本特征相似度的比较来赋予不同的权重.对不同场景的图像序列进行实验,通过在公共测试集上与多种主流算法做对比,显示这样得到的目标外表模型对于前景和背景具有更高的区分能力.结果表明:该算法具有更高的准确性和更强的适应性,可以有效克服传统多示例学习中的分类器退化问题.     

一种面向室内环境变动的人员目标无源定位算法

现有的基于接收信号强度(RSS)的人员目标无源室内定位算法在定位环境变动的情况下难以兼顾人工工作量、时间消耗和定位准确率。针对这个问题,本文提出了基于迁移聚类和坐标融合的变分自编码器(FusVAE)的室内环境变动下人员目标无源定位算法。在环境变动后,采集少量无标签RSS样本,然后使用本文提出的基于度量学习的半监督模糊C均值聚类(SFCMML)对其进行精确聚类和标签标注,对原有的定位模型进行重训练,只需很小的人工和时间代价就可以使原定位模型在新环境下也具有较高的定位准确率。同时,针对变动后环境下采集RSS样本较少的问题,本文提出了基于坐标融合的变分自编码器(FusVAE),对新环境下的RSS样本进行数据增强,丰富了RSS样本的数量和质量,提高了定位模型的泛化能力。实验结果表明,在环境变动的情况下,本文提出的算法的平均定位准确率可达88.6%,和同领域同类型算法相比,具有较高的定位精度和较好的环境变动适应性,更适用于变动环境下的人员目标无源室内定位问题。     

基于自监督任务的多源无监督域适应法

针对多源聚合下同时对齐域不变特征较困难而造成分类精度不高的问题, 提出基于自监督任务的多源无监督域适应法. 该方法引入旋转、水平翻转和位置预测3个自监督辅助任务, 通过伪标签性、语义信息的一致性对无标签数据进行自适应的对齐优化. 构建新的优化损失函数, 减少多域公共类别的分类差异. 针对类别不均衡的问题, 基于少样本大权重的原则, 定义动态权重参数, 提高模型的分类性能. 在公开的Office-31、Office-Caltech10 2种基准数据集上, 与现有的主流方法进行实验对比. 实验结果表明, 在类别均衡、不均衡2种情况下, 分类精度最高可以提高6.8%.