可迁移测度准则下的协变量偏移修正多源集成方法

迁移学习通过充分利用源域共享知识,实现对目标域的小样本问题求解,然而,对训练和测试样本分布差异测度仍然是该领域的主要挑战。该文针对多源迁移学习算法中,由于源域选择和源域辅助样本选择不当引起的负迁移问题进行研究,提出一种可迁移测度准则下的协变量偏移修正多源集成方法。首先,根据源域和目标域之间的协变量偏移原则,利用联合概率的密度估计,定义辅助样本的可迁移测度,验证目标域和源域在数据空间中标记分布的一致性。其次,在多源域选择阶段,引入非迁移判别过程,提高了源域知识的迁移准确性。最后,在Caltech 256数据集中,验证了Gist特征知识表示和迁移的有效性,分析了多种条件下的辅助样本选择和源域选择的有效性。实验结果表明所提算法可有效降低负迁移现象的发生,获得更好的迁移学习性能     

基于迁移BN-CNN框架的小样本工业过程故障诊断

针对工业故障诊断过程中训练样本不足导致的诊断性能低下问题，文中以迁移学习和深度学习方法为基础，提出一种迁移BN-CNN(Batch Normalization-Convolutional Neural Network)框架。为了减少网络对初始化方法的依赖，在卷积神经网络中引入批归一化层，对网络的隐藏层进行归一化处理。针对目标域标签数据不充足问题，通过基于样本的迁移学习方法扩充目标域的标记数据量，引入基于模型的迁移学习方法，通过充足的源域数据预训练BN-CNN网络，并利用数据量扩充后的目标域微调该网络部分参数，降低了少量样本训练深度神经网络的难度，得到了更适合目标域的故障诊断模型。采用TE工业数据集对该方法进行对比验证，实验结果表明，文中所提方法对于小样本工业过程故障具有较好的诊断性能，其平均精度值为0.804。     

基于分类误差一致性准则的自适应知识迁移

目前大多数迁移学习方法在利用源域数据辅助目标域数据建模时,通常假设源域中的数据均与目标域数据相关。然而在实际应用中,源域中的数据并非都与目标域数据的相关程度一致,若基于上述假设往往会导致负迁移效应。为此,该文首先提出分类误差一致性准则(CCR),对源域与目标域分类误差的概率分布积分平方误差进行最小化度量。此外,该文提出一种基于CCR的自适应知识迁移学习方法(CATL),该方法可以快速地从源域中自动确定出与目标域相关的数据及其权重,以辅助目标域模型的构建,使其能在提高知识迁移效率的同时缓解负迁移学习效应。在真实图像以及文本数据集上的实验结果验证了CATL方法的优势。     

基于域与样例平衡的多源迁移学习方法

针对如何有效使用多源域的决策知识去预测目标域样例标签的问题，提出一种平衡域与样例信息的多源迁移学习算法.为实现上述目的，本文提出了一种基于域与样例平衡的多源迁移学习方法（Multi-source Transfer Learning by Balancing both Domains and Instances，MTL-BDI）.该方法的基本思想是将域层面和样例层面的双加权平衡项嵌入到迁移学习的原始目标函数中，然后利用交替优化技术对提出的目标函数进行有效求解.在文本和图像数据集上的大量实验表明，该方法在分类精度方面确实优于现有的多源迁移学习方法MCC-SVM（Multiple Convex Combination of SVM）、A-SVM（Adaptive SVM）、Multi-KMM（Multiple Kernel Mean Matching）和DAM（Domain Adaptation Machine）.     

基于双级对齐部分迁移网络的旋转设备故障诊断

随着智能制造和工业大数据的快速发展,迁移学习在旋转设备故障诊断领域得到了广泛研究.在工业现场,存在大量目标域标签空间为源域标签空间子集的场景,现有迁移学习方法在处理此类场景时,无法消除源域离群类别对目标域分类产生的负迁移影响.部分迁移学习通过限制源域不同类别数据在特征对齐过程的贡献度,实现源域和目标域共享类别特征对齐.然而,现有部分迁移学习方法仅考虑源域和目标域共享类别边缘分布对齐,未考虑源域和目标域共享类别各子类间的状态分布对齐,诊断正确率仍有待提高.为此,本文以Vision Transformer网络为基础网络架构,提出基于双级对齐部分迁移网络的故障诊断方法：一方面构造加权平衡机制促进源域和目标域共享类别间的边缘分布对齐,另一方面利用度量学习实现源域和目标域共享类别各子类间的状态分布对齐.利用滚动轴承故障数据对所提方法进行验证,结果表明：所提方法在所有诊断案例中的准确率均在95%以上,相比其他对比方法表现出更优的诊断效果.     

域控管理确保信息安全

我们单位的域控管理、活动目录的使用是从2008年公司机房建设时开始的。现在，公司网内的用户都可以使用域账号登录系统，并通过域账号使用邮件系统，进行工作中邮件的正常收发，还可以结合ISA对公司员工接入互联网进行管理，控制带宽，基本上达到了前期建设域架构的思路，满足了现在的需求。     

迁移学习用于电磁目标识别

迁移学习技术可以利用经验信息辅助当前任务,已在计算机视觉和语音识别领域得到广泛应用,但在电磁领域还没有取得明显的成就。电磁环境变化速度快,源数据或分类器模型在新环境中性能会显著下降,重新训练不仅需要大量的数据且费时费力。迁移学习技术与电磁目标识别任务十分相关,本文采用实测电磁目标数据集,探索迁移学习在解决电磁目标小样本问题中的几种应用,包括同类目标迁移和异类目标迁移。实验结果表明,通过将预训练模型迁移到目标域小样本识别任务,当目标域为同类源且标记样本只有20个情况下,相较于非迁移模型,验证准确率提高25%,并且大大缩短了目标域训练时间;当目标域为异类源时,也能够在保证识别准确率的同时使训练时间少于源域的1/5。     

Tr-SLDA:一种面向交叉领域的迁移主题模型

当目标领域缺少足够多的标注数据时,迁移学习利用相关源领域的标注数据,辅助提升目标域的学习性能,但是目标域与源域的数据通常不满足独立同分布,容易导致"负迁移"问题.本文在有监督主题模型(Supervised LDA,SLDA)的基础上,融合迁移学习方法提出一种共享主题知识的迁移主题模型(Transfer SLDA,Tr-SLDA),提出Tr-SLDA-Gibbs主题采样新方法,在类别标签的约束下对不同领域文档中的词采取不同的采样策略,且无需指定主题个数.辅助源域与目标域共享潜在主题空间,Tr-SLDA通过发现潜在共享主题与不同领域类别之间的语义关联从源域迁移知识,可以有效解决"负迁移"问题.基于Tr-SLDA迁移主题模型提出Tr-SLDA-TC(Tr-SLDA Text Categorization)文本分类方法.对比实验表明,该方法可有效利用源域知识来提高目标领域的分类性能.     

无源无监督迁移学习综述

迁移学习由于解决了领域之间的分布差异引起的领域迁移问题而引起了人们的关注。现有的迁移学习方法绝大多数需要访问源域数据,访问源域数据可能因为源域数据涉及隐私、数据量过大占据较大的存储空间以及计算成本等原因而带来难题。因此,很多研究开始关注无源无监督的方法,即从预先训练的源模型向不可访问的未标记目标领域执行迁移。首先介绍了无源无监督迁移学习的定义,然后简述了无监督迁移学习的研究现状,最后总结了部分方法在数据集上的表现,有利于进一步的研究。     

基于K-means聚类的子结构相关适配迁移学习方法

域漂移严重影响了传统机器学习方法的性能,现有的领域自适应方法主要通过全局、类级或样本级分布匹配自适应地调整跨域表示。但全局匹配和类级匹配过于粗糙会导致自适应不足,而样本级匹配受到噪声的影响可能导致过度自适应。基于此,提出了一种基于K均值（K-means）聚类的子结构相关适配（SCOAD）迁移学习算法,首先通过K-means聚类分别获得源域和目标域的多个子域,其次寻求子域中心二阶统计量的匹配,最后利用子域内结构对目标域样本进行分类。该方法在传统方法的基础上进一步提高了源域与目标域之间知识迁移的性能。在常用迁移学习数据集上的实验结果表明了所提方法的有效性。     

基于张量表示的域适配的迁移学习中特征表示方法

本文提出一种新的基于张量表示的域适配迁移学习中的特征表示方法,即融合联合域对齐和适配正则化的基于张量表示的迁移学习特征表示方法.当源域和目标域差异很大时,仅将源域对齐潜在共享空间,会造成数据扭曲过大.为缓解此问题,本文方法提出联合域对齐,即源域和目标域同时对齐共享子空间.并且本文方法将适配正则化引入张量表示空间求解.本文适配正则化包括动态分布对齐和图适配,以缩小域间分布差异和保留样本间流行一致性.最后融合联合域对齐,动态分布对齐和图适配,通过联合优化求解获得共享子空间表示.几个公共的跨域数据集上的大量实验结果表明了本文方法优于其它主流的迁移学习方法,验证了本文方法的有效性.     

迁移学习及其在通信辐射源个体识别中的应用

通信辐射源个体识别作为通信侦察的一种技术手段,在现代战场上发挥着至关重要的作用.迁移学习不要求源域与目标域数据同分布,大大减轻了传统模型对数据量和数据分布的敏感性,可以一定程度上解决通信辐射源数据集不全面、不充足等问题.概括了迁移学习的基本理论,分析了基于迁移学习的通信辐射源识别的可行性,阐述了近年来迁移学习以及基于迁...     

基于Kullback-Leiber距离的迁移仿射聚类算法

针对迁移聚类问题,该文提出一种新的基于Kullback-Leiber距离的迁移仿射聚类算法(TAP_KL)。该算法从概率角度重新解释AP算法的目标函数,并借助于信息论中最常见的一种距离度量,即Kullback-Leiber距离,测量源域与目标域代表点的相似性。另外,通过详细分析TAP_KL算法与AP算法的目标函数,得出一个重要结论,即可以将源域与目标域的相似性嵌入到目标域数据集相似性矩阵的计算中,从而直接利用AP算法的优化算法优化TAP_KL算法的目标函数,解决基于代表点的迁移聚类问题。最后,通过基于4个数据集的仿真实验,进一步验证了TAP_KL算法在解决迁移聚类问题时的有效性。     

SDN中基于分布式决策的控制器负载均衡机制

针对SDN多控制器负载均衡过程中,控制器选取僵化和交换机迁移冲突问题,提出了一种基于分布式决策的控制器负载均衡机制,分为三个阶段进行实施：首先通过周期性收集网络信息,结合控制器负载状况构建分布式迁移决策域;然后在域中依据选取概率确定迁移交换机,综合权衡数据收集、交换机迁移和状态同步三种代价选择目标控制器;最后建立迁移时钟模型,完成交换机迁移和控制器角色转换.仿真结果表明,与现有的负载均衡机制相比,降低了网络的通信开销,流建立时间平均缩短0.14s,控制器资源利用率提高了21.7%.     

洋非编数据库服务器域迁移的研究与实践

介绍了舟山台对大洋非编域控制器的更换迁移过程，结合原理和一些备选的方案阐释采用当前方案的合理性和安全性，对域的功能做了粗略的介绍，并提出了一些针对SAN共享的思路。     

基于多核最大均值差异迁移学习的WLAN室内入侵检测方法

无线局域网(WLAN)室内入侵检测技术是目前智能检测领域的研究热点之一,而传统基于数据库构建的入侵检测技术没有考虑复杂室内环境中WLAN信号的时变性,从而导致WLAN室内入侵检测系统的鲁棒性较差。为了解决这一问题,该文提出一种基于多核最大均值差异(MKMMD)迁移学习的WLAN室内入侵检测方法。该方法首先利用离线有标记和在线伪标记的接收信号强度(RSS)特征来分别构建源域和目标域;其次,通过构造最优迁移矩阵以最小化源域和目标域RSS特征混合分布之间的MKMMD;再次,利用迁移后的源域RSS特征与对应标签来训练分类器,并将其用于对迁移后的目标域RSS特征进行分类以得到目标域标签集;最后,迭代更新目标域标签集直至算法收敛,进而实现对目标环境的入侵检测。实验结果表明,该文所提方法在保证较高检测精度的同时,能够有效克服信号时变性对检测性能的影响。     

基于迁移判别回归的跨域语音情感识别

针对实际情况下训练和测试数据来自不同领域数据库导致识别性能下降的问题,提出了一种基于迁移判别回归的跨域语音情感识别方法。首先,引入最大均值差异和图拉普拉斯项作为域间联合距离度量,在减小概率分布差异的同时,很好地保留数据的局部几何结构,从而学习到一个可迁移的公共特征表示。其次,本文采用一种能量保持策略,以避免迁移过程中目标域信息的丢失。此外,通过引入判别回归项,利用已标记的源域样本在公共子空间中训练一个可迁移的判别回归模型。最后,为了使学习到的模型具有特征选择能力和鲁棒性,分别对投影矩阵和回归项施加L_2,1范数约束。在3个公开数据集上的实验结果表明,本文提出的算法相较于其他几种迁移学习方法具有更好的识别性能。     

基于知识聚合和迁移的跨领域推荐算法

传统的推荐算法受限于单领域中用户和项目的稀疏关系，也存在用户冷启动等问题.跨领域推荐能够通过学习辅助领域的知识去丰富目标领域的稀疏数据以提高推荐准确率.本文提出了一种知识聚合和迁移相结合的跨领域推荐算法ATCF.与已有算法不同，在对共性知识和个性知识的表示学习中，ATCF均充分融合了辅助域和目标域的知识，通过基于矩阵分解的两级矩阵拼接和两次矩阵填充，得到在群集矩阵及评分矩阵上的共性知识表示；通过知识迁移，构建了重叠用户和非重叠用户的个性知识表示，有效避免了负迁移.在两个跨领域数据集上开展的实验表明，ATCF算法与已有单领域和跨领域推荐算法相比RMSE降低了3%~7%，准确率召回率增加了8%~15%.     

基于迁移权重的条件对抗领域适应

针对条件对抗领域适应(CDAN)方法未能充分挖掘样本的可迁移性,仍然存在部分难以迁移的源域样本扰乱目标域数据分布的问题,该文提出一种基于迁移权重的条件对抗领域适应(TW-CDAN)方法。首先利用领域判别模型的判别结果作为衡量样本迁移性能的主要度量指标,使不同的样本具有不同的迁移性能;其次将样本的可迁移性作为权重应用在分类损失和最小熵损失上,旨在消除条件对抗领域适应中难以迁移样本对模型造成的影响;最后使用Office-31数据集的6个迁移任务和Office-Home数据集的12个迁移任务进行了实验,该方法在14个迁移任务上取得了提升,在平均精度上分别提升1.4%和3.1%。     

模糊近邻密度聚类与重采样的迁移学习算法

传统机器学习要求训练样本和测试样本具有相同分布的假设在实际应用中难以满足,为解决这种问题,迁移学习的研究近年来逐渐兴起。其中,基于聚类分析与重采样的迁移学习框架不需要直接估计域分布,且能够修正不同类型的域间差异,但其所采用的聚类算法对参数选择的鲁棒性及不同分布数据的适应性较差,并不能很好地适用于挖掘数据结构信息。为此,该文提出一种基于模糊近邻密度聚类与重采样的迁移学习算法。该方法对不同分布形状和密度的数据具有较好的鲁棒性并能够发现更多的近邻结构信息,能够从源域中迁移更多的有用知识用于目标域的学习。在公共数据集上的实验结果表明所提出的迁移学习方法具有更好的性能。