一种自适应混合权重的自步学习方法

自步学习是一种受人类和动物学习过程启发的学习机制,它赋予训练样本不同的权重,从而逐步将简单到更复杂的样本纳入训练集进行学习.自步学习在目标函数中加入自步正则项控制学习过程.目前存在多种形式的自步权重正则项,不同的正则项可能会导致不同的学习性能.其中,混合权重正则项同时具有硬权重和软权重的特点,因而被广泛应用在众多自步学习问题中.然而,当前的混合权重方法只结合了对数软权重,形式较为单一.此外,相较于软权重或硬权重方式,混合权重方法引入了更多的参数.提出一种自适应混合权重的自步正则方法来克服形式单一和参数难以调节的问题.一方面,在学习的过程中权重的表示形式能够自适应进行调整,另一方面,可以根据样本损失分布特点来自适应混合权重引入的自步参数,从而减少参数对人为经验的依赖.行为识别和多媒体事件检测上的实验结果表明提出的方法可以有效地解决权重形式和参数的自适应问题.     

基于注意力机制的自监督图卷积会话推荐

为了解决会话推荐系统中数据稀疏性问题, 提出了一种基于注意力机制的自监督图卷积会话推荐模型(self-supervised graph convolution session recommendation based on attention mechanism, ATSGCN). 该模型将会话序列构建成3个不同的视图: 超图视图、项目视图和会话视图, 显示会话的高阶和低阶连接关系; 其次, 超图视图使用超图卷积网络来捕获会话中项目之间的高阶成对关系, 项目视图和会话视图分别使用图卷积网络和注意力机制来捕获项目和会话级别局部数据中的低阶连接信息; 最后, 通过自监督学习使两个编码器学习到的会话表示之间的互信息最大化, 从而有效提升推荐性能. 在Nowplaying和Diginetica两个公开数据集上进行对比实验, 实验结果表明, 所提模型性能优于基线模型.     

结合自监督学习的图神经网络会话推荐

基于会话的推荐方法由于短期用户交互数据有限,与传统推荐方法相比,其性能更容易受到数据稀疏性问题的影响。为增强会话数据以缓解数据稀疏对会话推荐性能的影响,提出一种结合自监督学习的图神经网络会话推荐（Ss-GNN）模型。构建会话图并建立基于图注意力网络的会话推荐任务来获取项目级表示和会话级表示;从会话级表示的角度出发,利用用户的一般兴趣和当前兴趣来构建辅助任务获取自监督信号;利用自监督学习实现推荐任务和辅助任务之间的互信息最大化,以增强会话数据,从而提升推荐性能。在Yoochoose和Tmall两个公开数据集上进行实验,与基线模型相比,提出的模型在Yoochoose上P@20和MRR@20至少提升了0.94%和0.79%,在Tmall上P@20和MRR@20至少提升了9.61%和4.67%,证明了Ss-GNN模型的有效性。     

基于自监督学习的社交网络用户轨迹预测模型

针对当前用户轨迹数据建模中存在的签到点稀疏性、长时间依赖性和移动模式复杂等问题,提出基于自监督学习的社交网络用户轨迹预测模型SeNext,对用户轨迹进行建模和训练来预测用户的下一个兴趣点(POI).首先,使用数据增强的方式来丰富训练数据样本,以解决数据不足及个别用户足迹太少导致的模型泛化能力不足的问题;其次,将循环神经...     

基于多图的交替优化图直推方法

针对基于单图的半监督学习(GSSL)算法的性能受单个图质量的影响,且在单视图数据下,大多数基于多图的GSSL算法难以使用的问题,提出了一种基于多图的交替优化图直推方法(MG-GTAM)。首先,使用不同的图构建参数来构建单视图数据下的多个图,利用多个图来表达数据间关系;然后,借助交替迭代方式综合多个图的信息,选择置信度高的未标记样本进行伪标记并通过权重权衡各图的重要程度,以优化多图上的预测函数的一致性和平滑性;最后通过组合每个图的预测函数完成对所有未标记样本的标记。仿真实验表明,与经典的局部和全局一致(LGC)、高斯随机场和调和函数(GFHF)、交替优化直推(GTAM)、组合图拉普拉斯(CGL)算法相比,在COIL20目标物体数据集和NEC Animal数据集上,MG-GTAM的分类错误率比这些经典算法均有下降,表明了该方法具有良好的性能。实验结果表明, MG-GTAM能有效地利用多个图来表达数据之间的关系,获得更低的分类错误率。     

基于自监督的多视角图协同过滤推荐方法

现有的图协同过滤算法在现实场景中存在数据稀疏问题,同时在相邻信息聚合的过程中使得特征学习更容易受到交互噪声的影响。为了解决上述问题,提出一个基于自监督的多视角图协同过滤(SMGCF)推荐方法,通过图神经网络学习用户和项目节点的嵌入表示。在学习节点嵌入表示的过程中,考虑到单个节点间的交互关系以及聚类节点间的聚类关系对推荐结果的影响,引入自监督学习来辅助图协同过滤算法进行多视角关系的挖掘。针对节点交互级关系视角,通过数据增强得到多个用户-项目交互二分图,并且提出一种节点交互级关系的对比学习方法;针对节点聚类级关系视角,提出一种节点聚类级关系的对比学习方法。通过多视角融合策略将2种类型的对比学习方法进行融合,从而提升节点嵌入效果。在4个公开的数据集上进行实验,实验结果证明了SMGCF的可行性和有效性。相比最优基准方法NCL,SMGCF在Recall@10和NDCG@10指标上最高可提升2.1%和4.3%。     

基于自监督图掩码神经网络的社交推荐模型

现有自监督社交推荐模型大多通过人工启发式图增强和单一关系视图间对比的策略构建自监督信号,性能受到增强自监督信号质量的影响,难以自适应地抑制噪声.由此,文中提出基于自监督图掩码神经网络的社交推荐模型.首先,分别构建用户社交和物品分类的单一关系视图及高阶连通异构图,采用图掩码学习范式指导用户社交图进行自适应和可学习的数据增强.然后,设计异构图编码器,学习视图中的潜在语义,跨视图对用户、物品嵌入进行对比学习,完成自监督任务,分别对用户、物品嵌入进行加权融合,完成推荐任务.最后,利用多任务训练策略联合优化自监督学习任务、推荐任务和图掩码任务.在3个真实数据集上的实验表明文中模型性能具有一定提升.     

EEG融入自标签的自监督对比学习情感分析方法

基于脑电信号的情绪识别是推断人类内心情绪状态的有效方法。近年来脑电信号的发展主要受标签标注的限制,如何从无标签脑电数据中学习到稳健的矢量表达是当前研究的重点。本文在自监督模型基础上,将经特征拓扑后的脑电数据作为输入,在训练过程中融入自标签Top-K,同时引入注意力机制,使模型获得更好的性能。模型在脑电数据集SEED上取得了78.3%的分类准确度。     

基于数据增强的自监督飞行航迹预测

准确的飞行航迹预测可以帮助空中交通管理系统对潜在的危险提出预警,并有效地为安全出行提供指导。飞机飞行所处的大气情况复杂多变,飞行航迹受大气扰动、空中云层等外部因素的影响很大,使得飞行航迹预测问题十分复杂和困难。另外,由于某些飞行区域所在的地面环境恶劣,无法部署足够的信号基站,而某些飞行区域的飞行信号由多个信号基站采集组合而成,造成最终得到的飞行航迹数据存在稀疏和含噪等问题,进一步增加了飞行航迹预测的难度。文中提出了一种基于数据增强的自监督飞行航迹学习方法。此方法采用基于正则化的数据增强方式,扩充了稀疏的航迹数据集并处理了数据中包含的异常值,利用最大化互信息的方式进行自监督预训练,以挖掘飞行航迹中蕴含的运动模式和航行意图,采用一种带有蒸馏机制的多头自注意力模型作为基础模型,解除了循环神经网络长期依赖和无法并行计算的限制,并利用注意力蒸馏机制和生成式解码方式降低了模型的复杂度,加快了其训练和预测的速度。在飞行航迹数据集上的评测结果显示,此方法较目前预测表现最优秀的方法在纬度、经度和高度上的预测结果的均方根误差各减少了20.8%,26.4%和25.6%,极大地提高了预测准确性。     

一种基于自监督学习的矢量球面卷积网络

在三维视觉任务中, 三维目标的未知旋转会给任务带来挑战, 现有的部分神经网络框架对经过未知旋转后的三维目标进行识别或分割较为困难. 针对上述问题, 提出一种基于自监督学习方式的矢量型球面卷积网络, 用于学习三维目标的旋转信息, 以此来提升分类和分割任务的表现. 首先, 对三维点云信号进行球面采样, 映射到单位球上; 然后, 使用矢量球面卷积网络提取旋转特征, 同时将随机旋转后的三维点云信号输入相同结构的矢量球面卷积网络提取旋转特征, 利用自监督网络训练学习旋转信息; 最后, 对随机旋转的三维目标进行目标分类实验和部分分割实验. 实验表明, 所设计的网络在测试数据随机旋转的情况下, 在ModelNet40数据集上分类准确率提升75.75%, 在ShapeNet数据集上分割效果显著, 交并比(Intersection over union, IoU)提升51.48%.     

基于自监督学习的河流分割方法

针对水上桥梁图像受地形、天气、环境的影响,河流情况复杂且形式较多,无法事先采集所有图像中的河流样本等问题,本文提出一种基于自监督学习的河流分割方法,利用K均值聚类与Harris角点相结合的方法自动提取部分河流区域作为自监督学习的河流样本,以及河流样本的颜色和纹理特征,再根据提取的图像的河流特征利用支持向量机（SVM）的单分类功能进行训练学习,通过训练好的分类器完成河流的分割。实验结果表明,本文的河流分割方法能较好地分割出河流并适应不同场景的水上桥梁图像。     

基于自监督学习的变电站缺陷检测

为了在使用少量标注样本情况下提升变电站设备缺陷检测精度,提出一种基于自监督模型SimSiam的改进缺陷检测算法.不同于原始SimSiam,改进后的算法无需使用标志性图像(iconic images),如ImageNet数据集,而是直接利用非标志性图像(non-iconic images)如COCO数据集进行对比学习,并在下游的缺陷检测任务上获得可媲美有监督方法的性能.通过在投影层(projection head)和预测层(prediction head)中使用全卷积网络和空间注意力模块来代替MLP,保留高维特征的空间结构及局部信息;同时在计算相似度前先对特征图进行均值池化以得到特征向量,并对特征向量进行归一化以计算欧氏距离,从而改进了自监督对比学习的损失函数.实验结果表明该算法能充分利用非标志性图像进行对比学习,并在只标注少量样本的条件下提升变电站设备缺陷检测的精度,在表计表盘破损、挂空悬浮物、鸟巢、呼吸器硅胶变色及箱门闭合异常等5类缺陷检测任务上mAP达到83.84%.     

面向RGB-D语义分割的多模态任意旋转自监督学习

基于RGB-D数据的自监督学习受到广泛关注, 然而大多数方法侧重全局级别的表示学习, 会丢失对识别对象至关重要的局部细节信息. 由于RGB-D数据中图像和深度具有几何一致性, 因此这可以作为线索来指导RGB-D数据的自监督特征表示学习. 在本文中, 我们提出了ArbRot, 它可以无限制地旋转角度并为代理任务生成多个伪标签用于自监督学习, 而且还建立了全局和局部之间的上下文联系. 本文所提出的ArbRot可以与其他对比学习方法联合训练, 构建多模态多代理任务自监督学习框架, 以增强图像和深度视图的特征表示一致性, 从而为RGB-D语义分割任务提供有效的初始化. 在SUN RGB-D和NYU Depth Dataset V2数据集上的实验结果表明, 多模态任意旋转自监督学习得到的特征表示质量均高于基线模型. 开源代码: https://github.com/Physu/ArbRot.     

少样本条件下基于自监督改进SimDet模型的消毒场景目标检测

日常消毒工作已经成了常态化的工作,智能消毒机器人是非常有效的一种方式.机器人通常通过视觉来感知周围环境,但是基于监督学习的检测算法通常需要大量的标注数据进行训练,当标注数据量多时,标注成本非常高,当标注数据量少时,模型容易陷入过拟合,因此少样本目标检测是一种有效的解决途径.本文以SimDet模型为基础,提出了SimDet+模型.第一,针对消毒场景中的目标检测任务的特点,增加了自监督预训练的过程,第二,因为存在查询图片可供参考,对分类层进行了改进,使用余弦相似度代替全连接层来计算置信度,通过非参数化计算有效避免了过拟合现象.针对消毒场景,制作了一份22 min的视频数据集和包含8类物体的检测数据集,分别用于两个阶段训练.通过自监督预训练,有效减少了数据标注成本,同时下游任务的mAP从0.216 2提升到了0.530 2.     

基于原型注意力的多域网络目标跟踪方法

为了解决预训练集和跟踪视频的域不一致性导致跟踪模型判别能力不足的问题,提出了一种基于原型注意力的多域网络目标跟踪方法。以实时多域网络目标跟踪方法为研究对象,在训练过程中引入原型网络提取注意力特征。基于支撑集正负样本得到目标与背景的域特定原型注意力,将其与待跟踪视频的特征图进行逐通道自适应融合,使得模型在大型数据集上得到判别力更强的目标表示,从而增强跟踪算法的性能。在OTB100和TrackingNet两个基准数据集上的实验结果表明,提出方法的精度和成功率优于现有的代表性跟踪方法。     

基于多任务学习的电子病历实体识别方法

中文电子病历NER是医疗信息抽取的难点。本文提出一种多任务学习的实体识别方法,联合实体识别和分词训练模型,使用基于Bi-LSTM的私有层提取专有信息,融合注意力网络作为共享层并增加通用特征增强机制来筛选全局信息,降低过拟合风险并增强模型的泛化能力。此外提出均衡样本过采样方法扩充数据集,有效解决实体类别不平衡所带来的问题。使用CCKS2017/CCKS2020电子病历实体识别语料和Medicine医药分词语料联合训练,实验结果显示本文提出的模型整体性能提升明显,同时也显著提高了Medicine语料的分词实验效果,F1值较基线提升了3个百分点。实验表明本文提出的模型能够有效改善因电子病历中数据不规范、无结构或专有名词等原因造成的实体切分错误等问题。     

基于弱监督学习的目标检测研究进展

随着卷积神经网络（Convolutional Neural Network,CNN）的不断发展,目标检测作为计算机视觉中最基本的技术,已取得了令人瞩目的进展。介绍了强监督目标检测算法对数据集标注精度要求高的现状。对基于弱监督学习的目标检测算法进行研究,按照不同的特征处理方法将该算法归为四类,并分析比较了各类算法的优缺点。通过实验比较了各类基于弱监督学习的目标检测算法的检测精度,并将其与主流的强监督目标检测算法进行了比较。展望了基于弱监督学习的目标检测算法未来的研究热点。     

基于图对比学习的MOOC推荐方法

随着MOOC在线教育平台的飞速发展,课程和用户数量激增,学习者在面对种类繁多的课程时往往较难选择,传统的推荐方法在MOOC课程推荐中应用存在对曝光次数较低的课程推荐效果差和对噪声数据鲁棒性不足的问题。为给学习者提供高质量的推荐,提出一种图对比学习的MOOC推荐方法,同时针对二分图结构给出一种新的数据增强方法。对输入的用户项目交互的二分图随机添加或者删除边进行数据增强,得到两个子视图,使用图卷积神经网络对原始二分图和两个子视图进行节点特征提取得到用户和项目的节点表征,并构建推荐监督任务和对比学习的辅助任务进行联合优化,在此基础上将用户和项目的节点表征进行点积获得推荐结果。在MOOC数据集上进行Top-K推荐的实验结果表明,相较于LightGCN模型,该方法在Recall@5和NDCG@5上均有显著提升,最高分别提升7.8%和7.3%,能够有效提高模型对于曝光次数较低的课程的推荐准确性和对于噪声数据的鲁棒性。