多任务学习

随着图像处理,语音识别等人工智能技术的发展,很多学习方法尤其是采用深度学习框架的方法取得了优异的性能,在精度和速度方面有了很大的提升,但随之带来的问题也很明显,这些学习方法如果要获得稳定的学习效果,往往需要使用数量庞大的标注数据进行充分训练,否则就会出现欠拟合的情况而导致学习性能的下降.因此,随着任务复杂程度和数据规模...     

基于多任务学习的网络谣言检测研究

当今,社交媒体已经成为获取信息的主要来源。通过社交媒体平台,谣言以前所未有的速度传播,传播给全球受众,并使用户和社会面临巨大风险,尽早发现并阻止谣言是极其重要的。基于深度学习的方法在谣言检测中表现出很好的性能。但是,很多研究方法都是单任务学习,而且缺少外部知识对内容的检查,因此从知识增强角度出发,将谣言检测和主题领域分类这两个相关的任务结合起来进行多任务学习,以补充微博帖子的语义表示,提升谣言检测性能。     

基于语义拼写理解和门控注意力机制的不良言论检测

如何自动检测网络传播的不良言论信息是自然语言处理研究领域的热门研究内容之一.针对不良言论中语义表达和拼写习惯的特点,提出一种基于语义拼写理解和门控注意力机制的不良言论检测方法.该方法采用 自注意力机制获取文本的语义特征,采用卷积神经网络提取文本的拼写特征,采用前期特征融合和门控注意力机制相结合的方式融合语义和拼写特征.在两个公共数据集上的实验结果表明,提出的模型能够有效地提取不良言论的语义特征,提高不良言论检测的性能.     

基于数据增强和多任务特征学习的中文语法错误检测方法

由于中文语法的复杂性,中文语法错误检测(CGED)的难度较大,而训练语料和相关研究的缺乏,使得CGED的效果还远未达到实用的程度。该文提出一种CGED模型,APM-CGED,采用数据增强、预训练语言模型和基于语言学特征多任务学习的方式,弥补训练语料的不足。数据增强能够有效地扩充训练集,而预训练语言模型蕴含丰富的语义信息又有助于语法分析,基于语言学特征多任务学习对语言模型进行优化则可以使语言模型学习到跟语法错误检测相关的语言学特征。该文提出的方法在NLPTEA的CGED数据集进行测试,取得了优于其他对比模型的结果。     

多任务机制在单片机检测及通信中的应用

为了适应多种定时检测应用的要求,本文将操作系统中多任务机制引入到单片机监测及通信系统中,并详细讨论了该机制的实现方法。     

面向轨道分割与侵入物检测的多任务学习

轨道车智能防护会涉及轨道车侵入物检测与行驶区域分割任务,在深度学习领域已有针对各任务的算法,却无法很好满足多任务情形时的需求.该算法使用轻量级卷积神经网络(CNN)作为编码器提取特征图,随之将特征图送到两个基于one-stage检测网络的解码器中,进而完成各自的任务.不同级别和尺度的语义特征在编码器输出的特征图中被融合,良好地完成像素级语义预测,在检测和分割效果上有明显提升.采用本算法的设备将掌握对新目标的识别检测判断与追踪,为提升轨道车行驶安全做出保障.     

语音增强与检测的多任务学习方法研究

在许多语音信号处理的实际应用中,都要求系统能够低延迟地实时处理多个任务,并且对噪声要有很强的鲁棒性。针对上述问题,提出了一种语音增强和语音活动检测（Voice Activity Detection,VAD）的多任务深度学习模型。该模型通过引入长短时记忆（Long Short-Term Memory,LSTM）网络,构建了一个适合于实时在线处理的因果系统。基于语音增强和VAD的强相关性,该模型以硬参数共享的方式连接了两个任务的输出层,不仅减少了计算量,还通过多任务学习提高了任务的泛化能力。实验结果表明,相较串行处理两个任务的基线模型,多任务模型在语音增强结果非常相近、VAD结果更优的情况下,其速度快了44.2%,这对于深度学习模型的实际应用和部署将具有重要的意义。     

基于多任务学习的微博谣言检测方法

微博谣言的广泛传播给当今社会造成了日益严峻的负面影响。基于深度神经网络的方法存在缺少大量带标签的数据。研究发现;谣言经常伴随负面情感;而非谣言则伴随正面情感;考虑到谣言与非谣言之间表现出的相反情感倾向性;提出一种将谣言检测和情感分析这两个高度相关的任务结合起来学习的多任务学习方法;为了尽可能多地挖掘不同任务之间的关联;全面分析谣言检测任务的特征;设计了一个由BERT和BiGRU联合的多任务学习框架（BERT-BiGRU-MTL;BBiGM）。利用权值共享的方法对两个任务进行联合训练;同时提取出任务之间的共同特征和针对谣言检测任务的特定特征;利用情感分析任务辅助谣言检测。研究结果表明;该方法在准确率、精确率、F1值评测指标上优于采用单任务学习的方法。     

多任务学习及卷积神经网络在人脸识别中的应用

随着深度学习的发展,近年来人脸识别借助深度学习技术取得了巨大突破。但是在已有的基于深度学习的人脸识别框架中,各个任务（人脸鉴别、认证和属性分类等）都是相互独立设计、运作的,使得整体算法低效、耗时。针对这些问题,提出一种基于多任务框架的深度卷积网络。通过将人脸鉴别、认证和属性分类同时作为网络目标函数,端到端地训练整个深度卷积网络,算法简洁高效。此网络可以同时完成上述三个任务,不需要额外的步骤。实验结果显示,即使在有限的数据支持下,该方法依然能够取得不错的性能,在人脸识别权威数据集LFW上获得了97.3%的精度。     

基于多任务学习的近岸舰船检测方法

摘要:在遥感光学图像近岸舰船目标检测任务中;针对近岸复杂场景中存在形状近似目标的虚警问题;提出一种基于多任务学习的近岸舰船目标检测方法。该方法通过构建海陆分割任务与舰船检测任务并行双路框架;将传统的任务串行处理流程优化为并行处理方式;设计联合损失函数进行双路优化训练约束;提升模型训练的稳定性;通过双分支融合模块剔除陆地掩膜中的检测结果;实现陆地虚警滤除。采用谷歌地球遥感图像制作的数据集进行实验;将本文提出的方法与单任务检测算法YOLOv5相比;mAP提升了4.4个百分点;虚警率降低了3.4个百分点。实验结果表明本文算法对陆地虚警抑制有效。>     

多任务网络融合多层信息的目标定位

目标定位是计算机视觉中的关键问题,针对目前区域卷积神经网络及其扩展算法的精度受限于输出卷积图尺寸、不能得到目标准确位置的问题,提出一种基于多任务卷积神经网络的目标定位算法.在特征提取阶段,不同的任务共享相同的特征提取层;然后分别针对不同层次信息训练对应的后续网络;在提取出高层和低层信息后,融合低层信息和高层信息得到准确的目标位置.在PASCAL VOC 2007数据库和交通场景数据库进行实验的结果表明,该算法可以有效地提高目标定位的精度.     

全局和局部信息融合的案情关键要素识别

司法人工智能中主要挑战性问题之一是案情关键要素识别,现有方法仅将案情要素作为一个命名实体识别任务,导致识别出的多数信息是无关的.另外,也缺乏对文本的全局信息和词汇局部信息的有效利用,导致要素边界识别的效果不佳.针对这些问题,提出一种融合全局和局部信息的关键案情要素识别方法.所提方法首先利用BERT模型作为司法文本的输入共享层以提取文本特征.然后,在共享层之上建立司法案情要素识别、司法文本分类(全局信息)、司法中文分词(局部信息)这3个子任务进行联合学习模型.最后,在两个公开数据集上测试所提方法的效果,结果表明:所提方法 F1值均超过了现有的先进方法,提高了要素实体分类的准确率并减少了识别边界错误问题.     

基于多模态异质动态融合的情绪分析研究

近年来,利用多模态数据进行情绪分析是一个非常热门的领域。如何对模态内部信息及模态之间的相互作用进行更好的利用,是一个值得探讨的研究问题。而多个模态之间的相互作用,并不是一个静态的过程,而是动态变化的,且模态对于不同的任务而言也存在动态的强弱差异。若不能妥善处理,将导致模型性能的下降。该文针对时序多模态情绪数据提出了一种异质的动态融合方法,通过层次化的异质动态融合方式更完备地进行模态融合,并且动态地捕捉到模态间的相互作用。因此,该方法在提高模型性能的同时也提高了模态融合过程的可解释性。同时,该文利用多任务学习策略,将异质动态融合网络联合单个模态的自监督学习网络,获得模态的一致性及差异性特征。通过CMU-MOSI及CMU-MOSEI数据集上的实验表明该模型相比于主流模型具有优势,且模态融合的过程更具可解释性。     

基于共享BERT和门控多任务学习的事件检测方法

事件检测任务的目标是从文本中自动获取结构化的事件信息。目前基于表示学习的神经事件检测方法能够有效利用潜在语义信息,但人工标注数据集的语义知识含量有限,制约了神经网络模型的认知广度。相对地,多任务表示学习框架,有助于模型同时学习不同任务场景中的语义知识,从而提升其认知广度。BERT预训练模型得益于大规模语言资源的充沛语义信息,具有高适应性(适应不同任务)的语义编码能力。因此,该文提出了一种基于BERT的多任务事件检测模型。该方法将BERT已经包含的语义知识作为基础,进一步提升多任务模型的表示、学习和语义感知能力。实验表明,该方法有效提高了事件检测的综合性能,其在ACE2005语料集上事件分类的F₁值达到了76.7%。此外,该文在实验部分对多任务模型的训练过程进行了详解,从可解释性的层面分析了多任务架构对事件检测过程的影响。     

一种分布式检测系统的递推反馈自适应学习算法

分布式多传感器检测系统中的等概率假设在检测概率未知及时变情况下不能得到最优的检测状态．研究分布式检测系统的最优检测问题,考虑传感器虚警与漏报的概率未知,且概率不相等的情况,提出了一种递推的状态反馈自适应学习算法,通过在线的修正融合权值,最终使系统收敛于最佳权值,并对算法收敛性和误差进行了理论分析．仿真研究了概率未知、环境时变等情况下的算法性能,验证了所提方法的有效性．     

小样本条件下的RGB-D显著性物体检测

目的 现有基于RGB-D(RGB-depth)的显著性物体检测方法往往通过全监督方式在一个较小的RGB-D训练集上进行训练,因此其泛化性能受到较大的局限。受小样本学习方法的启发,本文将RGB-D显著性物体检测视为小样本问题,利用模型解空间优化和训练样本扩充两类小样本学习方法,探究并解决小样本条件下的RGB-D显著性物体检测。方法 模型解空间优化通过对RGB和RGB-D显著性物体检测这两种任务进行多任务学习,并采用模型参数共享的方式约束模型的解空间,从而将额外的RGB显著性物体检测任务学习到的知识迁移至RGB-D显著性物体检测任务中。另外,训练样本扩充通过深度估计算法从额外的RGB数据生成相应的深度图,并将RGB图像和所生成的深度图用于RGB-D显著性物体检测任务的训练。结果 在9个数据集上的对比实验表明,引入小样本学习方法能有效提升RGB-D显著性物体检测的性能。此外,对不同小样本学习方法在不同的RGB-D显著性物体检测模型下(包括典型的中期融合模型和后期融合模型)进行了对比研究,并进行相关分析与讨论。结论 本文尝试将小样本学习方法用于RGB-D显著性物体检测,探究并利用两种不同小样本...     

基于多任务学习的时序多模态情感分析模型

针对时序多模态情感分析中存在的单模态特征表示和跨模态特征融合问题,结合多头注意力机制,提出一种基于多任务学习的情感分析模型.首先,使用卷积神经网络(CNN)、双向门控循环神经网络(BiGRU)和多头自注意力(MHSA)实现了对时序单模态的特征表示;然后,利用多头注意力实现跨模态的双向信息融合;最后,基于多任务学习思想,...