多任务学习

随着图像处理,语音识别等人工智能技术的发展,很多学习方法尤其是采用深度学习框架的方法取得了优异的性能,在精度和速度方面有了很大的提升,但随之带来的问题也很明显,这些学习方法如果要获得稳定的学习效果,往往需要使用数量庞大的标注数据进行充分训练,否则就会出现欠拟合的情况而导致学习性能的下降.因此,随着任务复杂程度和数据规模...     

多任务优化算法综述

基于计算智能“隐并行性”实现多任务优化(multi-task optimization, MTO),是当前研究的热点和前沿技术.与传统单任务优化算法相比,通过挖掘群体智能内在并行和内涵并行同时优化多个任务,可显著提高问题求解质量以及缩短任务求解时间.首先,对MTO相关英文/中文文献进行梳理,总结MTO研究进展和趋势;然后,基于多因子优化(multifactorial optimization, MFO)和多种群演化(multi-population evolution, MPE)两种不同信息共享框架,从多任务搜索空间设计、种群数量、种群规模、依托算法、信息迁移节点、交互信息、时间和空间复杂度以及复杂系统等角度对比二者异同;接着,从信息迁移节点、方式和类型3方面重点阐述MTO核心理论;最后,从探究MTO复杂系统层级智能涌现行为、多任务种群多样性控制以及应用领域拓展3方面展望未来研究方向.     

基于多任务学习的图神经网络推荐模型研究

图神经网络处理非欧氏空间数据的强大能力促使越来越多的研究将其应用于推荐领域。然而,现有的基于图神经网络的推荐模型大多数仍然采用多个邻接矩阵来表示多种节点或边属性等异质信息,没有充分利用异质信息之间的交互。因此,提出一种新型的图神经网络推荐模型,把所有信息实体之间的丰富交互建模成异质图,并在异质图上使用稠密子图采样策略进行子图采样;此外,模型还加入多任务学习方法用于共同优化链接预测与推荐任务,使得模型学习到更好的节点表示,以提升推荐效果。2个公开数据集上的实验结果表明,所提模型相比基线模型,在Top-N推荐任务性能上有所提高。     

基于多任务训练的用户登入语音识别模型仿真

传统用户登入语音识别模型的泛化性能较差,导致语音识别精度不理想。为解决上述问题,构建基于多任务训练的用户登入语音识别模型。利用循环神经网络(Recurrent Neural Network, RNN)的数据处理能力,将多任务学习(Multi-task learning, MTL)应用在循环神经网络中,采用共享隐层学习的方式并行训练多个任务,获取更多共享特征,完成多任务学习,提高循环神经网络泛化性能,构建基于MTL-RNN的语音识别模型,将用户登入连贯语音信息作为模型输入,结合多任务学习结构,通过用户身份、情感和性别的分类输出,实现用户登入语音识别。实验结果表明,上述模型具备较高语音识别准确率,语音识别非加权平均召回率较高,说明引入多任务学习可增强上述模型的语音识别的泛化能力,优化识别精度。     

基于图嵌入编码形态信息的非均匀多任务强化学习方法

传统强化学习方法存在效率低下、泛化性能差、策略模型不可迁移的问题。针对此问题,提出了一种非均匀多任务强化学习方法,通过学习多个强化任务提升效率和泛化性能,将智能体形态构建为图,利用图神经网络能处理任意连接和大小的图来解决状态和动作空间维度不同的非均匀任务,突破模型不可迁移的局限,充分发挥图神经网络天然地利用图结构归纳偏差的优点,实现了模型高效训练和泛化性能提升,并可快速迁移到新任务。多任务学习实验结果表明,与以往方法相比,该方法在多任务学习和迁移学习实验中均表现出更好的性能,在迁移学习实验中展现出更准确的知识迁移。通过引入图结构偏差,使该方法具备更高的效率和更好的迁移泛化性能。     

基于多任务学习的生物医学实体关系抽取

生物医学实体关系抽取是生物医学文本挖掘领域的一项重要任务,它可以自动从生物医学文本中挖掘实体间的相互关系。目前,生物医学实体关系抽取方法一般只针对某一特定任务(如药物关系,蛋白质交互关系抽取等)训练单任务模型进行抽取,忽略了多个任务之间的相关性。因此,该文使用基于神经网络的多任务学习方法对多个生物医学关系抽取任务间的关联性进行了探索。首先构建了全共享模型和私有共享模型,然后在此基础上提出了一种基于Attention机制的主辅多任务模型。在生物医学领域关系抽取的5个公开数据集上的实验结果表明,该文的多任务学习方法可以有效地在学习任务之间共享信息,使得任务间互相促进,获得了比单任务方法更好的关系抽取结果。     

多任务多层级CNN在人群计数中的应用

为了提升人群图像的计数精度,设计一种多层级多任务深度卷积网络。多层级神经网络由卷积和上采样的组合方式构成,该网络的优点在于结合浅层网络提取的细节信息和深层网络提取的高阶语义信息。在此基础上,使用多任务学习的方法提升网络性能,多任务学习分为两个部分：人群密度估计任务和人群密度等级分类任务。网络的高分辨率层与人群密度估计任务相连,网络的深层与人群密度等级分类任务相连。将两个任务的损失融合并构成新的损失函数。实验在人群计数公共数据集ShanghaiTech、WorldExpo’10和UCF_CC_50上进行,实验结果表明,该网络在人群计数上具有较好的准确率和鲁棒性。     

基于深度多任务学习的层次分类

针对现有的深度卷积神经网络往往训练平行的分类器层,很少关注类别的层次性结构,导致均衡性分类器训练难度较大的问题,提出一种结构化的深度多任务学习算法.该算法结合深度卷积神经网络与层次分类,使类别之间的结构性信息融入至深度卷积神经网络中.依托树形的类别结构设计了一个带有共享层的多分支网络结构,并使用一种关联性多任务分类器学习算法协同训练各网络分支的分类器层;为了抑制层次间的误差传播,在各分支网络的分类器层的学习过程中添加一个基于父子关系的结构化限制.采用CIFAR100和手工采集到服装数据集,在tensorflow平台上进行实验,结果表明文中算法相比于基准网络可以提高2%~4%的分类准确度.     

基于多任务联合学习的论辩挖掘

现有的论辩挖掘工作大多针对单个数据集建模,忽视数据集不同时可能存在的特征变化情况,导致模型的泛化性能较差.因此,文中提出基于多任务学习的论辩挖掘方法,将多个数据集的论辩挖掘任务进行联合学习.首先融合多个任务的输入层表示,通过卷积神经网络和高速神经网络获取词级别和字符级共享参数,联合任务相关特征输入栈式双向长短记忆网络,利用多个论辩挖掘任务之间的关联信息并行训练,最终由条件随机场得到序列标注结果.在6个不同领域的数据集上的实验表明,文中方法在Macro-F1值上有所提升,由此验证方法的有效性.     

多任务学习的车辆结构化信息提取方法

目前,大部分的车辆结构化信息需要通过多个步骤进行提取,存在模型训练繁琐、各步骤模型训练数据有限和过程误差累加等问题.为此,采用多任务学习将车辆结构化信息提取整合在统一的神经网络之中,通过共享特征提取结构,减少过程误差累加,并构建了一个多任务损失函数用于端到端训练神经网络;针对训练样本有限的问题,提出了新的数据整合和增广方法.在KITTI数据集上实验结果表明, VSENet可以达到93.82%的mAP(均值平均精度),且能达到实时的处理速度;与多阶段的车辆结构化特征提取方法对比,平均运行时间缩减了60%,其精度能达到相似或者更好的效果;实验结果表明,该方法具有一定的先进性和有效性.     

基于软参数共享的事件联合抽取方法

事件抽取是项重要的信息抽取任务,旨在抽取文本中的事件信息。目前基于多任务学习的事件联合抽取方法大多基于硬参数共享,此类方法往往会导致跷跷板现象的出现,即一项任务的性能往往通过损害另一项任务的性能来提高。为了解决这一问题,提出了一种基于软参数共享的事件联合抽取方法,该方法明确地分离了共享参数和任务特定参数,并通过双层门控网络增强模型提取和筛选语义知识的能力,使模型能同时为两个任务学习到合适的特征表示,实现了更高效的信息共享和联合表示学习。在DuEE1.0公共数据集上进行了实验,使用准确率、召回率、F1值作为评价指标,并通过对比实验和消融实验验证了方法的有效性。对比基于硬参数共享的联合抽取模型事件识别任务F1值提高了2.0%,论元角色分类任务F1值提高了0.9%,有效地缓解了跷跷板现象的出现,验证了方法的有效性。     

基于多任务学习的多姿态人脸重建与识别

针对当前人脸识别中姿态变化会影响识别性能,以及姿态恢复过程中脸部局部细节信息容易丢失的问题,提出一种基于多任务学习的多姿态人脸重建与识别方法——多任务学习堆叠自编码器（MtLSAE）。该方法通过运用多任务学习机制,联合考虑人脸姿态恢复和脸部局部细节信息保留这两个相关的任务,在步进逐层恢复正面人脸姿态的同时,引入非负约束稀疏自编码器,使得非负约束稀疏自编码器能够学习到人脸部的部分特征;其次在姿态恢复和局部信息保留两个任务之间通过共享参数的方式来学习整个网络框架;最后将重建出来的正脸图像通过Fisherface进行降维并提取具有判别信息的特征,并用最近邻分类器来识别。实验结果表明,MtLSAE方法获得了较好的姿态重建质量,保留的局部纹理信息清晰,而且与局部Gabor二值模式（LGBP）、基于视角的主动外观模型（VAAM）以及堆叠步进自编码器（SPAE）等经典方法相比,识别率性能得以提升。     

面向精准价格牌识别的多任务循环神经网络

为了促进智能新零售在线下业务场景的发展,提高作为销售关键信息价格牌的识别精度.本文对价格牌识别问题进行研究,有效地提高了价格牌的识别精度,并解决小数点定位不准确的难题.通过深度卷积神经网络提取价格牌的深度语义表达特征,将提取到的特征图送入多任务循环网络层进行编码,然后根据解码网络设计的注意力机制解码出价格数字,最后将多个分支的结果整合并输出完整价格.本文所提出的方法能够非常有效地提高线下零售场景价格牌的识别精度,并解决了一些领域难题如小数点的定位问题,此外,为了验证本文方法的普适性,在其他场景数据集上进行了对比实验,相关结果也验证了本文方法的有效性.     

基于多任务学习的多语言语音情感识别方法

由于人类情感的表达受文化和社会的影响,不同语言语音情感的特征差异较大,导致单一语言语音情感识别模型泛化能力不足。针对该问题,提出了一种基于多任务注意力的多语言语音情感识别方法。通过引入语言种类识别辅助任务,模型在学习不同语言共享情感特征的同时也能学习各语言独有的情感特性,从而提升多语言情感识别模型的多语言情感泛化能力。在两种语言的维度情感语料库上的实验表明,所提方法相比于基准方法在Valence和Arousal任务上的相对UAR均值分别提升了3.66%~5.58%和1.27%~6.51%;在四种语言的离散情感语料库上的实验表明,所提方法的相对UAR均值相比于基准方法提升了13.43%~15.75%。因此,提出的方法可以有效地抽取语言相关的情感特征并提升多语言情感识别的性能。     

异质信息网络表征学习综述

随着信息技术的快速发展,信息网络无处不在,例如社交网络、学术网络、万维网等.由于网络规模不断扩大以及数据的稀疏性,信息网络的分析方法面临巨大挑战.作为应对网络规模及数据稀疏挑战的有效方法,信息网络表征学习旨在利用网络的拓扑结构、节点内容等信息将节点嵌入到低维的向量空间中,同时保留原始网络固有的结构特征和内容特征,从而使...     

多任务网络融合多层信息的目标定位

目标定位是计算机视觉中的关键问题,针对目前区域卷积神经网络及其扩展算法的精度受限于输出卷积图尺寸、不能得到目标准确位置的问题,提出一种基于多任务卷积神经网络的目标定位算法.在特征提取阶段,不同的任务共享相同的特征提取层;然后分别针对不同层次信息训练对应的后续网络;在提取出高层和低层信息后,融合低层信息和高层信息得到准确的目标位置.在PASCAL VOC 2007数据库和交通场景数据库进行实验的结果表明,该算法可以有效地提高目标定位的精度.