基于依存关系图注意力网络的SQL生成方法

研究基于自然语言问题的结构化查询语言(SQL)生成问题(Text-to-SQL).提出两阶段框架,旨在解耦模式链接和SQL生成过程,降低SQL生成的难度.第1阶段通过基于关系图注意力网络的模式链接器识别问题中提及的数据库表、列和值,利用问题的语法结构和数据库模式项之间的内部关系,指导模型学习问题与数据库的对齐关系.构建问题图时,针对Text-to-SQL任务的特点,在原始句法依存树的基础上,合并与模式链接无关的关系,添加并列结构中的从属词与句中其他成分间的依存关系,帮助模型捕获长距离依赖关系.第2阶段进行SQL生成,将对齐信息注入T5的编码器,对T5进行微调.在Spider、Spider-DK和Spider-Syn数据集上进行实验,实验结果显示,该方法具有良好的性能,尤其是对中等难度以上的Text-to-SQL问题具有良好的表现.     

基于关系聚合的时序知识图谱表示学习

针对静态知识图表示方法不能对时间进行建模的局限性,从时序图谱实际应用的需求出发,设计了基于关系聚合的时序图谱表示学习方法来描述和推理动态知识图谱的时间信息.与离散的快照时序网络不同,将时间信息视为实体间的链接属性,提出利用时间感知的关系图注意力编码器来学习时序图谱的实体表征.将中心节点的邻域关系和时间戳融入图结构中,然后分配不同的权重,高效地聚合时间知识.在公开的时序知识图谱数据集上运行,结果表明,与传统的时序图谱编码框架相比,面向注意力聚合的时序图谱表示学习方法在补全和对齐任务的性能上都有较强的竞争优势,尤其对高时间敏感度实体更加显著,体现出算法的优越性和强鲁棒性.     

交通流量预测的时间异质性图注意力网络

采用注意力模型研究交通流量预测问题,提出并设计一种基于时间异质性结合噪声滤除的交通流量预测方法,有效预测美国加州高速公路未来1 h的交通流量。在构建预测方案过程中,分析交通流量数据特性,分别针对相对时间间隔和绝对时间进行建模,挖掘时间异质性;使用基于节点固有属性的动态噪声滤除方法,解决空间中噪声干扰问题;对预测模型的工作性能和结果进行详细分析,并结合基线模型进行对比评价。试验结果表明,挖掘时间异质性并动态滤除噪声的改进注意力机制预测模型具有一定的预测精度。     

基于注意力机制的生成对抗网络古诗插图生成方法

古诗插图自动生成是非常具有挑战性的任务。提出了一种新的方法,通过使用注意力机制的生成对抗网络,输入古诗文字和草绘图,经由网络输出古诗插图。该模型在利用编码与解码的图片生成结构的同时,结合注意力机制,将图像色彩及轮廓特征进行了提取,生成器中加入了残差网络模块,增加了网络深度,同时提高了网络模型的效果,最终生成图像质量更高的古诗插图。实验结果表明,所提方法相较于对比方法,在图像质量和色彩渲染方面均有优势,输入的古诗和草图经过网络模型,生成了较为符合古诗意境的插图。     

图注意力模式下融合高精地图的周车轨迹预测

为了准确、合理地预测车辆未来轨迹并且理解周围交通流的变化,提出了一种图注意力模式下融合高精地图的轨迹预测方法。设计了基于长短期记忆（LSTM）网络的编码-解码框架,建立了以车辆历史状态和高精地图信息为输入的模型结构,提出了结合车辆局部特征和全局特征的图查询机制输出车辆预测轨迹。在公开数据集nuScenes上的实验结果表明,该模型的综合预测性能优于Traj++、CoverNet等其他先进方法,且具有良好的抗干扰性。     

信息融合相似性算法下的虚拟社区链接预测

针对传统的基于节点相似性的链接预测方法存在链接预测指标仅考虑网络结构信息或者节点属性信息,以及链接预测指标静态处理节点之间关系的问题,提出了一种基于信息融合相似性算法的链接预测指标（similarity based on network evolution and user generated content , SNEUGC）,该指标结合用户生成内容信息和网络演化信息对含权网络进行链接预测,以解决现有链接预测指标在含权网络环境下链接预测准确率低的问题。实验证明,该方法的准确率达到了80％,具有一定的可行性。     

融合知识图谱的推荐系统研究进展

针对推荐系统存在的数据稀疏、冷启动、推荐可解释性低、个性化不足等问题,分析知识图谱在推荐系统中的融入情况.从推荐系统的需求、知识图谱的相关概念、推荐系统与知识图谱的融合方式3个方面,对当前推荐系统存在的问题及推荐系统融合知识图谱后的解决方案进行概括.总结近年来通过结合注意力机制、神经网络、强化学习方法,采用取舍节点、整合节点、探索路径等原理充分利用知识图谱中复杂结构信息,从而提升推荐系统满意度.提出融合知识图谱的推荐系统所面临的知识图谱完备性、动态性、高阶关系可利用度以及推荐性能方面的挑战及未来可能的发展方向.     

用于交通流预测的自适应图生成跳跃网络

针对交通流数据复杂的时空相关性,提出新的基于深度学习的自适应图生成跳跃网络（AG-JNet模型）. 该模型由2个时空模块组成,每个时空模块分为2支,分别对时间相关性和空间相关性建模. 时间建模采用多层扩张卷积,在增大时间维度感受野的同时降低计算开销. 空间建模采用自适应图生成卷积,在不依赖图的固定结构下提取空间相关性. 在时间和空间的建模中均采用跳跃连接堆叠多层,以提升模型的深层特征提取能力,将时间特征和空间特征进行门控融合,提取出用于交通流量预测的时空特征. 在2个真实数据集PeMSD4和PeMSD8上的实验表明,AG-JNet在不同指标下取得了优异的性能.     

基于属性权重更新网络的跨语言实体对齐方法

跨语言知识图谱中属性数量庞大且重复率低导致对齐任务中属性信息难以高效嵌入。针对上述问题,提出了一种基于属性权重更新网络的跨语言实体对齐模型。为了高效地实现属性信息的嵌入,通过一个构造器利用实体嵌入来近似地构造属性的嵌入,避免了属性嵌入的单独训练;基于不同属性对实体对齐贡献不同的事实,采用了一种基于图注意力网络的属性权重更新模块,可以在训练过程中利用注意力得分不断更新每个属性的权重;通过一个属性聚合模块将属性嵌入和属性权重信息聚合到实体嵌入中,强化了实体的嵌入表示,从而提升了实体对齐的效果。提出的模型在3个跨语言数据集的实验结果显示Hits@1评价指标分别为0.751,0.805和0.915,对齐效果均优于目前主流的实体对齐方法。     

癫痫病相关论文多模态知识图谱的构建初探

癫痫病相关论文缺乏命名实体识别和关系抽取任务的标注数据,命名实体识别和关系抽取模型无法用常规方法训练。为解决该问题,针对癫痫病相关论文的数据特点,改进了命名实体识别和关系抽取模型,提出利用相近领域的医疗数据和预训练模型构建零资源癫痫病领域命名实体识别和关系抽取模型。评估了现有无监督和半监督模型在癫痫病领域论文数据集上的性能,并针对数据集特征引入域对抗网络和关系判别器,有效地提高了命名实体识别和关系抽取模型的性能。将癫痫患者的脑电特征以视觉模态嵌入知识图谱中,在提高脑电分析可解释性的同时,构建了更加直观的多模态知识图谱。     

图卷积神经网络行人轨迹预测算法

针对行人轨迹预测任务中行人间的交互模式难以被有效构建的问题,提出了一种基于图卷积神经网络的算法TP-GCN来建立行人交互模型并进行轨迹预测.首先对行人的轨迹序列使用长短期记忆网络提取轨迹运动特征;随后将行人视为图结构中的顶点,创建表示相互关系的邻接矩阵,并根据视觉盲区范围筛除无关顶点间的连接权重;然后对于轨迹运动特征,...     

基于LDA主题模型的社会网络链接预测

针对传统社会网络链接预测方法忽视节点文本内容的问题,提出一种基于潜在狄利克雷分配(Latent Dirichlet Allocation, LDA)主题模型的协作演化链接预测算法。算法利用LDA模型,对节点的文本内容进行分析,提取出每个节点的主题分布向量,利用分布向量的点积来衡量节点文本的相似性;然后将节点文本内容相似性矩阵与节点邻接矩阵相加,在此基础上计算节点之间的相似性;最后选取相似性最高的k个节点作为预测结果。实验结果表明该算法在网络图稀疏的情况下有较好的效果。     

一种用于交通预测的注意力时空图神经网络

城市化的发展使得交通预测在交通规划和城市管理等应用中发挥着重要作用。然而在交通预测任务中,捕获交通数据的高度非线性和复杂的时空依赖关系仍具有很大的挑战性。为了更好地捕获交通数据的时间依赖性和全局空间相关性以及同时满足长期和短期的预测任务,设计了一种用于交通预测的注意力时空图神经网络。首先通过引入注意力机制来调整邻近道路与非邻近道路的重要性,整合全局空间信息;然后再通过图卷积网络和带有扩展因果卷积的门控线性单元来共同捕获时空相关性。在两个真实数据集PeMSD7(M)和PEMS-BAY上的实验结果表明,该网络模型可以较大地提高短期和长期的交通预测精度。     

基于图神经网络的地表水水质预测模型

针对水质数据在时间和空间维度上的复杂依赖关系,提出基于图神经网络（GNN）的地表水水质预测模型. 该模型采用GNN建模地表水水质监测站点在空间上的复杂依赖关系,使用长短时记忆网络（LSTM）建模水质指标序列在时间上的复杂依赖关系,将编码结果输入到解码器中得到预测输出. 实验结果表明,与时间序列分析方法、通用回归方法和一般深度学习方法相比,该模型能够实现23.3%、26.6%和14.8%的性能提升.     

基于图论的视觉注意模型

为了模拟人眼的视觉搜索结果,提出了一种基于图论的自底向上的视觉注意计算模型.在计算显著图的过程中,构造了马尔可夫矩阵并计算图中每个顶点的度.由马尔可夫矩阵和度的计算提取出图像在颜色、亮度和方向3个特征方面显著的区域,最后生成显著图.实验仿真结果表明:与部分的视觉注意模型相比,本文模型具有目标检测能力强和计算量小的优点     

基于SK注意力残差网络的水下图像增强

针对水下图像颜色失真、关键信息模糊和细节特征丢失的问题,提出一种基于SK注意力残差网络的水下图像增强方法.该方法通过改进生成对抗网络中的生成器结构,引入残差模块,减少编码器和解码器之间的特征丢失,增强了图像细节和颜色.为了使网络能适应不同尺度的特征图提取图像关键信息,该方法在残差模块后添加SK注意力机制,采用参数修正线性单元来提高网络的拟合能力.将本文方法分别在真实和合成的水下图像数据集中进行验证,采用传统方法和深度学习的方法进行主客观评价.在主观效果分析中发现,本文方法增强后的图像颜色、关键信息和细节特征都有很大提升.在客观评价指标中发现,本文方法指标值均高于现有的水下图像增强算法,验证了该算法的有效性.     

基于Transformer和知识图谱的新闻推荐新方法

为了增加新闻推荐的辅助信息并提高预测精度,提出基于Transformer和知识图谱的新闻推荐方法.为了结合新闻语义信息和实体信息,利用自注意力机制获取新闻单词之间和新闻实体之间的联系,采用加法注意力机制捕捉单词和实体对新闻表示的影响.考虑到用户对新闻的偏好具有时序性特点,引入Transformer以捕捉用户点击新闻间的关联信息及用户兴趣随时间的变化情况.利用知识图谱中的高阶结构信息,融合候选新闻邻接实体,提升候选新闻嵌入向量所含信息的完整性.在2个版本的MIND新闻数据集上与5个典型推荐方法的对比实验表明,注意力机制、Transformer和知识图谱的引入提高了算法在新闻推荐方面的表现.     

融合残差块注意力机制和生成对抗网络的海马体分割

研究一种基于改进的生成对抗网络的深度学习方法对海马体进行分割。提出不同的卷积配置,以捕获由分割网络获得的信息。提出以Pixel2Pixel为基本架构的生成对抗网络模型,生成模型结合残差网络以及注意力机制的编解码结构以捕获更多细节信息。判别网络采用卷积神经网络对生成模型的分割结果和专家分割结果进行判别。经过生成模型和对抗模型不断地传递其损失,使生成模型达到分割海马体的最优状态。使用来自ADNI数据集130名健康受试者的T1加权MRI扫描和相关海马标签作为训练和测试数据,以相似度系数作为评价指标,准确率达到89.46%。试验结果表明,该网络模型可以实现高效地自动分割海马体,对于阿尔茨海默症等疾病的正确诊断具有重要的现实意义。     

融合残差块注意力机制和生成对抗网络的海马体分割

研究一种基于改进的生成对抗网络的深度学习方法对海马体进行分割。提出不同的卷积配置,以捕获由分割网络获得的信息。提出以Pixel2Pixel为基本架构的生成对抗网络模型,生成模型结合残差网络以及注意力机制的编解码结构以捕获更多细节信息。判别网络采用卷积神经网络对生成模型的分割结果和专家分割结果进行判别。经过生成模型和对抗模型不断地传递其损失,使生成模型达到分割海马体的最优状态。使用来自ADNI数据集130名健康受试者的T1加权MRI扫描和相关海马标签作为训练和测试数据,以相似度系数作为评价指标,准确率达到89.46%。试验结果表明,该网络模型可以实现高效地自动分割海马体,对于阿尔茨海默症等疾病的正确诊断具有重要的现实意义。     

基于生成对抗网络的偏转人脸转正

为了提高偏转人脸转正的效果,借鉴双通道生成对抗网络（TP-GAN）双通道生成的思想,将原始网络中的深度卷积生成对抗网络（DCGAN）替换成边界均衡生成对抗网络（BEGAN）. 在传统两者对抗的网络结构中加入判别人脸身份的分类器,形成三者对抗的网络结构. 经实验对比可知,与在生成器损失函数中添加约束相比,结构上加入分类器对人脸身份一致性的保持更加有效. TP-GAN存在训练复杂、模式崩溃等难题,使用BEGAN的网络结构,可以避免这些问题,提高训练效率. 在Multi-PIE数据集及LFW上的实验结果表明,利用提出的方法能够高效地生成高质量的正面人脸图片,且保留人脸的身份特征.