基于病毒传播网络的基因序列表示学习

基因序列数据中往往存在大量的非编码和缺失序列,现有的基因序列表示大多通过人工方法对高维的基因序列进行特征提取,不仅非常耗时且成功的预测很大程度依赖于生物学知识的正确利用.基于病毒传播网络构建了一种基于图上下文信息的基因序列表示方法,对目标节点病毒序列进行编码后,使用注意力机制对其邻居节点的序列信息进行聚合,从而得到目标节点病毒序列的新的低维表示.进而依据病毒传播网络中相邻节点的基因序列相似性高于不相邻节点的特征,对基因序列表示模型进行优化,训练后得到的新的表示不仅可以有效表达基因序列的特征,同时极大地降低了序列的维度,提高了计算效率.分别在仿真病毒传播网络、新型冠状病毒和艾滋病毒传播网络数据上训练基因序列表示模型,并在相应的网络上进行未采样感染者发现任务.实验结果充分验证了模型的有效性,与其他方法的比较证明了模型的高效性,模型可以有效地在病毒传播网络上发现未采样感染者,这在流行病调查领域也具有一定的实际意义.     

基于多模态推理图神经网络的场景文本视觉问答模型

文本阅读能力差和视觉推理能力不足是现有视觉问答(visual question answering, VQA)模型效果不好的主要原因,针对以上问题,设计了一个基于图神经网络的多模态推理(multi-modal reasoning graph neural network, MRGNN)模型。利用图像中多种形式的信息帮助理解场景文本内容,将场景文本图片分别预处理成视觉对象图和文本图的形式,并且在问题自注意力模块下过滤多余的信息;使用加入注意力的聚合器完善子图之间相互的节点特征,从而融合不同模态之间的信息,更新后的节点利用不同模态的上下文信息为答疑模块提供了更好的功能。在ST-VQA和TextVQA数据集上验证了有效性,实验结果表明,相比较此任务的一些其他模型,MRGNN模型在此任务上有明显的提升。     

基于异构动态图模型的社交网络节点分类方法

在机器学习领域,与传统的神经网络相比,图神经网络在社交推荐等任务中发挥着越来越重要的作用,但是目前工作中大多数都使用静态图.针对现有静态图神经网络方法难以考虑社交用户动态特性的问题,通过引入动态图模型提出了一种基于异构动态图模型的社交网络节点分类方法.该方法在动态图建模的基础上,通过基于点边交互的节点特征更新机制和基于循环神经网络的时序聚合方法,实现了高效的动态社交网络节点分类.在多个真实数据集上的实验结果表明,提出方法在动态社交网络数据的节点分类方面有较好的效果,对比静态图和动态图的基准方法有显著的提升.     

民航旅客行程状态推断方法研究

现有的民航旅客行程状态推断的相关方法不能对旅客历史行为序列中远距离项的依赖关系建模,且忽略了行程子结构,为此提出一种新的模型来推断旅客行程状态。首先通过图神经网络挖掘出行序列任意机场间的转移模式;其次,构造层次注意力依次在机场级别和行程级别捕获旅客的短期和长期出行偏好;最后融合旅客的短期和长期出行偏好进行分类。实验结果表明,图神经网络的消息传递机制突破了距离的限制,有效捕获了旅客出行序列中任意机场间复杂的关系,模型在多项性能指标上效果很好,构建的图神经网络和注意力机制结合的方法可获得更好的性能;另外,结合实际的应用场景,融入了额外的特征进行信息补充取得了更好的推断效果。     

多视图对比增强的异质图结构学习方法

异质图神经网络作为一种异质图表示学习的方法,可以有效地抽取异质图中的复杂结构与语义信息,在节点分类和连接预测任务上取得了优异的表现,为知识图谱的表示与分析提供了有力的支撑.现有的异质图由于存在一定的噪声交互或缺失部分交互,导致异质图神经网络在节点聚合、更新时融入错误的邻域特征信息,从而影响模型的整体性能.为解决该问题,本文提出了多视图对比增强的异质图结构学习模型.该模型首先利用元路径保持异质图中的语义信息,并通过计算每条元路径下节点之间特征相似度生成相似度图,将其与元路径图融合实现对图结构的优化.通过将相似度图与元路径图作为不同视图进行多视图对比,实现无监督信息的情况下优化图结构,摆脱对监督信号的依赖.最后,为解决神经网络模型在训练初期学习能力不足,生成的图结构中往往存在错误交互的问题,本文设计了一个渐进式的图结构融合方法.通过将元路径图和相似度图递增地加权相加,改变图结构融合过程中相似度图所占的比例,在抑制了因模型学习能力弱引入过多的错误交互的同时,达到了用相似度图中的交互抑制原有干扰交互或补全缺失交互的目的,实现了对异质图结构的优化.本文选择节点分类与节点聚类作为图结构学习的验证任务,在四种真实异质网络数据集上的实验结果证明了本文的异质图结构学习方法可行且有效.与最优对比模型相比,本文模型在两种任务下的性能均有显著提升.     

融合全局和近邻协同信息的会话推荐算法

现有基于会话的推荐算法主要通过挖掘单个目标会话的项目转换关系进行推荐，对来自其他不同会话中项目之间的复杂转换信息考虑较少。为此，提出一种融合全局和近邻协同信息的会话推荐算法SFGN-GNN，同时考虑来自全局与近邻会话的协同信息，以充分挖掘用户偏好。通过学习会话表示来表达用户偏好，先按目标会话与近邻会话的成对项目转移关系构建近邻图，依据所有会话中的成对项目转移关系构建全局图，再利用图神经网络获取目标会话节点近邻级和全局级的项目表示，采用融合门融合得到会话级项目表示，并在其中嵌入项目在目标会话中的位置信息和时间信息，然后通过软注意力机制得到最终的会话表示，最后经过softmax函数预测下一个可能交互的项目。在两个数据集上的实验验证了SFGN-GNN算法有效性。     

基于图神经网络的汉语依存分析和语义组合计算联合模型

组合原则表明句子的语义由其构成成分的语义按照一定规则组合而成,由此基于句法结构的语义组合计算一直是一个重要的探索方向,其中采用树结构的组合计算方法最具有代表性。但是该方法难以应用于大规模数据处理,主要问题是其语义组合的顺序依赖于具体树的结构,无法实现并行处理。该文提出一种基于图的依存句法分析和语义组合计算的联合框架,并借助复述识别任务训练语义组合模型和句法分析模型。一方面,图模型可以在训练和预测阶段采用并行处理,极大地缩短计算时间;另一方面,联合句法分析的语义组合框架不必依赖外部句法分析器,同时两个任务的联合学习可使语义表示同时学习句法结构和语义的上下文信息。我们在公开汉语复述识别数据集LCQMC上进行评测,实验结果显示准确率接近树结构组合方法,达到79.54%,预测速度最高可提升30倍以上。     

用于深度学习训练加速的自适应框架设计

用FPGA加速深度学习算法的训练过程通常需要较长的开发周期和丰富的硬件设计经验.为了应对这一挑战,设计了一种基于自适应模板技术的深度学习算法训练加速框架,在应用规模、并行调度策略、资源使用和功能扩展上进行了深入的研究并提出了相应的优化策略.采用CPU-FPGA异构加速模板技术,提出了自适应的上层模型编译框架实现与不同硬件加速资源的适配.这种基于定制模板的软硬件协同设计可以很好地适配不同的FPGA芯片并支持算法的快速迭代.用图神经网络算法数据进行加速对比实验,实现了与CPU相比7～41倍的速度提升.     

基于图神经网络的联合用户调度与波束成形优化算法

协作多点（Co MP）传输技术具有降低同频干扰和提高频谱效率的特点。对于Co MP，用户调度与波束成形是2个分别位于媒体访问接入层和物理层的基本研究问题。在考虑用户服务质量需求下，重点研究用户调度与波束成形的联合优化问题，并以网络吞吐量最大化为目标。为了克服传统优化算法计算开销大且未有效利用网络历史数据信息的问题，提出了一种基于图神经网络联合用户调度与功率分配模型，并结合波束向量的解析公式，以实现联合用户调度与波束成形优化。仿真分析表明，所提算法能够以较低的计算开销实现与传统优化算法相匹配，甚至更优的性能表现。