图卷积融合计算时效网络节点重要性评估分析

复杂网络节点的重要性度量与时间属性相关，经典静态网络模型弱化对节点交互时间属性的有效表征.将深度学习模型迁移到动态图数据上进行端到端系统建模，提出基于图卷积融合计算的时效网络节点重要性综合评估模型.通过超邻接矩阵集结时效网络结构特征的动态演化过程，利用图卷积神经网络框架融合计算节点邻域特征，分析节点时序演化重要性顺序结构，实现节点重要性综合排序.仿真实验结果表明，与基线方法相比，所提方法得到的Kendall’sτ值在所选网络数据集上均表现优良，体现出基于图卷积融合计算的时效网络节点重要性综合评估方法的有效性和优越性.     

融合文本信息的轻量级图卷积网络推荐模型

在基于图卷积网络的推荐模型中,图卷积对仅包含编号信息的输入节点进行信息聚合会引发严重的瓶颈问题,影响推荐精度.为缓解此问题,考虑通过辅助信息丰富节点特征,提出了一种融合文本信息的轻量级图卷积网络推荐模型.模型把卷积神经网络提取出文本评论特征添加到图的节点嵌入中.为了简化图卷积网络结构,采用轻量级图卷积框架将融合的特征信息在用户-电影项目图上线性传播来学习用户和电影项目的嵌入,并将所有图卷积子层上特征嵌入的加权总和作为最终特征输出,用于预测评分.3个实际数据集上的实验结果表明,该方法可以缓解信息聚合瓶颈问题,提高推荐的准确度,并且模型可以缓解推荐中的冷启动问题.     

基于张量分解理论的车道级交通流数据修复算法

为减少数据缺失对交通流量预测、高级驾驶辅助、交通状态估计等应用的影响,提升交通流数据质量,提出一种基于自适应秩Tucker分解的插补方法(ARTDI)用于多车道交通流数据修复。将多车道交通流数据表征为张量模式,以充分利用交通流时空特性。通过张量Tucker分解构建修复目标函数,并利用动量梯度下降法求解。本文采用北京快速路多断面车道交通流速度数据构建完全随机缺失、随机缺失、混合缺失3种缺失模式进行算法验证,实验结果显示,ARTDI算法在3种缺失类型下对3个断面数据修复的平均绝对百分误差(MAPE)分别为11.67%、12.03%、11.89%。此外,随着数据缺失率的增长,ARTDI模型在不同缺失模式下的修复精度均优于对比模型,并且修复误差无显著增长,体现出ARTDI模型良好的稳定性和适用性。     

多信息融合的时空图卷积交通流量预测模型

为了深入挖掘交通流量的时空特征以提高预测精度，提出改进的融合距离与周期性因素的多信息融合的时空图卷积门控神经网络.将路网中各个路段作为节点并根据路段间邻接关系建立路网图结构；考虑路段间距离对空间相关性的影响，计算路段之间的空间影响度大小，给予图邻接矩阵不同的权重.在模型构建中，设计空间图卷积模块与时间序列预测模块；通过空间图卷积模块提取空间特征信息，并将提取的空间特征信息与交通流量周期序列信息相融合，传入时间序列预测模块；重新设计门控循环单元（GRU）的门控机制算法达到多源信息共同输入的目的，最终得到预测输出.实验在真实的公路交通流量PEMS数据集上进行多时段测试，结果表明，与目前基于图卷积的预测方法相比，所设计的模型预测误差更低，预测性能更优.     

基于图卷积网络的交通预测综述

交通预测是智能交通系统中的关键问题之一,精准的交通预测对于城市交通运营调整、物流运输产业提质增效以及公众出行规划等交通需求具有重要作用.近年来,多种用于解决交通预测问题的深度学习的框架已经被提出,其中图卷积网络(graph convolutional network,GCN)及其变体在各类交通预测模型中脱颖而出,取得了可观的准确率.因此,对基于GCN的交通流预测模型进行归纳总结,从图卷积的基本定义出发,以频域图卷积和空域图卷积为主,介绍GCN的基本原理.随后,通过对图时空网络、图自编码器以及图注意力网络的介绍,阐明该领域模型的发展历程,分类综述不同预测模型的结构及特点.在介绍常用交通预测数据集的基础上,以应用研究、模型研究以及多源数据融合为切入点,探讨了未来该领域的研究方向.     

用于交通流预测的自适应图生成跳跃网络

针对交通流数据复杂的时空相关性,提出新的基于深度学习的自适应图生成跳跃网络（AG-JNet模型）. 该模型由2个时空模块组成,每个时空模块分为2支,分别对时间相关性和空间相关性建模. 时间建模采用多层扩张卷积,在增大时间维度感受野的同时降低计算开销. 空间建模采用自适应图生成卷积,在不依赖图的固定结构下提取空间相关性. 在时间和空间的建模中均采用跳跃连接堆叠多层,以提升模型的深层特征提取能力,将时间特征和空间特征进行门控融合,提取出用于交通流量预测的时空特征. 在2个真实数据集PeMSD4和PeMSD8上的实验表明,AG-JNet在不同指标下取得了优异的性能.     

一种融合纵横时空特征的交通流预测方法

针对现有城市道路交通流预测研究中,上下游交通流时滞特性与空间流动特性挖掘不足、车道级交通流时空特性考虑不充分的问题,提出一种融合纵横时空特征的交通流预测方法。首先,通过计算延迟时间量化并消除上下游交通流断面间的空间时滞影响,增强上下游交通流序列的时空相关性。其次,将消除空间时滞的交通流通过向量拆分数据输入方式传入双向长短时记忆网络,用以捕捉上下游交通流纵向的传递与回溯双向时空关系,同时利用多尺度卷积群挖掘待预测断面内部各车道交通流间多时间步横向时空关系。最后,采用注意力机制动态融合纵横时空特征得到预测输出值。实验结果表明,相较于常规时间序列预测模型,所提方法在单步预测实验中,平均绝对误差、均方根误差分别下降了约15.26%、13.83%,决定系数提升了约1.25%。在中长时多步预测实验中,进一步证明了所提方法可有效挖掘纵横向交通流的细粒化时空特征,并具有一定的稳定性和普适性。     

基于图卷积神经网络的城市交通态势预测算法

为了实时准确地预测城市交通流量,提高城市交通态势感知和预测准确度,提出一种改进的时空图卷积深度神经网络算法：基于自由流动可达矩阵的时空图卷积深度神经网络（FAST-GCN）. 利用图卷积神经网络有效表达城市复杂路网的结构特性,引入自由流动可达矩阵来挖掘复杂路网的时空依赖性,从而提高交通态势预测准确度;对交通流速及站点地理位置数据进行数据预处理;在现有的时空图卷积深度神经网络算法的基础上,增加基于自由流动可达矩阵的图卷积模块,以有效挖掘城市交通路网的独特空间特征;通过一个全连接的输出层输出交通流预测结果;在真实世界数据集PeMS上对算法效果进行验证. 结果表明,采用提出的FAST-GCN算法能够有效获取交通路网独特的物理特性,从而捕获交通数据的时空依赖性,优于时空图卷积（STGCN）等基线算法,其在45 min的预测准确率最好可提高5.656%;相比基线模型,所提算法能够适应大规模路网的交通流预测,且具有可扩展性.     

融合图增强和采样策略的图卷积协同过滤模型

现有的基于图卷积网络（GCNs）的协同过滤（CF）模型存在两大问题，大多数原始图因存在噪声及数据稀疏问题会严重损害模型性能；对于大型用户项目图来说，传统GCN中的显式消息传递减慢了训练时的收敛速度，削弱了模型的训练效率.针对上述2点，提出融合图增强和采样策略的图卷积协同过滤模型（EL-GCCF）.图初始化学习模块通过生成2种图结构，综合考虑图中的结构和特征信息，对原始图进行增强，有效缓解了噪声问题.通过多任务的约束图卷积跳过显式的消息传递，利用辅助采样策略有效缓解训练中的过度平滑问题，提高了模型的训练效率.在2个真实数据集上的实验结果表明，EL-GCCF模型的性能优于众多主流模型，并且具有更高的训练效率.     

基于自注意力与图卷积网络的方面级情感分析

针对以往大多数方面级情感分析研究中方面词与上下文交互信息缺失,无法充分利用语义信息等问题,提出一种基于自注意力与图卷积网络结合的方面级情感分析模型。为了提高模型的语义表示能力,一方面利用多头自注意力机制,获取文本长距离依赖关系,与依存关系类型矩阵结合,计算融合位置信息和关系类型信息的权重矩阵,输入图卷积网络获取文本特征表示;另一方面设计了文本-方面注意力层,增强方面与上下文的交互,输入图卷积网络获取方面特征表示;最后连接2个向量,完成情感分析任务。在2个开放数据集中,所提模型的整体性能优于其他对比模型。     

一种用于交通预测的注意力时空图神经网络

城市化的发展使得交通预测在交通规划和城市管理等应用中发挥着重要作用。然而在交通预测任务中,捕获交通数据的高度非线性和复杂的时空依赖关系仍具有很大的挑战性。为了更好地捕获交通数据的时间依赖性和全局空间相关性以及同时满足长期和短期的预测任务,设计了一种用于交通预测的注意力时空图神经网络。首先通过引入注意力机制来调整邻近道路与非邻近道路的重要性,整合全局空间信息;然后再通过图卷积网络和带有扩展因果卷积的门控线性单元来共同捕获时空相关性。在两个真实数据集PeMSD7(M)和PEMS-BAY上的实验结果表明,该网络模型可以较大地提高短期和长期的交通预测精度。     

基于知识增强的图卷积神经网络的文本分类

针对文本分类问题,提出新的基于知识增强的图卷积神经网络（KEGCN）分类模型. KEGCN模型在整个文本集上构建了一个包含单词节点、文档节点、外部实体节点的文本图,不同类型节点之间使用不同的相似性计算方法;在文本图构建完成后将其输入到2层图卷积网络中学习节点的表示并进行分类. KEGCN模型引入外部知识进行构图,捕获长距离不连续的全局语义信息,是第1个将知识信息引入图卷积网络进行分类任务的工作. 在4个大规模真实数据集20NG、OHSUMED、R52、R8上进行文本分类实验,结果表明,KEGCN模型的分类准确率优于所有的基线模型. 将知识信息融入图卷积神经网络有利于学习到更精准的文本表示,提高文本分类的准确率.     

基于内外卷积网络的网络入侵检测

网络入侵检测通过分析流量特征来区分正常和异常的网络行为以实现入侵流量的检测,是网络安全领域的重要研究课题.针对已有入侵检测模型特征提取过程复杂、信息提取不足等问题,提出了一种基于内外卷积网络的入侵检测模型.首先使用一维卷积神经网络提取流量数据的内部特征,然后通过对内部特征计算相似度建模得到无向同质图,此外将流量在外部网络侧的通信行为建模为有向异质图,并对两图使用图卷积网络学习包含网络流量多种交互行为的嵌入向量,最后将学习到的流量嵌入向量输入到分类器中用于最终的分类.实验结果表明,所提模型的检测准确率和误报率均优于对比模型.     

基于特征选择和时间卷积网络的工业控制系统入侵检测

针对工业控制系统流量数据存在特征冗余及深度学习模型对较小规模数据集检测能力较差的问题,提出了一种基于特征选择和时间卷积网络的工业控制系统入侵检测模型。首先,对源域数据集的异常特征和样本不平衡数据进行处理,提高源域数据集质量。其次,针对流量数据的特征冗余,利用信息增益率和主成分分析法构建IGR-PCA特征选择算法,筛选出最优特征子集实现数据降维。然后,根据工业控制系统流量数据的时间序列特性,在较大规模的源域数据集上,利用时间卷积网络（temporal convolution network,TCN）对时间序列数据优异的处理能力,构建源域时间卷积网络预训练模型。最后,在较小规模的目标域数据集上,结合迁移学习（transfer learning,TL）微调策略,获取源域样本数据的流量特征,构建目标域TCN-TL模型。利用公开的工业控制系统数据集进行实验测试,实验结果表明：流量数据经本文特征算法处理后,相较于其他方法,在降低数据维度减少计算量的同时仍具有良好的检测效果;在较大规模的源域数据集和较小规模的目标域数据集上,本文模型均取得了良好的检测效果,在目标域中利用迁移学习微调策略能够学习到源域中的知识,模型检测准确率为99.06%,在训练时间对比中,本文模型训练时间消耗更少,具有更好的泛化能力,能够更好地保护工业控制系统安全。     

基于CNN-ResNet-LSTM模型的城市短时交通流量预测算法

针对交通流量特性和外部因素对交通流量预测结果的影响,提出了一种对城市短时交通流量预测的模型CNN-ResNet-LSTM,将卷积神经网络（CNN）、残差神经单元（ResNet）和长短期记忆循环神经网络（LSTM）集成到一个端到端的网络框架.利用卷积神经网络来捕获城市区域间交通流量的局部空间特征,并在卷积神经网络中加入多个残差神经单元来加深网络深度,可提高预测的准确性;利用长短期记忆循环神经网络来捕获交通流量数据的时间特征;利用相应的权重将2个网络的输出结果融合,得到通过轨迹数据预测的结果;最后与外部因素融合,得到城市区域的交通流量预测值.用北京市轨迹交通数据对该模型进行验证,CNN-ResNet-LSTM模型不仅在准确率方面比传统模型高,而且在保证预测准确率的情况下,模型使用的参数也少.     

基于SVM与自适应时空数据融合的短时交通流量预测模型

针对短时交通流变化周期性与随机性特点,选取时间和空间序列流量观测值作为支持向量机训练样本进行训练,使用空间序列预测值对交通流时间序列预测结果进行修正,并通过对历史时间空间序列预测结果的分析,动态调整其对未来预测的影响,建立基于SVM与自适应时空数据融合的短时交通流量预测模型.最后,将提出的预测模型与支持向量机时间序列预测模型、指数平滑法、多元回归法预测结果进行对比,结果表明:自适应时空数据融合预测模型可将预测平均相对误差控制在4%,明显高于其他模型预测精度.     

拥挤流状态下城市快速路交通流时空特性

为了定量分析拥挤流状态下城市快速路交通流时间和空间特性,首先采用自相关函数法判断交通流率、占有率和速度时间序列的平稳性;其次,研究拥挤流状态下交通流参数空间传递特性;最后,基于混沌分析中的G-P算法建立模型将非平稳的交通流参数时间序列转化为平稳时间序列.研究表明:拥挤流状态下,交通流率表征为平稳的时间序列,速度和占有率属于非平稳时间序列;空间上,上游断面对下游断面的速度参数具有传递作用,下游断面的速度参数对上游具有回溯影响,当时间延迟为2 min时,取嵌入维为4进行相空间重构,可将速度时间序列转化为平稳的时间序列.     

Spatio-Temporal Cellular Network Traffic Prediction Using Multi-Task Deep Learning for AI-Enabled 6G

Spatio-temporal cellular network traffic prediction at wide-area level plays an important role in resource reconfiguration, traffic scheduling and intrusion detection, thus potentially supporting connected intelligence of the sixth generation of mobile communications technology (6G). However, the existing studies just focus on the spatio-temporal modeling of traffic data of single network service, such as short message, call, or Internet. It is not conducive to accurate prediction of traffic data, characterised by diverse network service, spatio-temporality and supersize volume. To address this issue, a novel multi-task deep learning framework is developed for citywide cellular network traffic prediction. Functionally, this framework mainly consists of a dual modular feature sharing layer and a multi-task learning layer (DMFS-MT). The former aims at mining long-term spatio-temporal dependencies and local spatio-temporal fluctuation trends in data, respectively, via a new combination of convolutional gated recurrent unit (ConvGRU) and 3-dimensional convolutional neural network (3D-CNN). For the latter, each task is performed for predicting service-specific traffic data based on a fully connected network. On the real-world Telecom Italia dataset, simulation results demonstrate the effectiveness of our proposal through prediction performance measure, spatial pattern comparison and statistical distribution verification.