面向图卷积神经网络的FPGA部署及加速研究

图卷积神经网络（GCN）算法在处理图结构数据任务中取得了突破性的成功,然而训练图卷积神经网络需要大量的内存空间及多次的随机内存访问等,这限制该算法的进一步部署应用。现有图卷积神经网络的部署及加速方案大多基于VitisHLS工具,该工具利用C/C++进行开发,几乎没有采用硬件描述语言的方案,存在软硬件加速不彻底问题。针对上述问题,设计一种面向GCN的FPGA部署及加速架构。该架构主要由计算模块和存储模块构成,两者都是利用硬件描述语言实现。计算模块主要是用硬件描述语言来实现图卷积神经网络的关键算法,即将图卷积神经网络的关键算法映射到现场可编程门阵列中以实现硬件加速;缓存模块主要是调用ROM IP核以及定义二维寄存器组,对输入节点特征、归一化后的邻接矩阵、各个层的量化参数以及中间变量进行存储,从而提高GCN算法的并行度。首先在Pycharm平台上进行模型训练并提取参数进行量化,然后在Vivado平台上对图卷积神经网络进行设计和仿真测试,对比CPU、GPU的运算性能。实验结果表明,所设计的图卷积神经网络加速架构提升了模型的推理速度。     

基于GCN-LSTM的频谱预测算法

无线频谱是一项重要的、难以再生的自然资源。在频谱数据中随着信道的动态变化，各个信道不能建模成规则的结构。由于卷积神经网络提取的是规则数据结构的相关性，没有考虑信道动态变化以及各个信道节点之间的相关性影响，基于此研究了基于图卷积神经网络(Graph Convolutional Network, GCN)和长短期记忆(Long Short-Term Memory, LSTM)网络结合的GCN-LSTM频谱预测模型，并且引入了注意力机制，仿真得到了GCN-LSTM在正确数据集和有一定错误数据的数据集上的预测性能和算法运行时间。结果表明在引入注意力机制后，GCN-LSTM预测模型的准确性和实时性都得到了提高。     

基于图神经网络的SDON性能预测模型

网络性能预测是实现软件定义光网络(SDON)高效网络管理的关键,但目前亟需一种能够以较低成本准确预测关键指标的网络性能预测模型。提出一种基于图神经网络的SDON性能预测模型,该模型将Bi GRU和Self-Attention机制相结合,能够学习网络拓扑、路由和流量矩阵之间的复杂关系,从而准确地估计网络中源/目的地的分组延迟、抖动以及丢包率,并且可以应用于训练中未遇到的网络。实验结果表明,在不同流量模型测试中,所提模型相较于基线模型的平均绝对百分比误差(MAPE)性能有明显提升。     

边缘网络中一种VNF需求预测方法

针对当前虚拟网络功能（Virtualization Network Functions,VNF）需求预测方法准确率较低且不适用于边缘网络的问题,提出了一种在边缘网络中基于支持向量回归（Support Vector Regression,SVR）与门控循环单元（Gated Recurrent Unit,GRU）神经网络模型结合的VNF需求预测方法。考虑到网络边缘流量具有突发性、自相似性及长相关性等特点,结合SVR和GRU两种模型的优点,利用计算复杂度较低的SVR和GRU模型分别提取网络服务历史时序数据的短期特征和长期特征,以提高VNF需求预测准确率,实现边缘网络中VNF的提前放置。实验表明,所提出的预测方法在边缘网络中针对不同网络服务的预测较于传统方法、循环神经网络（Recurrent Neural Networks,RNN）、长短期记忆网络（Long Short-Term Memory,LSTM）模型能够降低20%~30%的误差,有更佳的预测效果。     

组合神经网络的网络流量预测研究

提出一种组合神经网络的网络流量预测模型.首先采用SMOF网络对网络流量数据进行聚类,然后采用Elman网络对聚类后的流量数据进行训练并预测,同时采用遗传算法对Elman网络的网络结构进行优化,提高网络流量预测精度.仿真结果表明,组合神经网络加快了网络流量预测速度,提高了网络流量预测精度,克服了单一预测模型不足,为网络流量预测提供了新的思路,具有很好的应用前景.     

基于注意力机制和稀疏图卷积的行人轨迹预测

行人轨迹预测能够有效降低行人轨迹突变造成的碰撞风险，在智能交通及监控系统等领域有着广泛应用。目前已有的研究大多利用无向图卷积网络对行人间的社会交互关系进行建模，这种方法缺少对行人隐藏状态关联性的考虑，容易产生行人间的冗余交互。针对这一问题，提出一种基于注意力机制和稀疏图卷积的行人轨迹预测模型（DASGCN），通过构建深度注意力机制，捕捉行人间运动隐藏状态的关联性，从而准确地提取行人运动状态特征。进一步提出自调节稀疏方法，减小冗余信息带来的运动轨迹偏差，解决行人密集无向交互的问题。将所提模型在ETH和UCY数据集上进行验证，其平均位移误差（ADE）和最终位移误差（FDE）分别达到0.36和0.63。实验结果表明，DASGCN对行人轨迹的预测能力要优于传统算法。     

基于Word Embedding的遥感影像检测分割

遥感影像检测分割技术通常需提取影像特征并通过深度学习算法挖掘影像的深层特征来实现.然而传统特征（如颜色特征、纹理特征、空间关系特征等）不能充分描述影像语义信息,而单一结构或串联算法无法充分挖掘影像的深层特征和上下文语义信息.针对上述问题,本文通过词嵌入将空间关系特征映射成实数密集向量,与颜色、纹理特征的结合.其次,本文构建基于注意力机制下图卷积网络和独立循环神经网络的遥感影像检测分割并联算法（Attention Graph Convolution Networks and Independently Recurrent Neural Network,ATGIR）.该算法首先通过注意力机制对结合后的特征进行概率权重分配;然后利用图卷积网络（GCNs）算法对高权重的特征进一步挖掘并生成方向标签,同时使用独立循环神经网络（IndRNN）算法挖掘影像特征中的上下文信息,最后用Sigmoid分类器完成影像检测分割任务.以胡杨林遥感影像检测分割任务为例,我们验证了提出的特征提取方法和ATGIR算法能有效提升胡杨林检测分割任务的性能.     

多源异构数据融合的城市私家车流量预测研究

通过有效地捕获城市私家车出行的时空特征,提出一种多源异构数据融合的私家车流量预测模型.首先,融合私家车轨迹和城市区域数据表征城市私家车的出行分布;其次,通过多视角时空图建模私家车出行和城市区域之间的动态关联,设计了多图卷积-注意力网络以提取车流量演变的时空特征;最后,进一步融合时空特征与天气等外部特征,联合预测私家车流...     

基于忆阻器的图卷积神经网络加速器设计

图卷积神经网络(GCN)在社交网络、电子商务、分子结构推理等任务中的表现远超传统人工智能算法,在近年来获得广泛关注。与卷积神经网络(CNN)数据独立分布不同,图卷积神经网络更加关注数据之间特征关系的提取,通过邻接矩阵表示数据关系,因此其输入数据和操作数相比卷积神经网络而言都更加稀疏且存在大量数据传输,所以实现高效的GCN加速器是一个挑战。忆阻器(ReRAM)作为一种新兴的非易失性存储器,具有高密度、读取访问速度快、低功耗和存内计算等优点。利用忆阻器为CNN加速已经被广泛研究,但是图卷积神经网络极大的稀疏性会导致现有加速器效率低下,因此该文提出一种基于忆阻器交叉阵列的高效图卷积神经网络加速器,首先,该文分析GCN中不同操作数的计算和访存特征,提出权重和邻接矩阵到忆阻器阵列的映射方法,有效利用两种操作数的计算密集特征并避免访存密集的特征向量造成过高开销;进一步地,充分挖掘邻接矩阵的稀疏性,提出子矩阵划分算法及邻接矩阵的压缩映射方案,最大限度降低GCN的忆阻器资源需求;此外,加速器提供对稀疏计算支持,支持压缩格式为坐标表(COO)的特征向量输入,保证计算过程规则且高效地执行。实验结果显示,该文加速器相比CPU有483倍速度提升和1569倍能量节省;相比GPU也有28倍速度提升和168倍能耗节省。     

基于骨架动作识别的协作卷积Transformer网络

近年来,基于骨架的人体动作识别任务因骨架数据的鲁棒性和泛化能力而受到了广泛关注。其中,将人体骨骼建模为时空图的图卷积网络取得了显著的性能。然而图卷积主要通过一系列3D卷积来学习长期交互联系,这种联系偏向于局部并且受到卷积核大小的限制,无法有效地捕获远程依赖关系。该文提出一种协作卷积Transformer网络(Co-ConvT),通过引入Transformer中的自注意力机制建立远程依赖关系,并将其与图卷积神经网络(GCNs)相结合进行动作识别,使模型既能通过图卷积神经网络提取局部信息,也能通过Transformer捕获丰富的远程依赖项。另外,Transformer的自注意力机制在像素级进行计算,因此产生了极大的计算代价,该模型通过将整个网络分为两个阶段,第1阶段使用纯卷积来提取浅层空间特征,第2阶段使用所提出的ConvT块捕获高层语义信息,降低了计算复杂度。此外,原始Transformer中的线性嵌入被替换为卷积嵌入,获得局部空间信息增强,并由此去除了原始模型中的位置编码,使模型更轻量。在两个大规模权威数据集NTU-RGB+D和Kinetics-Skeleton上进行实验验证,该模型分...     

基于时空特征融合的Encoder-Decoder多步4D短期航迹预测

航迹预测在确保空中交通安全、高效运行中扮演着至关重要的角色。所预测的航迹信息是航迹优化、冲突告警等决策工具的输入，而预测准确性取决于模型对航迹序列特征的提取能力。航迹序列数据是具有丰富时空特征的多维时间序列，其中每个变量都呈现出长短期的时间变化模式，并且这些变量之间还存在着相互依赖的空间信息。为了充分提取这种时空特征，本文提出了基于融合时空特征的编码器-解码器（Spatio-Temporal EncoderDecoder, STED）航迹预测模型。在Encoder中使用门控循环单元（Gated Recurrent Unit, GRU）、卷积神经网络（Convolutional Neural Network, CNN）和注意力机制（Attention, AT）构成的双通道网络来分别提取航迹时空特征，Decoder对时空特征进行拼接融合，并利用GRU对融合特征进行学习和递归输出，实现对未来多步航迹信息的预测。利用真实的航迹数据对算法性能进行验证，实验结果表明，所提STED网络模型能够在未来10 min预测范围内进行高精度的短期航迹预测，相比于LSTM、CNN-LSTM和AT-LSTM等数据...     

基于多通道的边学习图卷积网络

通常图的边包含了图的重要信息，然而目前大多数用于图学习的深度学习模型（如图卷积网络（graph convolutional network，GCN）和图注意力网络（graph attention network，GAT））没有充分利用多维边特征的特性；另一个问题是图中可能存在噪声，影响图学习的性能。使用多层感知机对图数据进行去噪优化处理，在GCN的基础上引入了多通道学习边特征的方法，对图的多维边属性进行编码，按原始图所包含的属性分别建模为多通道，每个通道对应一种边特征属性对图节点进行约束训练，可以让算法更合理地学习图中多维边特征，在Cora、Tox21、Freesolv等数据集上的实验证明了去噪方法与多通道方法的有效性。     

结合时空注意力机制和自适应图卷积网络的骨架行为识别

针对骨架行为识别对时空特征提取不充分以及难以捕捉全局上下文信息的问题,研究了一种将时空注意力机制和自适应图卷积网络相结合的人体骨架行为识别方案。首先,构建基于非局部操作的时空注意力模块,辅助模型关注骨架序列中最具判别性的帧和区域;其次,利用高斯嵌入函数和轻量级卷积神经网络的特征学习能力,并考虑人体先验知识在不同时期的影响,构建自适应图卷积网络;最后,将自适应图卷积网络作为基本框架,并嵌入时空注意力模块,与关节信息、骨骼信息以及各自的运动信息构建双流融合模型。该算法在NTU RGB+D数据集的两种评价标准下分别达到了90.2%和96.2%的准确率,在大规模的数据集Kinetics上体现出模型的通用性,验证了该算法在提取时空特征和捕捉全局上下文信息上的优越性。      

结合多重分形的网络流量非线性预测

通过分析树型多重分形结构的相关性发现，多重分形可以把非平稳且具有长相关（LRD）和分形特性的网络流量序列转化为可用短相关（SRD）模型表示的序列组。利用多重分形这种将时间序列分解为多层的能力，提出了一种结合多重分形的FIR神经网络流量预测模型（MF-FIR，multifractal FIR network）。MF-FIR合理地利用了流量序列的LRD信息，具有很好的多步预测性能，可以满足通信系统在线预测的要求。     

用于不平衡节点分类的集成图神经网络模型

为解决图神经网络（GNN）上不平衡节点的分类问题,提出一种Bagging集成模型,该模型使用图卷积网络（GCN）作为基分类器。在该模型中,先对若干基分类器进行并行训练,然后使用多数投票的方式对这些基分类器的预测结果进行集成,最终完成分类任务。实验结果表明,该文提出的模型显著优于其他现有基线方法,验证了其在不平衡节点分类中的有效性。     

基于图卷积网络的基站用户数量预测

移动网络用户预测建模有助于发现城市人群时空分布特征和实行合理资源调度策略。随着移动网络的快速发展，移动通信基站产生了大量手机信令信息，为数据驱动建模提供了支撑。传统的时序预测只考虑时序特征而忽略了空间上的关联。针对这一问题，提出一种基于图卷积网络(Graph Convolutional Network, GCN)的基站用户数量预测模型。利用GCN获取基站之间的空间关联特征，通过长短时记忆(Long Short-Term Memory, LSTM)网络对时序特征进行建模。通过进行对比实验和消融实验，证明该模型能够有效提取基站用户数量的时空特征，相对传统方法具有更优的性能。     

基于领域知识内嵌的深度学习网络流量预测研究

首先针对流量数据可能存在的时域分布突变问题设计了一种基于JS散度的异常检测算法，以获得能够反映流量变化规律的数据。而考虑到网络流量的自相似性、长时相关性和周期性特点，提出一种基于卷积生成网络和自适应注意力元网络组成的动态时域生成流量预测模型（GDTN），能够有效地降噪、生成和预测流量数据，并根据不同输入条件动态分配不同多时域流量特征的重要性。最后在智能城域网端口数据集上进行实验，验证了该算法相比于多种经典时序预测算法在预测准确度、存储资源占用和时间效用等方面具备明显优势。     

基于XGBoost和改进LSTNet的气温预测设计

气温变化与人类的生产生活密切相关，对人类出行计划、农林生产以及军事作战等方面都有着重要影响，因此对于大气温度更加精准的预测具有一定现实意义。针对传统预测模型对气温预测精度不佳的问题，提出了一种融合极端梯度提升树(Extreme Gradient Boosting, XGBoost)和改进长短期时序网络(Long and Short-Term Temporal Patterns with Deep Neural Network, LSTNet)的气温预测模型。利用XGBoost进行特征筛选，降低数据维度；利用LSTNet进行改进，在其卷积层嵌入通道注意力(Channel Attention, CA)机制，强化显著特征；把循环神经网络层中的循环门单元(Gate Recurrent Unit, GRU)改为双向长短时记忆网络(Bidirectional Long Short-Term Memory, BiLSTM),并加入了时序注意力(Temporal Attention, TA)机制，使模型拥有同时提取正反向信息的能力且突出了重要时间步的信息；用建立好的模型进行预测实验和对比实验。实验结果...     

基于包容性检验和神经网络的网络流量预测模型

网络流量具有高度复杂的非线性特征,采用单一预测模型往往难以达到理想的预测效果,为此,提出一种包容性检验和BP神经网络相融合的网络流量预测模型（ET-BPNN）。首先采用多个单一模型对网络流量进行预测,然后通过包容性检验,根据t统计量检验选择最合适的基本模型,最后采用BP神经网络对基本模型预测结果进行组合得到最终预测结果。实验结果表明,相对于单一模型以及传统组合模型,ET-BPNN更加准确刻画了网络流量变化趋势,各项评价指标均达到更优,为实现网络流量准确预测提供了更为科学的方法。     

基于流量预测的5G通信网络资源分配方法

为实现5G通信网络资源的最佳分配，提出基于流量预测的5G通信网络资源分配方法。在5G网络切片的资源分配情况下，形成基于Prophet-PFMGNet的5G通信网络流量预测模型，预测5G通信网络流量以及资源需求，采用布谷鸟优化资源分配结果，获取最佳5G通信网络资源分配。测试结果表明：该方法具备良好的网络流量预测效果，确定性相关系数取值均在0.92以上，可靠预测资源需求，应用后网络节点和链路两种资源的利用率均在0.93以上，用户的阻塞概率均低于0.06。