改进的基于VQ+WNN的说话人识别研究

VQ+WNN(Vector Quantization and Wavelet Neural Network)说话人识别系统主要利用VQ进行矢量量化,将量化矢量送到小波神经网络进行说话人训练和识别。经过VQ量化后的特征矢量可以大大减少小波神经网络的运算量,提高网络的收敛速度与识别精度。虽然运算量是可以接受的,但如果在矢量量化之前采用分量处理方法,去除对识别精度影响不大的特征矢量,则可进一步减少运算量,而识别精度基本维持不变。     

基于元学习的图卷积网络少样本学习模型

少样本学习是目前机器学习研究领域的热点和难点.针对现有的少样本学习模型不能有效捕捉数据特征与数据标签之间的联系,造成分类模型泛化能力弱的问题,提出一种基于元学习的原型空间图卷积网络少样本学习模型FSL-GCNPS(Few-Shot Learning of Graph Convolutional Network on Prototype Space).首先,利用卷积神经网络提取多任务数据的特征向量;其次,为了将特征向量映射到原型空间中,根据元学习的训练策略得到特征向量的类原型表达;然后,通过类原型向量和类向量之间的嵌入表示,构建图结构数据,并进行图卷积网络训练、推理.实验结果表明,相较于经典少样本学习方法,FSL-GCNPS模型拥有更好的分类准确率和分类稳定性.同时,在医学图像领域数据集上实验表明,FSL-GCNPS具有很好的跨域适应性.     

基于图卷积神经网络的大规模软件定义网络流量预测模型

为了提高大规模软件定义网络流量预测的准确率,研究基于图卷积神经网络的大规模软件定义网络流量预测模型。构建包含图卷积神经网络（Graph Convolution Neural Network, GCN）层、门控递归单元（Gating Recursive Unit, GRU）层及自注意力机制层的流量预测模型。通过GCN层与GRU层分别重构与更新网络流量的空间与时间特征;将两种特征共同输入自注意力机制层,经整合与加权平均运算后,获得网络流量预测值输出,实现大规模软件定义网络流量预测。实验结果显示,该模型可精准预测大规模软件定义网络流量,降低所应用网络的通信丢包率与通信延时,实现高质量高时效的网络数据传输,保障大规模软件定义网络的智能流量通信。     

基于GCN-LSTM的频谱预测算法

无线频谱是一项重要的、难以再生的自然资源。在频谱数据中随着信道的动态变化，各个信道不能建模成规则的结构。由于卷积神经网络提取的是规则数据结构的相关性，没有考虑信道动态变化以及各个信道节点之间的相关性影响，基于此研究了基于图卷积神经网络(Graph Convolutional Network, GCN)和长短期记忆(Long Short-Term Memory, LSTM)网络结合的GCN-LSTM频谱预测模型，并且引入了注意力机制，仿真得到了GCN-LSTM在正确数据集和有一定错误数据的数据集上的预测性能和算法运行时间。结果表明在引入注意力机制后，GCN-LSTM预测模型的准确性和实时性都得到了提高。     

基于多维动态拓扑学习图卷积的骨架动作识别

图卷积由于其对图数据的强大表示能力被广泛应用于基于骨架的动作识别任务中.但是现有的图卷积方法在所有帧或通道上都使用共享的图拓扑进行特征聚合,这极大限制了图卷积网络的表示能力.为了解决这些问题,本文提出多维动态拓扑学习图卷积用于动态建模具有时序与通道特异性的拓扑结构.多维动态拓扑学习图卷积主要包含三个组成部分：纯粹节点拓扑学习图卷积（pure Joint topology learning Graph Convolution, J-GC）、动态时序特异性拓扑学习图卷积（Dynamic Temporal-Wise topology learning Graph Convolution, DTW-GC）和通道特异性拓扑学习图卷积（Channel-Wise topology learning Graph Convolution, CW-GC）.特别地,在DTW-GC中使用了动态骨架拓扑建模方法（Dynamic Skeleton Topology Learning, DSTL）,以高效地建模富含全局时空拓扑特征的动态骨架拓扑.将多维动态拓扑学习图卷积与多尺度时间卷积（Multi-Scale Te...     

基于自组织增量-图卷积神经网络的金相图半监督学习

采用深度学习对钢铁材料显微组织图像分类,需要大量带标注信息的训练集.针对训练集人工标注效率低下问题,该文提出一种新的融合自组织增量神经网络和图卷积神经网络的半监督学习方法.首先,采用迁移学习获取图像数据样本的特征向量集合;其次,通过引入连接权重策略的自组织增量神经网络(WSOINN)对特征数据进行学习,获得其拓扑图结构,并引入胜利次数进行少量人工节点标注;然后,搭建图卷积网络(GCN)挖掘图中节点的潜在联系,利用Dropout手段提高网络的泛化能力,对剩余节点进行自动标注进而获得所有金相图的分类结果.针对从某国家重点实验室收集到的金相图数据,比较了在不同人工标注比例下的自动分类精度,结果表明:在图片标注量仅为传统模型12％时,新模型的分类准确度可达到91％.     

基于自组织增量-图卷积神经网络的金相图半监督学习

采用深度学习对钢铁材料显微组织图像分类,需要大量带标注信息的训练集。针对训练集人工标注效率低下问题,该文提出一种新的融合自组织增量神经网络和图卷积神经网络的半监督学习方法。首先,采用迁移学习获取图像数据样本的特征向量集合;其次,通过引入连接权重策略的自组织增量神经网络(WSOINN)对特征数据进行学习,获得其拓扑图结构,并引入胜利次数进行少量人工节点标注;然后,搭建图卷积网络(GCN)挖掘图中节点的潜在联系,利用Dropout手段提高网络的泛化能力,对剩余节点进行自动标注进而获得所有金相图的分类结果。针对从某国家重点实验室收集到的金相图数据,比较了在不同人工标注比例下的自动分类精度,结果表明:在图片标注量仅为传统模型12%时,新模型的分类准确度可达到91%。     

改进GCNs在指静脉特征表达中的应用

基于图模型的指静脉全局特征表达方法不仅可以降低成像质量对采集设备的依赖性,还能提高匹配效率。针对于目前指静脉图模型的研究中存在的图结构不稳定,匹配效率随图模型的变大而降低的问题,本文提出了一种基于SLIC(Simple Linear Iterative Clustering)超像素分割算法构建加权图的方法,并改进ChebyNet图卷积神经网络(Graph Convolutional Neural Networks, GCNs)提取加权图的图级(graph-level)特征。针对指静脉样本数普遍较少,而ChebyNet中卷积网络参数量较大容易造成过拟合以及其快速池化层不能自适应地选择节点的问题,本文提出了全局池化结构的改进GCNs模型SCheby-MgPool(Simplified Cheby-Multi gPool)。实验结果表明,本文提出的方法提取的指静脉特征在识别精度,匹配效率上都具有较好的性能。      

面向图卷积神经网络的FPGA部署及加速研究

图卷积神经网络（GCN）算法在处理图结构数据任务中取得了突破性的成功,然而训练图卷积神经网络需要大量的内存空间及多次的随机内存访问等,这限制该算法的进一步部署应用。现有图卷积神经网络的部署及加速方案大多基于VitisHLS工具,该工具利用C/C++进行开发,几乎没有采用硬件描述语言的方案,存在软硬件加速不彻底问题。针对上述问题,设计一种面向GCN的FPGA部署及加速架构。该架构主要由计算模块和存储模块构成,两者都是利用硬件描述语言实现。计算模块主要是用硬件描述语言来实现图卷积神经网络的关键算法,即将图卷积神经网络的关键算法映射到现场可编程门阵列中以实现硬件加速;缓存模块主要是调用ROM IP核以及定义二维寄存器组,对输入节点特征、归一化后的邻接矩阵、各个层的量化参数以及中间变量进行存储,从而提高GCN算法的并行度。首先在Pycharm平台上进行模型训练并提取参数进行量化,然后在Vivado平台上对图卷积神经网络进行设计和仿真测试,对比CPU、GPU的运算性能。实验结果表明,所设计的图卷积神经网络加速架构提升了模型的推理速度。     

基于Bert-GNNs异质图注意力网络的早期谣言检测

网络谣言的广泛传播已经造成了很大的社会危害,因此早期谣言检测任务已成为重要的研究热点.现有谣言检测方法主要从文本内容、用户配置和传播结构中挖掘相关特征,但没有同时利用到文本全局语义关系和局部上下文语义关系.为了克服以上局限性,充分利用到谣言数据中的文本全局-局部上下文语义关系、文本语义内容特征和推文传播的结构特征,本文提出了一种基于Bert-GNNs异质图注意力网络的早期谣言检测算法（Bert-GNNs Heterogeneous Graph Attention Network,BGHGAN）.该方法根据历史谣言集和用户特征构建一个推文-词-用户异质图,通过采用预训练语言模型Bert和图卷积神经网络（Graph Convolutional Network,GCN）结合的方法进行特征学习,以挖掘谣言的文本语义特征和文本之间的关系,并将异质图分解为推文-词子图和推文-用户子图,采用图注意力网络（Graph Attention network,GAT）的方式分别进行特征学习,从而更充分利用文本全局-局部上下文语义关系和传播图的全局结构关系以加强特征表达;最后,通过子图级注意力机制将不同模块的...     

基于电压暂降测量的配电网故障自动定位

文中提出了一种结合电力系统分析程序、数据库检索方法和模式识别技术自动识别的11kV配电网故障定位方法。该方法采用三相不平衡潮流和故障分析程序,对配电网各节点的故障进行分析生成电压暂降数据库,设计了数据库搜索和模式识别算法,以便配电网在发生实际故障时识别故障位置。利用电力系统EMTDC模拟器对该方法进行了评估和测试。实验结果表明,提出的线性模式识别算法能够识别所研究的11kV配电网的大部分故障区段。     

Homology analysis of malware based on graph

Malware detection and homology analysis has been the hotspot of malware analysis.API call graph of malware can represent the behavior of it.Because of the subgraph isomorphism algorithm has high complexity,the analysis of malware based on the graph structure with low efficiency.Therefore,this studies a homology analysis method of API graph of malware that use convolutional neural network.By selecting the key nodes,and construct neighborhood receptive field,the convolution neural network can handle graph structure data.Experimental results on 8 real-world malware family,shows that the accuracy rate of homology malware analysis achieves 93%,and the accuracy rate of the detection of malicious code to 96%.     

基于图注意力网络的半监督SAR舰船目标检测

基于深度学习的合成孔径雷达(SAR)舰船目标检测近年得到了快速发展。然而,传统有监督学习需要大量的标记样本来训练网络。针对此问题,该文提出一种基于图注意力网络(GAT)的半监督SAR舰船目标检测方法。首先,设计了对称卷积神经网络用于海陆分割。随后,完成超像素分割并将超像素块建模为GAT的节点,利用感兴趣区域池化层提取节点的多尺度特征。GAT采用注意力机制自适应地汇聚邻接节点特征实现对无标记节点的分类。最后,将预测为舰船目标的超像素块定位到SAR图像中并获得精细检测结果。在实测高分辨SAR图像数据集上验证了所提方法。结果表明该方法可以在少量标记样本下,以低虚警率实现对舰船目标的可靠检测。     

二值化身份感知图卷积神经网络北大核心CSCD

针对有限的内存资源导致图神经网络(graph neural network, GNN)无法完全加载属性图的问题,文中提出了二值化身份感知图卷积神经网络(binary identify-aware graph convolutional network, BID-GCN)。该网络通过在消息传递过程中递归地考虑节点的信息,为了获得一个给定的节点的嵌入,BID-GCN将提取以该节点为中心的自我网络,并进行多轮的异构消息传递,在自我网络的中心节点上应用与其他节点不同的参数。在消息传递过程中,对网络参数和输入节点特征进行二值化,并将原始的矩阵乘法修改为二值化以加速运算。通过理论分析和实验评估,BID-GCN可以减少网络参数和输入数据的平均约36倍的内存消耗,并加快引文网络上平均约49倍的推理速度,可以提供与全精度基线相当的性能,较好地解决内存资源有限的问题。     

基于图网络优化及标签传播的小样本图像分类算法

近年来,虽然深度学习技术在图像分类任务中取得了有竞争力的表现,但实际应用中,往往存在缺乏大量训练样本的情况,易于产生过拟合现象.小样本学习技术为此提供了解决方案.由于图神经网络在表示类内和类间样本关系上的优势,已被用于小样本图像分类任务.现有算法是通过几个卷积块获取图像特征作为节点特征输入图网络,为了更好的表示图节点之...     

基于二分图模型的通信信息网络故障联合定位

国家电网信息通信网络依靠两套运维系统,分别实现对信息网络与通信网络的故障定位与分析,然而通信网络故障往往会引发信息网络故障,如何高效精确地进行通信信息网络故障联合定位是亟需解决的问题.针对信息通信网络的联合故障定位问题,提出了基于二分图模型的故障联合定位算法.首先依据通信网网络节点的关联性对网络分簇,并将每一簇作为一个子域.其次在每个子域内建立基于二分图的故障关联影响模型,最终利用目标排序法并行地对多个子域内网络故障进行分析,从而实现通信信息网络关联故障高效精确的联合定位.实验结果表明,该联合故障定位分析方法的故障诊断率达85％～95％.     

基于神经网络的火电厂生产过程故障诊断专家系统

在传统专家系统的基础上,将神经网络技术引入火电厂生产过程故障诊断领域。阐述基于神经网络的火电厂生产过程故障诊断专家系统的总体构架,推理机制。以火电厂化学水处理为例,在采集了充分的故障数据后,结合典型的故障经验数据,进行故障诊断的仿真试验,并和实际故障数据对比,以此说明该故障诊断专家系统的实用性。     

基于超像素与图卷积神经网络的白细胞分割

白细胞分割是医学图像处理领域的一项富有挑战性的任务,针对目前白细胞分割存在的准确度不高、粘连情况不易分割等问题,将图像的分割转化为区域节点的分类问题,提出基于图卷积神经网络的白细胞分割算法.首先将训练图像经超像素分割得到若干超像素区域,把每个超像素区域作为图的一个节点,并充分利用超像素区域的彩色特征以及空间邻域关系构造稀疏加权图来训练图卷积网络,然后利用训练好的网络对测试图像进行白细胞核、质、背景的三域一次性分类.实验数据表明,本文算法对不同类白细胞均具有较好的分割效果.     

基于小波包分析和Elman神经网的故障诊断方法研究

由非线性电力电子装置组成的电路发生故障时,故障特征信息不易提取和识别。对此提出一种基于小波包分析和Elman神经网的电力电子装置故障诊断的方法,先运用小波包分析法提取电路在不同故障状态下电压及电流信号的特征信息,然后对数据进行归一化处理并作为Elman神经网的输入,由具有智能学习功能的神经元故障分类器完成故障识别和定位。以12脉冲整流电路为例,在Matlab软件下建立电路模型进行仿真实验,结果表明该方法能快速、准确的完成故障诊断。     

含光伏系统的微网并入配电网的故障区段定位研究

为解决传统配电网继电保护故障定位系统难以应对含光伏系统的微网并网运行的问题,提出了一种集中与分布式相结合的故障区域检测与隔离的保护方法。根据配电网的拓扑结构和假定的网络功率流向形成网络描述矩阵,在配电系统发生短路故障时,根据被保护线路故障的电压、电流分量的相位关系确定故障正方向,并形成故障信息矩阵。以故障信息矩阵对网络描述矩阵进行修正而形成故障判断矩阵,利用故障定位判据逐一查询故障判断矩阵即可快速准确地定位出故障位置,从而发出跳闸命令切除故障。