融合抗噪机制的图变分自编码器社交网络推荐方法研究

链路预测是根据复杂网络中已有的拓扑信息预测网络中两个不相邻的节点间产生连接的可能性,是社交网络推荐中使用的主要方法之一。随着社交网络近些年来蓬勃发展,数据量的剧烈增加无可避免地导致坏数据的出现（即目标节点特征属性缺失,或是目标节点特征属性错乱）。为了解决有节点属性社交网络中因为节点特征缺失导致的链路预测准确率降低的问题,提出了一种结合噪声对抗机制的图变分自编码器模型（Denoising Graph Variational Autoencoder,DGVAE）来优化链路预测效果。通过建立一种图变分自编码器结构,并设计一个噪声对抗模块,使得图变分自编码器能够有效地抵抗噪声干扰。经过一系列实验的验证,在有节点属性的网络中,采用噪声对抗的图变分自编码器模型能够有效地预测复杂的网络结构,而且在数据有冗余噪声的情况下,这种模型的预测效果有显著的改善。     

基于变分自编码器的通信信号生成技术

通信信号生成是通信对抗领域中的重要研究内容。然而在日趋复杂的电磁环境中,由于缺乏对未知信号参数以及信道参数的准确估计,传统通信信号生成技术面临着巨大的挑战。为此,提出了一种基于变分自编码器的通信信号生成技术,运用该生成模型生成与目标信号相似的信号样本,并使用4种仿真信号与广播式自动相关监视系统（Automatic Dependent SurveillanceBroadcast,ADS-B）真实通信信号进行生成与验证。实验结果表明,该技术能够有效地生成满足目标信号要求的样本,为通信干扰波形的生成提供了技术基础。     

基于GMAE框架的图变分自编码器的链路预测模型研究

链路预测是复杂网络中重要的研究内容,它是在给定网络中利用已有的各种信息来预测尚不存在连边的两个节点发生链接的可能性,在社会网络中的朋友推荐系统有广泛应用。近年来,图神经网络在链路预测任务上取得了很好的效果。但是,由于图卷积层带来了过平滑问题,只能关注到节点的局部性信息。为此,本文针对复杂网络提出了图掩码编码器（Graph Masked AutoEncoders,GMAE）技术,可以关注到更大范围的信息,重建掩码节点的特征,并将重建特征输入到自动编码器,重构网络。通过实验证明,GMAE聚合全局节点信息生成特征的方式在自动编码器的重建下重构的网络更接近原始网络,能够在下游链路预测任务上取得先进性能。     

连续的变分图生成模型

学习图中节点的嵌入表示是很多任务的基础,比如链接预测,节点分类和图可视化。之前的图嵌入方法主要是静态图,但是现实生活中很多图都是动态的,随着时间变化而且时间是连续的。由于静态的方法只能学习到单个时间点上图的结构,无法捕捉到图在时间上的依赖,很多动态的方法无法处理不规则时间间隔的问题。针对以上问题,提出了一种连续时间上的动态图生成方法（continuous variational graph generative model,CVGGM)。方法建立在变分自动编码机之下,使用时间嵌入方法得到输入,使用信息传递得到节点邻居的信息,使用连续的长短期记忆网络学习时间上的依赖,生成潜在变量作为节点的表示。实验中使用了3个现实世界的数据集,并且在链接检测和链接预测上达到了很好的效果。     

基于条件变分自编码器的射线样本生成算法

射线追踪数据样本的缺失是造成大规模多输入多输出(Massive Multiple-Input Multiple-Output,Massive MIMO)信道特征预测出现较多预测误差较高的用户的主要原因.为了降低高误差用户数及预测误差,提出了一种基于条件变分自编码器(Conditional Variational Aut...     

基于钉板分布稀疏变分自编码器的异常检测算法研究

异常检测由于其广泛的应用一直是数据挖掘中一个重要的研究分支,它有助于研究人员获得重要的信息进而对数据做出更好的决策。提出了一种基于钉板分布稀疏变分自编码器的异常检测模型。首先,使用离散-连续混合模型钉板分布作为变分自编码器的先验,模拟隐变量所在空间的稀疏性,得到数据特征的稀疏表示;其次,以所提出的自编码器构建深度支持向量网络,对特征空间进行压缩,并采用最优超球体区分正常数据和异常数据;再次,以数据特征和超球体中心之间的欧氏距离完成异常检测;最后,在基准数据集MNIST （modifiednational institute of standards and technology database）和Fashion-MNIST上的实验评估表明,与现存的异常检测算法相比,本文所提出的算法具有更好的检测效果。     

基于条件变分自编码器的端到端情感语音合成方法

情感语音合成作为语音合成的一个重要分支,在人机交互领域得到了广泛的关注。如何获得更好的情感嵌入并有效地将其引入到语音合成声学模型中是目前主要存在的问题。表达性语音合成往往从参考音频中获得风格嵌入,但只能学习到风格的平均表示,无法合成显著的情感语音。该文提出一种基于条件变分自编码器的端到端情感语音合成方法（Conditional Duration-Tacotron,CD-Tacotron）,该方法在Tacotron2模型的基础上进行改进,引入条件变分自编码器从语音信号中解耦学习情感信息,并将其作为条件因子,然后通过使用情感标签将其编码为向量后与其他风格信息拼接,最终通过声谱预测网络合成情感语音。在ESD数据集上的主观和客观实验表明,与目前主流的方法GST-Tacotron和VAE-Tacotron相比,该文提出的方法可以生成更具表现力的情感语音。      

基于变分自编码器的步态辅助训练装置

为了解决现有装置体积大、引导光线受上肢活动影响、步态训练方案不精准等问题,研制了帕金森病人步态辅助训练装置。该装置包括:主板、锂电池、红外光发射单元、腰部束带、训练方案辅助决策系统,主板包括:电压转换模块、蓝牙模块、语音处理模块等,主处理器STM32F047是装置的控制中枢,训练方案辅助决策系统核心算法为变分自编码器(Variational Auto Encoder, VAE),本文研制的步态辅助训练装置克服了现有装置的弊端,能够根据患者患病程度、病人年龄等信息生成精准的步态训练方案。     

基于图嵌入模型的犯罪组织成员身份预测

针对专业化、规模化的犯罪组织,前期侦办过程中只能确定部分成员的身份类别信息.如何利用有限的身份类别预测未标记人员身份,是公安情报工作的重点.传统基于人工分析的情报研判方法处理大规模犯罪的能力有限,因此需要构建更高效的数据模型.模型使用图注意力网络和拉普拉斯特征映射构建图嵌入模型,提取犯罪网络数据特征生成低维嵌入,进行身...     

基于忆阻循环神经网络的层次化状态正则变分自编码器

变分自编码器(VAE)作为一个功能强大的文本生成模型受到越来越多的关注。然而,变分自编码器在优化过程中容易出现后验崩溃,即忽略潜在变量,退化为一个自编码器。针对这个问题,该文提出一种新的变分自编码器模型,通过层次化编码和状态正则方法,可以有效缓解后验崩溃,且相较于基线模型具有更优的文本生成质量。在此基础上,基于纳米级忆阻器,将提出的变分自编码器模型与忆阻循环神经网络(RNN)结合,设计一种基于忆阻循环神经网络的硬件实现方案,即层次化变分自编码忆组神经网络(HVAE-MNN),探讨模型的硬件加速。计算机仿真实验和结果分析验证了该文模型的有效性与优越性。     

矢量量化正则变分自编码器做非平行语料语音转换

基于矢量量化变分自编码器(Vector Quantized Variational Autoencoder,VQVAE)的语音转换系统是国内外语音转换领域研究的一大热点,但是其较差的转换音质限制了模型的应用.本文在VQVAE的基础上提出一种改进的矢量量化正则变分自编码器(Vector Quantization Regu...     

基于球面自编码器的文本分类

针对变分自编码器在文本分类应用中经常发生的后验塌陷问题,提出了一种基于球面自编码器的文本分类方法.首先,将变分自编码器中隐变量所服从的分布由多元高斯分布替换为冯米塞斯-费舍尔球面分布,从理论上解决了后验塌陷,得到了高质量的文本特征表示.在三个文本分类数据集上的实验结果表明,所提出的方法优于原始的变分自编码器文本分类方法...     

基于混合高斯变分自编码网络的异常检测算法

异常数据是指偏离大量正常数据点的数据,往往会对各类系统产生负面影响,存在较大风险。异常检测作为一种有效的防护手段,能够检测数据中的异常,为各类系统的正常运转提供重要支撑,具有重要的现实意义。提出了一种基于混合高斯变分自编码网络的异常检测算法,该算法首先使用混合高斯先验构建变分自编码器,对输入数据进行特征提取,然后以混合高斯变分自编码器构建深度支持向量网络,压缩特征空间,并寻找最小超球体分离正常数据和异常数据,通过计算数据特征到超球体中心的欧氏距离衡量数据的异常分数,并以此进行异常检测。最后在基准数据集MNIST和Fashion-MNIST上评估了该算法,平均AUC分别达到了0.954和0.937。实验结果表明,所提出的算法取得了较好的异常检测效果。     

基于动态规整与改进变分自编码器的异常电池在线检测方法

针对电池生产成组过程中,传统异常检测方法对混入的容量及压差异常电池检测精度低及生产结束后离线异常检测方法效率低等问题,该文提出一种集合长短期记忆变分自编码器与动态时间规整评价的锂电池异常在线检测方法(VAE-LSTM-DTW),实现了异常电池的在线检测,避免了离线异常检测所造成的时间和能源的浪费。该方法首先将长短期记忆网络(LSTM)引入变分自编码器(VAE)模型,训练电池时序数据重构模型;其次,在电池异常检测的度量标准中引入动态时间规整值(DTW),并基于贝叶斯寻优获得最优检测阈值,对每个单体电池重构数据的动态规整值进行异常辨别。实验结果表明,相较该领域传统异常检测方法,VAE-LSTM-DTW模型性能优越,查准率和F1值都得到了较大的提升,具有较高的有效性和实用性。     

基于互信息自编码和变分路由的胶囊网络结构优化

胶囊网络是一类有别于卷积神经网络的新型网络模型。该文尝试提高其泛化性和精准性：首先,利用变分路由来缓解经典路由对先验信息依赖性强、易导致模型过拟合的问题。通过使用高斯混合模型(GMM)来拟合低级矩阵胶囊,并利用变分法求取近似分布,避免了参数最大似然点估计的误差,用置信度评估来获得泛化性能的提高;其次,考虑到实际数据大多无标签或者标注困难,构建互信息评价标准的胶囊自编码器,实现特征参数的有效筛选。即通过引入局部编码器,只保留胶囊中对原始输入识别最有效的特征,在减轻网络负担的同时提高了其分类识别的精准性。该文的方法在MNIST, FashionMNIST, CIFAR-10和CIFAR-100等数据集上进行了对比测试,实验结果表明：该文方法对比经典胶囊网络,其性能得到显著改善。     

基于互信息自编码和变分路由的胶囊网络结构优化

胶囊网络是一类有别于卷积神经网络的新型网络模型.该文尝试提高其泛化性和精准性:首先,利用变分路由来缓解经典路由对先验信息依赖性强、易导致模型过拟合的问题.通过使用高斯混合模型(GMM)来拟合低级矩阵胶囊,并利用变分法求取近似分布,避免了参数最大似然点估计的误差,用置信度评估来获得泛化性能的提高;其次,考虑到实际数据大多无标签或者标注困难,构建互信息评价标准的胶囊自编码器,实现特征参数的有效筛选.即通过引入局部编码器,只保留胶囊中对原始输入识别最有效的特征,在减轻网络负担的同时提高了其分类识别的精准性.该文的方法在MNIST,FashionMNIST,CIFAR-10和CIFAR-100等数据集上进行了对比测试,实验结果表明:该文方法对比经典胶囊网络,其性能得到显著改善.     

基于随机Transformer的多维时间序列异常检测模型

针对已有基于变分自编码器（VAE）的多维时间序列（MTS）异常检测模型无法在隐空间中传播随机变量间的长时依赖性问题,提出了一种融合Transformer编码器和VAE的随机TransformerMTS异常检测模型（ST-MTS-AD）。在ST-MTS-AD的推断网络中,Transformer编码器产生的当前时刻MTS长时依赖特征和上一时刻随机变量的采样值被输入多层感知器,由此生成当前时刻随机变量的近似后验分布,实现随机变量间的时序依赖。采用门控转换函数（GTF）生成随机变量的先验分布,ST-MTS-AD的生成网络由多层感知器重构MTS各时刻取值分布,该多层感知器的输入为推断网络生成的MTS的长时依赖特征和随机变量近似后验采样值。ST-MTS-AD基于变分推断技术学习正常MTS样本集分布,由重构概率对数似然确定MTS异常片段。4个公开数据集上的实验表明,ST-MTS-AD模型比典型相关基线模型的F1分数有明显提升。     

增强变分自编码器做非平行语料语音转换

提出一种增强变分自编码器进行非平行语料语音转换的新方法。源语音首先经过编码网络生成一个服从高斯分布的语音编码,解码网络将该语音编码重构为指定的目标语音,最后通过增强网络优化生成的目标语音。增强网络的一个输入对应一个输出的,这使得整体转换系统有较好的去噪能力。此外,本文还引入了循环训练方法以改善转换语音的目标倾向性。实验结果显示,与基准语音转换系统相比,本文提出的增强变分自编码器语音转换系统在跨性别语音转换上的客观评价指标谱失真上下降10.3%,在主观评价指标相似度与清晰度方面同样有所改善。这一结果表明,本文提出的方法能够使转换语音具有良好目标倾向性,同时有较好的语音转换质量。      

基于变分贝叶斯ICA的火山灰云检测研究

热红外遥感能够准确、快速地检测出火山灰云信息。针对热红外遥感数据和火山灰云检测特点,提出了基于变分贝叶斯ICA的火山灰云检测算法,通过引入贝叶斯网络的条件独立性准则和近似变分算法,将源信号后验概率分布的计算转化为更容易处理的负变自由能,去逼近真实后验概率分布的最佳近似值。实验表明该方法取得了85.25%的光谱匹配度,检测精度较高。