基于深度残差生成式对抗网络的样本生成方法

作为样本生成的重要方法之一,生成式对抗网络(GAN)可以根据任意给定数据集中的数据分布生成样本,但它在实际的训练过程中存在生成样本纹理模糊、训练过程不稳定以及模式坍塌等问题.针对以上问题,在深度卷积生成式对抗网络(DCGAN)的基础上,结合残差网络,设计一种基于深度残差生成式对抗网络的样本生成方法RGAN.该样本生成方法利用残差网络和卷积网络分别构建生成模型和判别模型,并结合正负样本融合训练的学习优化策略进行优化训练.其中:深度残差网络可以恢复出丰富的图像纹理;正负样本融合训练的方式可以增加对抗网络的鲁棒性,有效缓解对抗网络训练不稳定和模式坍塌现象的发生.在102 Category Flower Dataset数据集上设计多个仿真实验,实验结果表明RGAN能有效提高生成样本的质量.     

基于条件生成对抗网络的手语样本骨架缺失关节点修复EI北大核心CSCD

计算机视觉技术由于受到遮挡、视角和光照等因素的影响,对手语样本骨架关节点的检测通常存在缺失,导致手语识别准确率降低.为此,提出基于条件生成对抗网络(CGAN)的手语样本骨架缺失关节点修复方法.首先,通过分析手语样本残缺骨架中关节点的缺失分布情况,构建缺失关节点分布概率模型;其次,对完整骨架引入分布概率模型生成的缺失关节点,将这些残缺骨架用于CGAN框架中生成器和判别器的训练,通过CGAN框架训练好的生成器能够以残缺骨架为条件生成没有缺失的骨架;最后,用生成骨架去补全残缺骨架,即完成了修复.在中国手语数据集CSL上开展实验,生成器迭代训练80次后,生成骨架与完整骨架的平均均方根误差从0.019减小到0.001;在修复骨架缺失关节点的手语样本上,搭建手语识别网络迭代训练120次,与未进行修复相比,其识别准确率从90.6%提升为99.6%.实验结果表明,该方法能够有效地修复缺失关节点,极大地提升手语识别准确率.     

采用双框架生成对抗网络的图像运动模糊盲去除

传统运动模糊盲去除方法需先预测模糊图像的模糊核,再复原清晰图像。而实际 环境中的复杂的模糊核使此方法不能在视觉上很好地减小实际图像和复原后图像的差异,且直 接将现流行的生成对抗模型应用在图像模糊盲去除任务中会有严重的模式崩塌现象。因此,围 绕去模糊任务的特点提出了一种端到端的生成对抗网络模型--双框架生成对抗网络。该方案 不需要预测模糊核,直接实现图片运动模糊的盲去除。双框架生成对抗网络在原有 CycleGan 基础上将其网络结构和损失函数均作出了改进,提高了运动图像盲去除的精度,并且在样本有 限情况下大幅度增强了网络的稳定性。实验采用最小均方差优化网络训练,最后通过生成网络 和判别网络对抗训练获得清晰图像。在 ILSVRC2015 VID 数据集上的实验结果表明,该方法复原 质量更高,且复原结果在后续目标检测任务中达到了更优的效果。     

基于可判别超平面树的生成模型图像标注方法

图像语义的自动标注是一个具有挑战性的研究课题,目前常见的机器学习方法,如统计生成模型(generative model)与判别模型(discriminative model)都被用于该问题的研究中.然而由于语义鸿沟的存在、图像训练数据的不平衡性以及图像标注的多标签特性等问题,使得上述方法的性能都有待进一步提高.提出一种基于可判别超平面树的生成模型图像标注方法.该方法根据待标注目标图像的高生成概率邻域,建立局部超平面分类树,进而利用同层类间可判别信息,按自顶向下的层次分类得到待标注图像的语义相关图像集合.由此得到的相关类信息与新的生成模型框架相结合对待标注图像与语义关键词的联合概率进行估计,实现对目标图像的标注.其特点在于生成模型与判别模型方法得到了有效结合,可判别超平面树对隐含语义聚类的判别分析是对待标注图像的生成"邻域"的逐步求精过程,有效地提高了生成模型标注准确度;而对于判别分析难以解决的多标签分类、训练数据不平衡等问题,此方法通过联合概率估计自然地实现目标图像的多标签分配.在常用的包含5 000幅图像的ECCV2002数据集进行了实验,结果表明,与目前已知的具有较好标注效果的基于生成模型的MBRM模型(采用图像分割方法)以及基于辨别分析的ASVM-MIL相比,此方法的F1因子分别提高了14%和13%.     

基于RepVGG-YOLOv4的焦罐提升机状态检测

提出一种基于视频流数据的提升机状态自动检测方法,将YOLOv4算法原有的CSPDarknet53框架替换成RepVGG框架,建立了基于RepVGG主干特征提取网络的YOLOv4模型,通过对提升机数据集的迭代训练,得到最终的检测模型,对设备状态进行实时分类,实现了设备状态的准确识别。测试结果表明,该算法的检测精度可达99.3%,检测速度26.28fps,满足提升机设备状态实时检测的需求,同时模型所占内存更小,更便于在生产现场部署,对硬件平台的要求有所降低。     

面向模型并行训练的模型拆分策略自动生成方法

随着训练数据规模的增大以及训练模型的日趋复杂,深度神经网络的训练成本越来越高,对计算平台提出了更高的算力需求,模型训练并行化成为增强其应用时效性的迫切需求。近年来基于分布式训练的AI加速器（如FPGA、TPU、AI芯片等）层出不穷,为深度神经网络并行训练提供了硬件基础。为了充分利用各种硬件资源,研究人员需要在集合了多种不同算力、不同硬件架构AI加速器的计算平台上进行神经网络的模型并行训练,因此,如何高效利用各种AI加速器计算资源,并实现训练任务在多种加速器上的负载均衡,一直是研究人员关心的热点问题。提出了一种面向模型并行训练的模型拆分策略自动生成方法,该方法能够基于静态的网络模型自动生成模型拆分策略,实现网络层在不同AI加速器上的任务分配。基于该方法自动生成的模型分配策略,能够高效利用单个计算平台上的所有计算资源,并保证模型训练任务在各设备之间的负载均衡,与目前使用的人工拆分策略相比,具有更高的时效性,节省拆分策略生成时间100倍以上,且降低了由于人为因素带来的不确定性。     

基于深度卷积生成对抗网络的图像生成

图像生成是虚拟现实技术(virtual reality,VR)中的重要技术手段,针对传统图片生成方法需要大量的数据集进行训练,且生成的图片轮廓不清晰等问题,采用基于深度卷积神经网络和生成对抗网络来实现图片的生成。为了保证生成图片的真实性和完整性,在图片生成阶段引入变分自编码器,通过编码器获取到输入图片数据的均值和方差,将图片对应的隐藏变量转化为标准的高斯分布,然后通过生成器生成新的图片;在识别阶段,采用深度卷积神经网络训练判别器,将生成的新的图片输入到已经训练好的判别器中,运用梯度下降法计算损失函数,不断优化整体系统模型。通过对MNIST图像数据集的训练,实验表明该方法能生成质量较高的图片,它生成的图像无法用肉眼与真实数据区分开,并且在不同网络条件下都有较高的识别率。该方法提高了MNIST生成模型的技术水平。     

保护数据隐私的深度学习训练数据生成方案

深度学习模型训练存在缺少大量带标签训练数据和数据隐私泄露等问题.为了解决这些问题,借由生成对抗网络可生成大量与真实数据同分布的对抗样本的特点,提出了一个基于条件生成对抗网络的深度学习模型训练数据生成方案.该方案采用条件生成对抗网络生成数据,满足了生成大量带标签训练数据的需求;结合数据变形方法实现数据隐私保护,解决了数据隐私泄露的问题.实验结果表明该方案是高效可行的,而且与其他方案相比,其在数据可用性和保护隐私方面具有优势.     

具有多层次优化能力的EEG生成模型

基于生成对抗网络(generative adversarial networks, GAN)的脑电信号(electroencephalogram, EEG)生成技术存在生成样本特征单一、幅值差异过大以及拟合速度慢等问题, 其质量难以满足深度学习模型训练和优化的要求. 因此, 本文通过对WGAN-GP的优化, 使其更适应脑电信号生成, 从而解决以上问题. 具体而言: (1)在WGAN-GP网络的框架的基础上, 通过将长短期记忆网络(long short-term memory, LSTM)代替卷积神经网络(convolutional neural networks, CNN), 以保证时间相关特征的完整性, 从而解决脑电生成特征单一的问题; (2)将标准化处理后的真实脑电信号输入至判别器, 以解决幅值差异过大问题; (3)将脑电噪声部分作为先验知识输入至网络生成器, 以提高生成模型的拟合速度. 本文分别通过sliced Wasserstein distance (SWD)、mode score (MS) 以及EEGNet对生成模型做多层次定量评估. 与目前已有生成网络WGAN-GP相比较, 基于本模型的生成数据更为接近真实数据.     

双框架卷积神经网络用于运动模糊图像盲复原

为了实现全网络端对端的运动模糊图像盲复原,提出一种基于生成式对抗网络不估计模糊核的模糊图像盲复原方法.首先设计了双框架卷积神经网络——生成网络和判别网络,其中,生成网络是全卷积神经网络,实现模糊图像到复原图像的映射;判别网络是改进的VGG二分类网络,用于判定复原图像或原始清晰图像;然后采用最小均方差优化网络训练,添加图像保真项提高复原效果;最后通过生成网络和判别网络对抗训练获得清晰图像.在MS COCO数据集上的实验结果表明,该方法复原质量高、速度快.     

基于卷积长短时记忆网络的CPI预测

针对消费价格指数(CPI)的预测值滞后于真实值的现象,提出一种基于卷积神经网络-长短期记忆(CNN-LSTM)深度网络的CPI预测模型,预测结果相较于传统方法有较小的均方根误差和平均绝对百分比误差,且预测结果的定向精度和Pearson相关系数显著高于传统方法.用卷积神经网络-长短期记忆深度网络学习期货数据的空间特征和时...     

基于VMD与MOGOA-LSTM的短期负荷预测模型

为了提高短期负荷预测的准确度,降低非平稳信号对模型预测造成的影响,提出一种集数据挖掘和多目标优化网络于一体的短期负荷预测模型。该方法将电力负荷数据通过变分模态分解技术分解成若干个不同频率的模态分量,采用相间重构方法动态确定人工神经网络的训练测试比和神经元设置,采用长短期记忆神经网络对各分量进行模型搭建,并在长短期记忆神经网络的基础上加入多目标蝗虫智能优化算法来优化网络内部参数,累加所有分量模型预测的值,实现短期负荷预测。仿真结果表明,与统计学方和混合模型相比,本文提出的模型在短期预测方面的预测精度较高、泛化能力更强。     

基于多特征融合的航空发动机剩余寿命预测

针对航空发动机剩余可用寿命(RUL)预测任务中代表性特征提取不充分导致RUL预测精度较低等问题, 提出了一种基于多特征融合的航空发动机RUL预测方法. 利用指数平滑法(ES)降低原始数据中的噪声干扰, 得到相对平稳的特征数据. 使用双向长短期记忆网络(Bi-LSTM)提取特征数据的时序特征, 利用多头注意力机制(Multi-attention)为时序特征赋予权重; 设计卷积长短期记忆网络(Conv-LSTM)提取特征数据的时空特征; 提取特征数据的手工特征并使用Softmax函数计算权重. 设计一个特征融合框架将上述特征进行融合, 然后通过全连接网络回归实现最终RUL预测. 使用C-MAPSS数据集对模型进行仿真验证, 与Bi-LSTM等模型进行对比, 模型RUL预测精度更高, 适应性更好.     

针对设备端口链路的LSTM网络流量预测与链路拥塞方案

针对设备端口链路流量,提出两种基于长短期记忆网络的预测模型。第一种针对在大时间粒度下平稳变化的流量;第二种则针对在小时间粒度下波动剧烈的非平稳流量。通过选用不同的数据划分方式与模型训练方法,构建两种具有不同网络结构的流量预测模型。实验结果表明,前者在处理平稳变化的流量时能够达到极高的预测精度,后者在处理非平稳流量时具有明显优于SVR模型、BP神经网络模型的预测效果。在第二种预测模型的基础上,提出了参数可调的链路拥塞预警方案,实验证明该方案具有一定的可行性。     

对抗型长短期记忆网络的雷达回波外推算法

目的 雷达回波外推是进行短临降水预测的一种重要方法,相较于传统的数值天气预报方法能够实现更快、更准确的预测。基于卷积长短期记忆网络（convolutional long short-term memory network,ConvLSTM）的回波外推算法的效果优于其他的深度学习外推算法,但是忽略了普通卷积运算在面对局部变化特征时的局限性,并且在外推过程中将损失函数简单定义为均方误差（mean squared error,MSE）,忽略了外推图像与原始图像的分布相似性,容易导致信息丢失。为解决以上不足,提出了一种基于对抗型光流长短期记忆网络（deep convolutional generative adversarial flow based long short-term memory network,DCF-LSTM）的回波外推算法。方法 首先,采用光流追踪局部特征的方式改进ConvLSTM,突破了一般卷积核面对局部变化特征的限制。然后,以光流长短期记忆网络（flow based long short-term memory network, FLSTM）作为基本模块构建外推模型。最后,引入对抗网络,与外推模型组成端到端的博弈系统DCF-LSTM,两者交替训练实现外推图像分布向原图像分布的拟合。结果 在4种不同的反射率强度下进行了消融研究,并与3种主流的气象业务算法进行了对比。实验结果表明,DCF-LSTM在所有评价指标中表现最优,尤其在反射率为35 dBZ的条件下。结论 由实验结果可知,引入光流法能够使模型具有更好的抗畸变性,引入深度卷积生成对抗网络（deep convolutional generative adversarial network,DCGAN）判别模块能进一步增加结果的准确性。本文提出的DCF-LSTM回波外推算法相比于其他算法,雷达外推准确率获得了进一步提升。     

基于特征选择和数据增强的电池荷电状态预测

现有基于神经网络的电池荷电状态(state of charge, SOC)预测研究大多把重点放在模型结构和相关参数的优化上,却忽略了训练数据的重要作用.针对该问题,文中提出了一种基于特征选择和数据增强的电池SOC预测方法.首先,方法根据原始电池充放电数据进行特征工程,并使用排列重要性(permutation importance, PI)方法选出对模型预测最有帮助的7个特征;其次,通过加入高斯噪声来扩大训练数据样本总量,达到数据增强的目的.实验使用双向长短时记忆网络(bidirectional long short-term memory, Bi-LSTM)作为预测模型,使用Panasonic 18650PF数据集作为训练数据.使用标准Bi-LSTM进行预测时,平均绝对误差(mean absolute error, MAE)和最大误差(max error,MaxE)分别为0.65%和3.92%,而在进行特征选择和数据增强后,模型预测的MAE和MaxE分别为0.47%和2.62%,表明PI特征工程与高斯数据增强方法可以进一步提升电池荷电状态预测模型的精度.     

基于LSTM-Prophet非线性组合的时间序列预测模型

目前采用单一预测模型对于复杂的非线性时间序列具有预测精度较低,且不能很好地捕捉时间序列的复合特征的问题,因此本文提出一种基于BP神经网络组合的长短期记忆网络-Prophet(LSTM-Prophet)时间序列预测模型。模型将长短期记忆网络及Prophet这2种预测模型得到的预测值通过BP神经网络进行非线性组合,得出最终的预测值。随后设计实现本文模型与3个单项模型的对比实验,使用3个不同领域的数据集验证本文模型的准确性和有效性。实验结果表明提出的预测模型具有较高的预测精度、较好的通用性和应用前景。     

基于长短期记忆神经网络的可用停车位预测

可用停车位预测是智能停车诱导系统的关键问题之一。当前基于神经网络的预测技术在较短预测周期内,预测准确度的平均绝对误差在 10 左右,但随着预测步长或周期的增加,预测精度急剧下降。针对这一问题,该文提出了一种在中长预测时间周期内可保持数据变化特征的泊位预测方法。该方法使用模糊信息粒化获取特征数据集,通过训练长短期记忆神经网络预测未来的特征数据集,基于数据插值方法重建出整个区间可用停车位的连续变化曲线。仿真结果表明,该方法在相同预测步长的可用车位预测上,比传统预测方法具有更高的预测精度;在保持相近预测精度的条件下,比传统预测方法具有更高的计算效率。     

Intelligent tool wear monitoring based on parallel residual and stacked bidirectional long short-term memory network

Effective tool wear monitoring (TWM) is essential for accurately assessing the degree of tool wear and for timely preventive maintenance. Existing data-driven monitoring methods mainly rely on complex feature engineering, which reduces the monitoring efficiency. This paper proposes a novel TWM model based on a parallel residual and stacked bidirectional long short-term memory (PRes–SBiLSTM) network. First, a parallel residual network (PResNet) is used to extract the multi-scale local features of sensor signals adaptively. Subsequently, a stacked bidirectional long short-term memory (SBiLSTM) network is used to obtain the time-series features related to the tool wear characteristics. Finally, the predicted tool wear value is outputted through a fully connected network. A smoothing correction method is applied to improve the prediction accuracy. The proposed model is experimentally verified to have a high prediction accuracy without sacrificing its generalization ability. A TWM system framework based on the PRes–SBiLSTM network is proposed, which has a certain reference value for TWM in actual industrial environments.     

融合时空特征的光伏气象因子预测模型

光伏发电极易受到天气的影响而具有波动性和不确定性,因此对气象因子的准确预测对光伏电站的运维具有重要意义。提出了一种基于深度学习的时空特征融合模型,实现对光伏气象因子的精准预测。在时间维度上,设计了一种改进的长短期记忆模块,融合注意力机制和遗传算法,得到最优注意力参数以提高预测精度;在空间维度上,将光伏电站所在区域按照经纬度划分,利用张量分解对区域内气象因子进行预测。在中国东南部某光伏系统的真实数据集上,对该模型的有效性进行了评估。结果表明,该模型在时间维度和空间维度均具有较高预测精度,同时对稀疏数据有较强的鲁棒性。