生成对抗网络扩充样本用于高光谱图像分类

高光谱图像包含着丰富的地理位置信息和光谱信息,高光谱图像分类是遥感领域的一个基础而又重要的研究方向。然而,高光谱图像样本数量不足仍然是限制分类精度进一步提升的主要问题。生成对抗网络中生成器和判别器的不断地对抗学习,最终理想状态为,生成器生成的伪样本判别器无法判别,生成与真实样本非常相似的伪数据样本。文章通过生成对抗网络来依据原有的少量样本,生成新的伪样本,解决样本获取困难、样本数量不足的问题。实验在两个高光谱图像数据集上分别选取200个和400个样本点进行实验,在生成对抗网络中生成新的伪样本,进行分类训练。与SVM、3DCNN等分类方法在同样是样本不足的情况下比较下,分类整体的平均精度得到明显定提升,实验证明文中分类方法的分类表现优于相比的其他分类方法。     

基于Cycle-GAN的绝缘子图像生成方法

深度学习模型应用于输电线路绝缘子目标检测时,在训练样本方面存在公开样本集缺乏和优质样本不足的问题,为此提出一种基于循环一致性生成对抗网络(cycle-generative adversarial networks,Cycle-GAN)的绝缘子图像生成方法。首先分析绝缘子样本集,对绝缘子图像基于背景色彩特征进行风格域划分;之后在划分好的绝缘子风格域样本集基础上,采用Cycle-GAN生成绝缘子图像样本;最后,搭建分类网络验证生成图像用于扩充的有效性,并进一步探究了生成图像不同扩增比例对分类性能的影响。结果表明:绝缘子生成样本可一定程度上替代真实样本;生成图像不同扩充比例对网络性能影响不同,当扩充比例在40%~50%时,分类网络性能提升效果最佳。     

强化组合式生成对抗网络

近年来通过在生成对抗网络中加入条件标签,控制生成图像的类别或属性已经取得很大进展,但是生成图像的类别或属性的准确性有待提高。为此,在生成对抗网络的判别器中加入了强化学习,通过上一次的分类结果去指导当前的分类。另外为了让生成的细粒度图像更加逼真,使用注意力机制在只增加少量的计算损失下让图像有全局感受野,将多属性的星型生成对抗网络与自注意力生成对抗网络组合后的生成图像的质量较高。 强化组合式生成对抗网络的最大均差达到0.036 93,最近邻指标效果较优,能自动化较准确地生成指定了某些属性的艺术图像,实验生成的图片也能用来解决缺乏数据的问题。     

基于生成对抗网络和混合时空神经网络的入侵检测

针对网络入侵检测领域存在检测准确率低的问题,研究异常流量样本少和分类器性能不佳时的入侵检测模型,提出一种基于改进生成对抗网络和混合时空神经网络的入侵检测模型。改进生成对抗网络通过学习异常流量样本的分布特性,生成具有特定标签的人工异常流量样本;融合卷积神经网络和双向长短时记忆神经网络提取攻击流量的时空融合特征,利用注意力机制对时空融合特征进行加权,构建混合时空神经网络对网络流量进行分类预测。在UNSW-NB15数据集上对所提模型进行仿真实验,准确率和F1分数分别为92.93%和94.81%,表明所提模型能够有效改善原始数据集中的类别不平衡性问题,提高对异常流量样本的检测能力和网络入侵的检测准确率。     

不均衡数据集下基于生成对抗网络的改进深度模型故障识别研究

由于传统轴承故障诊断方法依赖于信号处理能力且模型泛化能力差的问题,提出一种不均衡数据集下基于深度对抗网络的故障诊断方法,该方法首先通过构建小样本训练集进行生成对抗网络训练,将生成样本加入到原始小类别样本训练集中,得到样本训练集,降低不同类别样本的不平衡性;然后引入深度学习的模型优化技术,提出适合轴承故障诊断的深度卷积神经网络模型,该模型直接作用于训练样本集,自适应地从原始数据中逐层学习故障特征,实现不同故障的准确识别;为了增强诊断系统最终分类预测的准确性,引入Focal损失函数对分类层进行故障识别。大量的定性定量实验表明,所提的改进网络在检测率与误检率方面均优于现有的其他深度模型,并且拥有较快的收敛速度与泛化能力。     

基于MobileNetV3多尺度特征融合的人脸表情识别

针对人脸表情识别中普通卷积神经网络特征提取能力不足且识别效率低下的情况，本文提出了一种基于MobileNetV3多尺度特征融合的人脸表情识别。首先利用MobileNetV3进行特征提取以获得高层次情感信息；其次在骨干网络中借鉴DenseNet结构，增强特征复用并提升网络重要面部特征表达能力；然后利用特征金字塔模块充分获取人脸图像的深层和浅层多尺度融合特征，从而提高了MobileNetV3的特征提取能力和实时性；最后利用全连接层构建分类器对表情进行分类，从而完成了人脸表情识别。通过实验验证，结果表明，在CK+和FERPlus数据集上识别准确率可以达到88.3%和98.8%，与现有方法相比分别提高了2.3%和1.5%，表明了所提方法识别效果好，泛化能力强。     

一种基于改进的WGAN模型的电缆终端局部放电识别准确率提升方法

目前,基于机器学习的电缆终端局部放电模式识别常因标注数据匮乏或不均衡而导致泛化能力不足,识别准确率较低。为解决该问题,该文提出了一种基于改进的Wasserstein生成对抗网络(Wasserstein generative adversarial network,WGAN)模型的电缆终端局部放电识别准确率提升方法。该方法以单个脉冲对应的小波时频谱图为对象,首先训练具有条件生成能力且训练过程稳定的改进WGAN模型并生成新的样本;然后利用新样本对原始样本集进行扩充,以提高样本多样性;最后,利用扩充后数据集训练得到新的局放分类器。实验结果表明,所提方法相较于其他条件生成模型能够更稳定生成新的高质量样本;利用该方法分别对典型电缆终端缺陷数据进行扩充,训练出的新分类器具有更优的泛化能力,且对不同分类器具有适用性。该方法有效抑制了工程中局放类型识别时由于数据匮乏或不均衡所导致的过拟合风险,有效提升了在小数据量下的识别准确率。     

基于生成式对抗网络的窃电检测数据生成方法EI北大核心CSCD

日益增长的用户侧用电数据为基于数据驱动的窃电检测方法奠定了基础,然而窃电检测数据固有的不平衡性质会影响该类方法的性能。针对窃电检测的数据不平衡问题,提出一种基于Wasserstein生成对抗网络(wasserstein generative adversarialnetwork,WGAN)的窃电样本过采样方法,通过WGAN生成器与判别器的对抗训练,神经网络能够学习到窃电负荷序列难以显式建模的时间相关性,生成与真实窃电样本具有相近分布的合成样本。采用WGAN训练期间生成的多组窃电样本对原始窃电样本进行增强,使用卷积神经网络在多组增强训练集上进行训练,选择在验证集上取得最高AUC值的增强训练集,最后在其上训练分类器实现窃电检测。所提方法在某电力公司提供的真实数据上进行了实验测试,结果表明相比于随机过采样、SMOTE和ADASYN等方法在检出率、误检率、F1测度以及AUC评价指标上有明显提升。     

基于双阶段多尺度生成对抗网络的图像复原方法

针对人脸图像复原任务中对图像尺度信息利用不足和眼镜结构复原错误的问题,提出一种基于双阶段多尺度生成对 抗网络复原模型。该模型第1阶段引入改进损失的U-Net 粗重构网络,利用跳连接减少原始图像信息的丢失,融合3种不同 的损失函数提高生成器的重构能力,采用双判别器考虑全局信息和局部信息,并提出一种混合域注意力机制用于关注图像的 空间和通道信息。第2阶段的精修复网络构建了全新的特征增强模块,增强网络对细节信息的提取能力和对结构的表达能 力,引入相对判别器,用于关注生成样本与真实样本之间的相对真实性,提高了生成质量和训练稳定性。实验结果表明,该方 法能够复原各类图像缺失的情况,并能够有效复原佩戴眼镜的人脸图像,与其他方法相比,该方法的峰值信噪比、结构相似性 和感知相似度评估等指标分别提升了3.81%、2.65%和0.45%。     

基于对抗生成网络与BP神经网络的低压台区线损率预测

线损电量产生于发电、输电、配电及用电等环节,线损电量占供电量的百分比称为线损率。针对线损率预测问题,提出了一种基于对抗生成网络与BP神经网络的低压台区线损率预测模型。选取某市低压台区线损数据作为实验数据集,经数据预处理后,通过K-Means++算法将低压台区分类,对不同类别的低压台区分别训练对抗生成网络来增加不同类别的样本数据,利用不同类别样本数据分别训练BP神经网络搭建低压台区线损预测模型。实验结果表明,与传统BP神经网络模型相比,该预测模型具有更加准确的效果,通过对抗网络增加样本数据可以有效改善低压台区线损数据量偏小的问题。     

基于条件式Wasserstein生成对抗网络的电力变压器故障样本增强技术

数据非均衡问题是制约机器学习技术在电力变压器故障诊断领域中应用效果的关键因素。为克服传统过采样方法未考虑数据整体分布信息的缺陷,提出了一种基于深度学习的故障数据增强方法,以实现样本库的类别均衡化目标。首先,建立梯度惩罚优化的条件式Wasserstein生成对抗网络模型以指导多类别故障样本的生成过程,并克服了原始生成对抗网络模型的训练不稳定问题;然后,构建以油中溶解气体无编码比值为特征参量的栈式自编码器诊断模型,并进一步提出了基于数据增强方法的设备故障诊断技术框架;最后,选用由准确率、F1度量以及G-mean组成的评价指标体系对类别均衡化前后的模型诊断效果进行评估对比。算例研究结果表明,相较于传统过采样方法,提出的故障样本增强方法能够更为有效地改善诊断模型对于多数类的分类偏好问题,提升其整体分类性能,可作为电力变压器故障诊断的重要数据预处理环节。     

基于改进的残差网络面部表情识别

为了解决人脸表情识别中存在的对关键信息获取能力不足、识别率偏低、模型容易出现过拟合等问题，以ResNet18作为基本网络进行改进得到一个新的表情识别模型(IERNet)。IERNet通过引入ECA注意力机制构建出两种不同的注意力残差单元，并组成注意力残差模块，从而增强对深层的表情关键特征的提取能力；又引入Iception模块来提取图像的多尺度浅层信息，通过同时引入这两个模块的方式增强了网络的鲁棒性、提升了模型的识别率；最后使用全局平均池化结合Dropout技术取代全连接层，可以有效防止模型的过拟合问题同时还能简化模型。通过实验数据可知，在公开表情数据集CK+和FER2013上取得了不错的成绩，准确率分别达到了97.778%和73.558%。     

基于生成对抗网络的小样本数据生成技术研究

基于数据驱动的深度学习技术成为新一代智能电网的应用趋势,该技术对电网中有标注训练数据的量级提出更高的要求。为了获取更多有标注的智能电网样本数据,文章提出了一种基于改进的生成对抗网络（generative adversarial network,GAN）的训练样本生成算法。该方法通过交替训练改进GAN的生成模型与判别模型,无需先验知识的指导,自主学习原始样本的分布规律,生成新的数据样本。然后采用人工神经网络作为基础分类器,计算样本分类的准确率,检验生成样本的有效性。实验表明,改进GAN模型可以有效学习样本的分布规律,提升谐波分类的准确率,该方法同时具有良好的抗噪性和泛化性,对深度学习技术在智能电网中的深入发展具有重要意义。     

基于改进 ResNet50 的表面肌电信号手势识别

为了提高手势动作在类别众多且相似度高的情况下的识别精度,提出了一种基于连续小波变换和残差神经网络Res- Net50的表面肌电信号手势识别方法。首先对Ninapro DB2 和 DB3 的原始表面肌电信号进行预处理和连续小波变换,得到 Multi-sEMG Wavelet Map 数据集,然后送入改进的ResNet50模型进行识别分类。实验结果表明,改进后的ResNet50 网络模 型在 Multi-sEMG Wavelet Map DB2 和 DB3中17种手势动作的平均准确率分别达到了96.40%和94.11%,相比 ResNet50 网络模型方法提升了4.87%和5.83%。实现了手势动作在类别繁多、相似度较高的情况下的精准识别。为基于非侵入式传 感器和机器学习控制的假肢手提供了新方案。     

基于GAN等效模型的小样本库扩增研究

在神经网络的训练中,训练样本库的数量对神经网络的性能有着重要的影响。利用深度神经网络技术对样本进行识别分类时,训练样本库的样本越多,识别效果越好。因此对于小样本库来说,扩增训练样本库是提高神经网络性能的方法之一。生成式对抗网络(Generative Adversarial Nets,GAN)为扩增训练样本库提供了可行的解决方法。首先,分析了原始GAN的训练过程。根据GAN的工作过程,推导了生成器模型,得出了生成器模型符合维纳-霍普夫方程的结论,并对判别器符合最佳接收机模型做了进一步解释。并利用生成样本和训练样本之间的互相关系数证明了等效模型的正确性。在MNIST、CIFAR-10标准数据库上进行了实验,并依据实验结果,验证了等效模型的有效性。最后,将该等效模型应用到绝缘子样本库的扩增中,并取得了良好的效果。     

基于生成对抗网络和深度残差神经网络的变电站异物检测

变电站电力巡检能够保证变电设备安全运行,及时发现潜在危险和隐患。传统方法主要依靠人工完成,需要较多的人力物力,并且由于变电站异物入侵的偶然性和突发性,传统方法很难预测发生的时间和地点。针对该问题,提出了基于生成对抗网络和深度残差神经网络的变电站异物检测技术。利用深度残差神经网络提出图片的特征,结合区域推荐网络和池化分类器实现目标的分类和定位。利用生成对抗网络生成样本扩充训练数据库,提升了网络的学习能力。最后利用真实变电站的图片数据进行测试,提出的方法具有较高的异物识别准确度,并且比较了不同种类不同数目的训练集,验证了通过生成对抗网络扩充样本的有效性和可行性。     

基于循环生成对抗网络的增强罗兰信号生成

在信号生成算法中,需要大量标记信号样本用于网络训练,但通常携带电文信息标记的信号难以批量获取。针对此问题本文提出一种基于循环生成对抗网络和迁移学习的方法,实现了无需大量信号及对应电文作为标记的增强罗兰信号生成,并使用迁移学习在少量实测信号情况下快速生成。循环生成对抗网络的结构包括两个生成器和两个判别器,利用无需一一对应的增强罗兰信号和电文数据集,使生成器学习到两个数据集之间的相互转换关系,实现输入电文数据可以生成与之相对应的增强罗兰信号,并且针对增强罗兰信号的特性,使用一维卷积、残差网络、自注意力机制对网络模型进行改进。实验证实,生成信号与实测数据的均方误差为0.015 3,平均皮尔逊相关系数为0.984 3,且所含电文信息准确率为99.02%。本文在PSK、ASK、FSK数据集上验证了算法,实验结果表明生成的信号满足预期,为未知参数的信号调制和解调提供一种新的思路。     

结合注意力机制的相对GAN螺栓图像生成

螺栓缺陷非常容易引起输电线路异常甚至故障,但大量的缺陷数据难以获得。将生成式对抗网络应用于缺陷螺栓图像的生成,针对生成过程中存在的图像质量差、生成样本单一,模型收敛缓慢等问题,提出一种基于改进DCGAN的螺栓图像生成方法。首先在损失函数中加入相对均值鉴别器和梯度惩罚,平衡了生成器和判别器的能力,提高了样本质量和模型的收敛速度;然后在模型的生成器和鉴别器中引入注意力机制,捕获图像中长距离的像素特征,提高了缺陷样本的多样性;实验结果验证了改进方法的有效性,实现了缺陷样本的扩增。     

基于改进生成对抗网络的动液面建模数据扩充

针对采用生成对抗网络进行油井生产参数数据生成时,部分生成数据不符合油井生产过程特性,导致动液面软测量建 模质量不高的问题,提出一种基于专家诊断的生成对抗网络油井动液面软测量建模数据扩充方法。 在判别器基于真实数据与 生成数据得到原始损失值后,结合油井生产的机理过程对生成数据的合理性进行专家诊断,检测判别器判别结果。 对错误结果 进行补偿并加入生成器与判别器的损失函数中进行后续对抗训练,从而生成较优的符合油井生产过程特性的动液面软测量建 模样本数据。 通过仿真实验,生成数据补充到软测量建模的训练数据中能够提高动液面的预测精度,均方根误差降低了 5. 99%。 表明加入专家诊断模块后生成器生成数据质量更高,能够更好地满足油田生产需求。     

基于双生成器生成对抗网络的电力系统暂态稳定评估方法

当前采用深度学习网络实现电力系统暂态稳定评估,由于样本多样性不足,抗干扰性差等问题导致评估算法的分类性能受到很大的影响。针对上述问题提出了一种基于双生成器生成对抗网络(doublegeneratorLSTM-generative adversarialnetwork, DGL-GAN)的暂态稳定评估方法。DGL-GAN中批量样本生成器与判别器构成对抗网络,通过交替训练学习暂态数据的分布特性,批量生成符合真实分布的新样本,解决样本多样性不足的问题;修复生成器由LSTM自编码器构成,其作用不但可以去除电力系统暂态数据中的噪声而且可以补偿仿真或量测缺失的片段,解决评估算法抗干扰能力差的问题。此外,提出的基于多层LSTM的网络结构设计可以进一步提高模型对暂态时序数据的特征提取能力。IEEE-39节点系统仿真结果表明:所提方法能够有效增强样本多样性,显著提升暂态稳定评估性能,同时还使得模型具有良好的抗干扰能力。