基于改进生成对抗网络的飞参数据异常检测方法

针对民用飞行器安全性、可靠性要求严苛,实际民航运营中飞行参数的异常样本稀少,整体样本不平衡且缺少标注的问题,研究深度学习与生成对抗网络技术,提出基于改进生成对抗网络的飞参数据飞行级异常检测方法. 该方法不依赖样本数量与标签,实现无监督学习的检测方法. 针对飞参数据,输入正常数据样本,应用易收敛的WGAN-GP改进型生成对抗网络模型,模拟生成正常数据样本,计算输入数据与模拟正常数据的巴氏距离,实现对异常数据的检测. 通过美国国家航空航天局模拟飞参数据的人工合成数据集以及真实运营环境下采集的快速存取记录器数据构建的飞参数据集,开展试验验证. 结果表明,与常用无监督模型相比,提出方法在部分异常检测性能指标上有显著提升.     

基于样本均衡与特征交互的通信网络故障预测方法

通信网络故障预测数据集样本不均衡,影响故障预测的准确性,对此,提出了基于样本均衡与特征交互的通信网络故障预测方法. 首先,将基于Wasserstein距离的梯度惩罚生成对抗网络(WGAN-GP)用于生成新的少数类样本,解决了告警数据集中存在的样本不均衡问题,并提出了嵌入记忆向量的特征生成卷积神经网络(M-FGCNN)模型. 利用多层感知器和卷积神经网络加强特征间的交互,将告警领域专家经验与因子分解机模型结合生成新的告警特征;在模型的嵌入矩阵中加入记忆向量并改进了模型的损失函数,增强了模型的记忆性. 在样本不均衡的公开数据集上进行实验的结果表明,引入WGAN-GP模型的方法比已有的样本均衡方法能生成质量更好的新数据. M-FGCNN模型比其他深度学习模型具有更好的通信网络故障预测性能.     

基于迁移学习的少样本朝鲜语古籍文字的识别方法

为解决少样本朝鲜语古籍文字识别精度低的问题,提出了一种基于迁移学习的少样本文字识别方法.首先提出了一种结合传统数据增强和条件深度卷积生成对抗网络的数据增强方法,以此扩充朝鲜语古籍文字图像的训练样本数.其次,将富样本集预训练得到的模型迁移到少样本数据集的学习任务中,以此实现少样本的朝鲜语古籍文字识别.实验结果表明,提出的数据增强方法能够满足模型预训练和少样本的学习要求,且VGG16、ResNet18和ResNet50 3种网络模型在测试集上均获得良好的识别性能,其中ResNet50的识别准确率最高(99.72%).因此,该方法可有效解决小样本的朝鲜语古籍文字识别问题,并可为其他语种的小样本文字识别提供参考.     

基于生成对抗网络的偏转人脸转正

为了提高偏转人脸转正的效果,借鉴双通道生成对抗网络（TP-GAN）双通道生成的思想,将原始网络中的深度卷积生成对抗网络（DCGAN）替换成边界均衡生成对抗网络（BEGAN）. 在传统两者对抗的网络结构中加入判别人脸身份的分类器,形成三者对抗的网络结构. 经实验对比可知,与在生成器损失函数中添加约束相比,结构上加入分类器对人脸身份一致性的保持更加有效. TP-GAN存在训练复杂、模式崩溃等难题,使用BEGAN的网络结构,可以避免这些问题,提高训练效率. 在Multi-PIE数据集及LFW上的实验结果表明,利用提出的方法能够高效地生成高质量的正面人脸图片,且保留人脸的身份特征.     

基于生成对抗网络的对抗样本集成防御

针对现有对抗样本防御方法防御能力不足、时间消耗过高等问题,参考生成对抗网络与集成学习在对抗样本研究中的优势,本文提出一种基于生成对抗网络的对抗样本集成防御方法.该方法使用生成对抗网络训练多个能够消除对抗样本表面对抗扰动的生成器,使用集成学习方法将多个生成器进行集成作为最终的防御.该方法的生成对抗网络由生成器和判别器组成...     

图像样式风格迁移的行人再识别方法

现有行人再识别模型的训练集,来源于有限的固定采集设备,样本样式风格缺乏多样性.通过循环生成对抗网络,使不同摄像机捕捉到的图像数据进行样式风格迁移,可以通过较低成本来提升样本风格的多样性.为了提高模型的泛化能力,设计了一种新的正负样本融合训练方法.首先,把样式风格迁移后的样本作为负样本,样式风格迁移前的样本作为正样本,将正负样本同时送入模型训练;进一步,为了防止过拟合,也为了考虑错误标签位置的损失,采用了标签平滑正则化;同时,为了更多地关注困难、易错分的样本,实现对负样本的损失优化,采用了焦点损失函数.实验结果表明,所提方法在Market-1501数据集和DukeMTMC-reID数据集上的识别准确率分别提升了1.51%和2.07%.     

基于LSGAN-LSTM的齿轮故障诊断

针对难以获取足量样本数据的齿轮故障诊断率低的问题,提出一种基于最小二乘生成对抗网络(LSGAN)结合长短期记忆网络(LSTM)的方法.将齿轮的原始样本输入LSGAN模型中,通过对生成网络和判别网络的交替训练,学习出不同状态的样本数据,从而实现数据增强,通过生成样本结合原始样本训练LSTM诊断模型,完成小样本下的故障诊断.以康狄涅格大学的齿轮实验数据为例对所提方法进行验证,结果表明,与传统方法相比,诊断准确率提高至98.3%.通过可视化方法显示出诊断方法的优越性,为小样本条件下的故障诊断提供参考.     

深度监督对齐的零样本图像分类方法

针对零样本图像分类中属性向量的类别区分性差及对可见类别产生分类偏好的问题,提出一种深度监督对齐的零样本图像分类（DSAN）方法. DSAN构造类语义的全局监督标记,与专家标注的属性向量联合使用以增强类语义间的区分性. 为了对齐视觉空间和语义空间的流形结构,采用视觉特征和语义特征分类网络分别学习2种空间特征的类别分布,并且无差异地对齐两者的分布. 利用生成对抗网络的原理消除特征间的本质差异,以按位加的方式合并视觉特征和类语义特征,并利用关系网络学习两者间的非线性相似度. 实验结果表明,DSAN在CUB、AWA1和AWA2数据集上对可见类别和未见类别的调和平均分类准确率比基线模型分别提高了4.3%、19.5%和21.9%;在SUN和APY数据集上,DSAN方法的调和平均分类准确率分别比CRnet方法高1.4%和2.2%,这些结果证明所提方法的有效性.     

基于DCGAN的印刷缺陷检测方法

近年来,深度学习被广泛应用于缺陷检测.目前方法可以检测较大的缺陷,但对于细微缺陷还是无法准确检测.针对这一问题,提出了一种基于深度卷积生成对抗网络(Deep convolu-tional generative adversarial networks,DCGAN)网络的印刷缺陷检测方法.该方法通过以下几点来提高检测精度:①在原有网络的基础上增加上采样模块,减少上采样中的损失;②提出一种自注意力机制,生成结构性更复杂和细节更准确的图像;③统计分析生成图像的噪声分布,确定最佳阈值,去除噪声,获得准确的缺陷图像.该方法加入了去噪处理,优化了网络结构,提高了DCGAN生成图像的精度.实验表明,与现有方法相比,在小于5像素的缺陷检测实验中,本方法可以使检测精度提高10％.     

基于无负样本损失和自适应增强的图对比学习

针对图对比学习方法中对输入图进行随机增强和须利用负样本构造损失的问题，提出基于无负样本损失和自适应增强的图对比学习框架.该框架利用输入图中节点度的中心性进行自适应增强以生成2个视图，避免随机增强对重要的节点和边进行删除从而影响生成视图的质量，以提高框架的鲁棒性.利用相同权重编码器网络得到2个视图的嵌入矩阵，无须进行指定.利用基于互相关的损失函数指导框架学习，该损失函数不依赖于非对称神经网络架构，无须用负样本构造损失函数，从而避免在图的情况下难以定义的负样本变得更具有挑战性，以及负样本构造损失会增大计算和存储负担的问题.所提框架在3个引文数据集上进行节点分类实验，结果表明，其在分类准确性方面优于很多基线方法.     

基于DCGAN反馈的深度差分隐私保护方法

为了防止攻击者在深度学习模型应用过程中利用生成式对抗网络(generative adversarial networks,GAN)等技术还原出训练集中的数据,保护训练数据集中用户的敏感信息,提出一个基于深度卷积生成式对抗网络(deep convolutional generative adversarial networks,DCGAN)反馈的深度差分隐私保护方法.该方法在深度网络参数优化计算时结合差分隐私理论添加噪声数据,基于差分隐私与高斯分布可组合特点,计算深度网络每一层的隐私预算,在随机梯度下降(stochastic gradient descent,SGD)计算中添加高斯噪声使之总体隐私预算最小;利用DCGAN生成数据选取可能得到的最优结果,通过对比攻击结果和原始数据之间的差别调节深度差分隐私模型参数,实现训练数据集可用性与隐私保护度的平衡.实验结果表明,该方法针对训练数据集中的敏感信息具有较高的隐私保护能力.     

一种基于对抗训练的医疗问答匹配方法

相较于英文开放领域的问答匹配,中文专业医疗领域的问答匹配任务更具有挑战性。针对中文语义和医疗数据的复杂、多样,大多数研究人员都专注于设计繁杂的神经网络来探索更深层次的文本语义,工作思路较为单一,同时神经网络模型很容易因为微小扰动而误判,模型的泛化能力较差。为此,提出了一种基于对抗训练的问答匹配模型,利用双向预训练编码器来捕获问答句的语义信息,从而得到对应的向量表征;再通过在词嵌入表示上添加扰动因子生成对抗样本;最后将初始样本和对抗样本共同输入带有线性层的模型中进行分类预测。在cMedQA V2.0数据集上通过对比实验证明了对抗训练可以有效提升问答匹配模型的性能。     

基于条件生成模型的高效近似查询处理框架

提出新型的近似查询处理方法,以克服近似查询处理任务中数据偏斜所导致的查询准确率低的问题. 该方法以条件生成对抗神经网络为基础,融入条件变分自编码器,保证算法执行的稳定性,提高模型准确率;使用Wasserstein距离衡量模型误差,防止模型坍塌. 基于该条件生成模型实现近似查询处理,回答用户查询而无须访问底层数据,避免磁盘交互,并与聚集预计算相结合,构成高效的近似查询处理框架,能更加准确、快速地回答交互式查询. 设计高效的表决算法,对模型生成的样本以及样本内部数据进行过滤,提高生成的样本质量,最小化查询误差. 实验结果表明,与其他近似查询处理算法相比,该方法可以有效克服数据偏斜的影响,同时能够在更短的交互时间内更加准确地回答用户查询.     

Unsupervised adversarial learning method for hard disk failure prediction

In order to solve the problem of over-fitting of traditional supervised learning methods in anomaly detection of unbalanced datasets, an unsupervised adversarial learning method is proposed for hard disk failure prediction. This method uses the long short-term memory neural network and fully connected layer to design an Autoencoder that can be used for secondary coding. Only normal samples are used for training. By reducing the reconstruction error and the distance between potential vectors, the model can learn the data distribution of normal samples, thus improving the generalization ability of the model. The model also introduces the generative adversarial network to enhance the effect of unsupervised learning. Experiments on several datasets show that the recall rate and precision of the proposed method are higher than those of traditional supervised learning and semi-supervised learning classifiers, and that its generalization ability is stronger. Therefore, the unsupervised adversarial learning method is effective in hard disk failure prediction.     

基于级联生成对抗网络的人脸图像修复

人脸图像修复技术为近年来图像处理领域的研究热点。该文提出一种基于级联生成对抗网络的人脸图像修复方法,从生成器、判别器、损失函数三个方面进行改良。生成器采用由粗到精的级联式模型,并结合密集连接模块使所修复区域更加精细;判别器采用局部与全局特征相融合的双重判别式模型以提升判别准确性;损失函数采用最小化重构损失和对抗网络损失相结合以获得更好训练效果。基于CelebA数据集的实验显示,该方法可实现面部区域丢失50%以上的人脸图像修复,在客观评价指标PSNR和SSIM上,较现有方法分别提高了1.1~7.5 dB和0.02~0.15。从主观效果来看,该方法修复的人脸图像拥有更丰富的细节、更显自然。     

基于CWGAN-GP平衡化的网络恶意流量识别方法

在网络恶意流量识别任务中,存在恶意流量样本数量与正常流量样本比例不平衡问题,从而导致训练出的机器学习模型泛化能力差、识别准确率低。为此,在网络流量图片化的基础上提出一种利用具有梯度惩罚项的条件Wasserstein生成对抗网络(CWGAN-GP)对少量数据类进行平衡的分类方法。该方法首先借助网络流量图片化方法将原始流量PCAP数据按照流为单位进行切分、填充、映射到灰度图片中;然后使用CWGAN-GP方法实现数据集的平衡;最后,在公开数据集USTC-TFC2016和CICIDS2017上使用CNN模型对不平衡数据集和平衡后的数据集进行分类测试。实验结果表明,使用CWGAN-GP的平衡方法在精确度、召回率、F1这3个指标上均优于随机过采样、SMOTE、GAN以及WGAN平衡方法。