共查询到20条相似文献,搜索用时 15 毫秒
1.
深度神经网络(DNN)因其优异的性能而被广泛应用,但易受对抗样本攻击的问题使其面临巨大的安全风险。通过对DNN的卷积过程进行可视化,发现随着卷积层数加深,对抗攻击对原始输入产生的扰动愈加明显。基于这一发现,采用动量法中前向结果修正后向结果的思想,该文提出一种基于动量增强特征图的防御算法(MEF)。MEF算法在DNN的卷积层上部署特征增强层构成特征增强块(FEB),FEB会结合原始输入以及浅层卷积层的特征图生成特征增强图,进而利用特征增强图来增强深层的特征图。同时,为了保证每层特征增强图的有效性,增强后的特征图还会对特征增强图进行进一步更新。为验证MEF算法的有效性,使用多种白盒与黑盒攻击对部署MEF算法的DNN模型进行攻击实验,结果表明在投影梯度下降法(PGD)以及快速梯度符号法(FGSM)的攻击实验中,MEF算法对对抗样本的识别精度比对抗训练(AT)高出3%~5%,且对干净样本的识别精度也有所提升。此外,使用比训练时更强的对抗攻击方法进行测试时,与目前先进的噪声注入算法(PNI)以及特征扰动算法(L2P)相比,MEF算法表现出更强的鲁棒性。 相似文献
2.
作为一种感知周围环境十分有效的方法,环境声音识别(Environment Sound Recognition,ESR)被广泛地应用在机器人导航、移动机器人、音频检索、音频取证以及其它基于情景感知、可穿戴的应用中.目前,较为简单的分类器已经大规模应用在ESR问题中,但却不能很好地反映和识别环境声音,而深度神经网络作为一种高性能、多层的神经网络,为更好地描述原始数据特征和解决模式识别问题提供了更有效的途径.为此,本文将深度神经网络应用在环境声音识别问题中,并对音频特征进行特征融合,通过训练深度信念网络(Deep Belief Network,DBN)进行环境场景的识别.实验结果表明,基于特征融合的方法的识别性能相较于分别采用音频特征的方法识别在性能上有明显提升,且将深度学习应用在ESR问题中具有明显的优势. 相似文献
3.
4.
5.
近年来,深度神经网络模型的安全性与鲁棒性成为了备受关注的重要问题。从前人们常探讨的对抗样本攻击,在物理世界中真正实施攻击的能力较弱,这促使了对抗补丁攻击的出现。文中介绍了图像分类模型中典型的对抗补丁攻击与防御方法相关研究,对其中的特点进行了分析,最后总结了对抗补丁研究中仍存在的主要挑战,并对未来的研究方向进行了展望。 相似文献
6.
基于二阶对抗样本的对抗训练防御 总被引:1,自引:0,他引:1
深度神经网络(DNN)应用于图像识别具有很高的准确率,但容易遭到对抗样本的攻击。对抗训练是目前抵御对抗样本攻击的有效方法之一。生成更强大的对抗样本可以更好地解决对抗训练的内部最大化问题,是提高对抗训练有效性的关键。该文针对内部最大化问题,提出一种基于2阶对抗样本的对抗训练,在输入邻域内进行2次多项式逼近,生成更强的对抗样本,从理论上分析了2阶对抗样本的强度优于1阶对抗样本。在MNIST和CIFAR10数据集上的实验表明,2阶对抗样本具有更高的攻击成功率和隐蔽性。与PGD对抗训练相比,2阶对抗训练防御对当前典型的对抗样本均具有鲁棒性。 相似文献
7.
深度神经网络(DNN)应用于图像识别具有很高的准确率,但容易遭到对抗样本的攻击.对抗训练是目前抵御对抗样本攻击的有效方法之一.生成更强大的对抗样本可以更好地解决对抗训练的内部最大化问题,是提高对抗训练有效性的关键.该文针对内部最大化问题,提出一种基于2阶对抗样本的对抗训练,在输入邻域内进行2次多项式逼近,生成更强的对抗样本,从理论上分析了2阶对抗样本的强度优于1阶对抗样本.在MNIST和CI-FAR10数据集上的实验表明,2阶对抗样本具有更高的攻击成功率和隐蔽性.与PGD对抗训练相比,2阶对抗训练防御对当前典型的对抗样本均具有鲁棒性. 相似文献
8.
由于目前网络空间处于攻防不对等的态势,基于“已知风险”的防护体系已经无法满足日益严峻的攻击压力,需要构建一种可以对“未知风险”进行防护且有一定自适应能力的安全架构。本文通过将红蓝对抗经验引入到安全防护体系的建设中,以网站防护为例,研究了构建基于拟态防御的安全架构模型,提出将自适应防护能力集合到安全工作的方法,从而提高了信息系统对未知威胁攻击的防护能力。 相似文献
9.
以深度学习为代表的智能化技术在提升电磁频谱控制与利用系统性能水平的同时,也暴露出其脆弱性,催生出一批以对抗样本为代表的智能电磁攻防技术。随着智能化的快速应用和发展,该领域势必成为电磁频谱竞争的又一个“制高点”。首次尝试着明确了电磁对抗样本攻防的概念内涵,为规范后续的关键技术研究和具体应用提供参考。分析了智能模型脆弱性机理,认为智能模型脆弱性与可解释性存在一定的关系,将专家知识嵌入到模型学习中是下一步改善模型鲁棒性的研究方向。系统梳理了电磁信号对抗样本攻击和对抗样本防御的研究脉络,总结了通用对抗样本领域的共性研究规律,可以直接为电磁信号对抗样本研究提供借鉴。通过总结电磁信号对抗样本的研究规律,提炼出电磁信号对抗样本特有的问题。在此基础上,结合团队近年在该领域的研究积累,提出下一步的发展趋势,对抗攻击下一步的研究趋势是适应跨模型、跨任务的场景,应更加注重领域知识的应用,目标是要对抗多源综合的传感器体系;对抗防御的研究趋势是寻找鲁棒性与泛化性的权衡,通过利用信号处理知识优化处理流程,提高模型的对抗防御性能。同时关注鲁棒性评估,这可能是下一代智能化系统可靠性评估的关键技术之一。 相似文献
10.
卷积神经网络(CNN)辨别频域-时域模式的能力使其适合于环境声音分类。然而数据的相对稀缺使该方法的应用受限。所以使用数据增强与卷积神经网络结合的方法来克服这一难点。首先,提出使用音频数据增强来增加训练数据,然后提出了一种卷积神经网络模型进行分类。所提出的方法对于环境声音分类的准确率达到了79.5%,这种方法既优于没有增强的CNN模型也优于具有增强的SVM模型。 相似文献
11.
通过对地面雷达对抗装备对空防御作战一般过程的分析,综合运用层次分析法和模糊数学方法,建立了较为完备的雷达对抗对空防御实战性训练水平评估指标体系和评估分析计算模型。提出了雷达对抗装备对空防御作战训练水平的综合定量分析和计算方法,对如何科学、客观地评估雷达对抗对空防御作战的训练水平做了有意义的探索。 相似文献
12.
提出一种基于环境特征判别学习的顽健语音识别方法,它首先通过使用一个简单的分类器和梯度下降法迭代地学得环境特征,接首利用得到的环境特征从观测到的混噪音特征中估计出纯净的语音特征,然后将估计出来的纯净语音特征用到后端的HMM分类器中,使用所提出的方法对不特定者小词表进行实验,其系统误识率与基本HMM系统相比下降了33.3%。 相似文献
13.
14.
复杂电磁环境下的雷达对抗实战化训练,是检验雷抗部队应对复杂电磁环境并发挥装备最大作战能力的有效手段.本文首先分析并建立了涵盖雷达对抗实战化训练多个方面的综合评估指标体系和评估流程;其次针对训练效果评估需求与电磁环境复杂度之间的关系,提出了用电磁环境复杂度影响因子来表示复杂电磁环境对训练效果的影响程度;最后采用层次分析法... 相似文献
15.
16.
通信对抗训练目标信号环境构设规划软件旨在解决基于模拟信号源的目标信号环境构设问题。简要介绍了软件的模块组成及运用方法;建立了等效逼真度评估指标并给出了评估方法和计算模型;提出了由配置位置规划、发信任务规划和动态阶段规划组成的构设规划算法;实例验证了模型和算法的可行性及软件的实用性。 相似文献
17.
本文为了解决姿态不变的面部表情识别即在任意姿态下的面部表情识别问题,提出了一种端到端的深度学习模型,该模型利用不同的姿态和表情进行面部图像合成扩充训练集,提高了模型的准确度,并有效地解决了姿态不变的面部表情识别问题。本文将介绍表情识别的主要过程以及模型中使用到的生成对抗网络(GAN)。 相似文献
18.
随着电子技术的不断发展及其在军事上的广泛应用,未来战场上更加复杂的电磁环境对雷达作用的正常发挥提出了更高的要求,从而使得雷达对抗问题成为当前研究的焦点。本文从雷达面临的复杂电子对抗环境以及雷达抗干扰技术的特点出发,对复杂电磁环境下的雷达对抗技术进行了分析,最后指出了雷达抗干扰技术的发展方向。 相似文献
19.
20.
为了解决恶意代码检测器对于对抗性输入检测能力的不足,提出了一种对抗训练驱动的恶意代码检测增强方法。首先,通过反编译工具对应用程序进行预处理,提取应用程序接口(API)调用特征,将其映射为二值特征向量。其次,引入沃瑟斯坦生成对抗网络,构建良性样本库,为恶意样本躲避检测器提供更加丰富的扰动组合。再次,提出了一种基于对数回溯法的扰动删减算法。将良性样本库中的样本以扰动的形式添加到恶意代码中,对添加的扰动进行二分删减,以较少的查询次数减少扰动的数量。最后,将恶意代码对抗样本标记为恶意并对检测器进行重训练,提高检测器的准确性和稳健性。实验结果表明,生成的恶意代码对抗样本可以躲避目标检测器的检测。此外,对抗训练提升了目标检测器的准确率和稳健性。 相似文献