基于雾扰动的图像分类对抗性攻击方法 |
| |
引用本文: | 高瑞均,郭青,余洪凯,冯伟.基于雾扰动的图像分类对抗性攻击方法[J].中国科学:信息科学,2023(2):309-324. |
| |
作者姓名: | 高瑞均 郭青 余洪凯 冯伟 |
| |
作者单位: | 1. 天津大学智能与计算学部;2. 国家文物局文物本体表面监测与分析研究重点科研基地;3. School of Computer Science and Engineering, Nanyang Technological University;4. Department of Electrical Engineering and Computer Science, Cleveland State University |
| |
基金项目: | 国家重点研发计划(批准号:2020YFC1522701);;国家自然科学基金(批准号:62072334)资助项目; |
| |
摘 要: | 对抗性攻击是研究深度神经网络脆弱性的前沿技术.然而现有工作大多关注基于加性噪声扰动的攻击,无法代表现实世界中的扰动因素,阻碍了对抗性攻击的实际应用.雾作为现实世界中广泛存在的自然现象,对图像造成显著影响,不可避免地对深度模型构成潜在威胁.本文首次尝试从对抗性攻击的角度研究雾对深度神经网络的影响,并提出两种基于雾扰动的对抗性攻击方法:基于优化的雾扰动对抗性攻击OAdvHaze,在深度神经网络的指引下优化大气散射模型参数,以合成有雾图像,该方法具有较高的攻击成功率.预测式雾扰动对抗性攻击PAdvHaze,采用深度神经网络直接预测雾合成参数,提高了对抗性攻击的速度.本文在ILSVRC 2012和NIPS 2017两个公开数据集上验证了所提出方法的有效性, OAdvHaze和PAdvHaze取得了与最先进攻击方法相当的攻击成功率和可迁移性.该工作将有助于评估和提高深度神经网络对现实世界中潜在雾扰动的鲁棒性.
|
关 键 词: | 对抗性攻击 图像分类 雾合成 深度学习 图像处理 |
|
|