| 针对深度学习模型的对抗性攻击与防御 |
| |
| 引用本文： | 李明慧, 江沛佩, 王骞, 沈超, 李琦. 针对深度学习模型的对抗性攻击与防御[J]. 计算机研究与发展, 2021, 58(5): 909-926. DOI: 10.7544/issn1000-1239.2021.20200920 |
| |
| 作者姓名： | 李明慧 江沛佩 王骞 沈超 李琦 |
| |
| 作者单位： | 1(空天信息安全与可信计算教育部重点实验室(武汉大学) 武汉 430072);2(武汉大学国家网络安全学院 武汉 430072);3(智能网络与网络安全教育部重点实验室(西安交通大学) 西安 710049);4(西安交通大学电子与信息学部 西安 710049);5(清华大学网络科学与网络空间研究院 北京 100084) (minghuili@whu.edu.cn) |
| |
| 基金项目： | 国家重点研发计划项目(2020AAA0107700);国家自然科学基金优秀青年科学基金项目(61822207);国家自然科学基金重点项目(U20B2049)。 |
| |
| 摘 要： | 以深度学习为主要代表的人工智能技术正在悄然改变人们的生产生活方式,但深度学习模型的部署也带来了一定的安全隐患.研究针对深度学习模型的攻防分析基础理论与关键技术,对深刻理解模型内在脆弱性、全面保障智能系统安全性、广泛部署人工智能应用具有重要意义.拟从对抗的角度出发,探讨针对深度学习模型的攻击与防御技术进展和未来挑战.首先介绍了深度学习生命周期不同阶段所面临的安全威胁.然后从对抗性攻击生成机理分析、对抗性攻击生成、对抗攻击的防御策略设计、对抗性攻击与防御框架构建4个方面对现有工作进行系统的总结和归纳.还讨论了现有研究的局限性并提出了针对深度学习模型攻防的基本框架.最后讨论了针对深度学习模型的对抗性攻击与防御未来的研究方向和面临的技术挑战.
|
| 关 键 词： | 人工智能安全 深度学习 对抗性攻击 防御策略 隐私保护 |
| 本文献已被 维普 万方数据 等数据库收录！ |
| 点击此处可从《计算机研究与发展》浏览原始摘要信息 |
|
点击此处可从《计算机研究与发展》下载免费的PDF全文 |
