| 前馈神经网络和循环神经网络的鲁棒性验证综述 |
| |
| 引用本文： | 刘颖,杨鹏飞,张立军,吴志林,冯元. 前馈神经网络和循环神经网络的鲁棒性验证综述[J]. 软件学报, 2023, 34(7): 3134-3166 |
| |
| 作者姓名： | 刘颖 杨鹏飞 张立军 吴志林 冯元 |
| |
| 作者单位： | 中国科学院软件研究所 国家重点实验室, 北京 100190;中国科学院大学, 北京 100049;中国科学院软件研究所 国家重点实验室, 北京 100190;人工智能与数字经济广东省实验室, 广州 510320;悉尼科技大学 悉尼 澳大利亚 |
| |
| 基金项目： | 中国科学院青年科学基金项目(YSBR-040) |
| |
| 摘 要： | 随着智能时代的到来,部署了深度神经网络的智能系统应用已经渗透到了人类生活的各个方面.然而,由于神经网络具有黑盒特性和规模庞大的特点,其预测结果难以让人完全信服,当应用于自动驾驶等安全攸关的领域时,如何保证其安全性仍然是学术界和工业界面临的巨大挑战.为此,学术界针对神经网络一种特殊的安全性——鲁棒性展开了研究,并提出了很多鲁棒性的分析和验证方法.目前为止,验证前馈神经网络的方法包括精确验证方法和近似验证方法,已经发展得比较繁荣;而对于其他类型的网络,如循环神经网络的鲁棒性验证研究还处于起步阶段.回顾深度神经网络的发展以及部署到日常生活中面临的挑战;详尽地调研前馈神经网络和循环神经网络的鲁棒性验证方法,并对这些验证方法间的内在联系进行分析和比较;调研循环神经网络在现实应用场景中的安全性验证方法;阐明神经网络鲁棒性验证领域未来可以深入研究的方向.
|
| 关 键 词： | 神经网络 鲁棒性 人工智能安全 智能系统 形式化方法 |
| 收稿时间： | 2022-09-05 |
| 修稿时间： | 2022-10-08 |
Survey on Robustness Verification of Feedforward Neural Networks and Recurrent Neural Networks |
| |
| LIU Ying,YANG Peng-Fei,ZHANG Li-Jun,WU Zhi-Lin,FENG Yuan. Survey on Robustness Verification of Feedforward Neural Networks and Recurrent Neural Networks[J]. Journal of Software, 2023, 34(7): 3134-3166 |
| |
| Authors: | LIU Ying YANG Peng-Fei ZHANG Li-Jun WU Zhi-Lin FENG Yuan |
| |
| Affiliation: | State Key Laboratory of Computer Science, Institute of Software, Chinese Academy of Sciences, Beijing 100190, China;University of Chinese Academy of Sciences, Beijing 100049, China;State Key Laboratory of Computer Science, Institute of Software, Chinese Academy of Sciences, Beijing 100190, China;Pazhou Lab, Guangzhou 510320, China; University of Technology Sydney, Sydney, Australia |
| |
| Abstract: | |
| |
| Keywords: | neural network robustness artificial intelligence security intelligent system formal method |
|
| 点击此处可从《软件学报》浏览原始摘要信息 |
|
点击此处可从《软件学报》下载全文 |
|
