| 面向联邦学习的神经通路中毒攻击方法 |
| |
| 引用本文： | 李晓豪,郑海斌,陈晋音,谢欣怡,张龙源,鲍亮.面向联邦学习的神经通路中毒攻击方法[J].小型微型计算机系统,2023(7):1578-1585. |
| |
| 作者姓名： | 李晓豪 郑海斌 陈晋音 谢欣怡 张龙源 鲍亮 |
| |
| 作者单位： | 1. 浙江工业大学信息工程学院;2. 浙江工业大学网络空间安全研究院;3. 信息网络安全公安部重点实验室 |
| |
| 基金项目： | 国家自然科学基金项目(62072406)资助；;浙江省自然科学基金项目(LY19F020025)资助；;国家重点研发计划基金项目(2018AAA0100801)资助； |
| |
| 摘 要： | 随着人工智能技术与大数据科学的不断发展，联邦学习在金融、医疗、工业制造等重要领域中得到广泛运用.同集中式学习相比，联邦学习在效率和安全性上都有明显的优势.然而，随着应用层次的逐步深入，联邦学习也随之暴露出一些安全问题，例如：隐私窃取、中毒攻击等.为了更好的挖掘联邦学习中存在的安全漏洞，本文提出了一种面向联邦学习的神经通路中毒攻击方法(Neural Path Poisoning Attack, NPFA).首先利用准备的中毒数据集生成与目标模型等价的中毒模型，然后提取中毒模型中的神经通路并替换目标模型的神经通路，使得联邦模型在聚合的过程中中毒，并在保持中毒能力的同时克服中毒模型与正常模型差异较大这一问题，实现隐蔽的中毒攻击，绕过防御方法.大量实验验证了植入神经通路后的中毒成功率可以达到85%以上，并且联邦学习主任务性能略有提升.值得一提的是，在一些联邦防御方法下，NPFA依旧有很好的攻击效果.
|
| 关 键 词： | 联邦学习 中毒攻击 神经通路 安全性 |
|
|
