首页 | 本学科首页   官方微博 | 高级检索  
     

联邦学习攻防研究综述
作者姓名:陈明鑫  张钧波  李天瑞
作者单位:1. 西南交通大学计算机与人工智能学院;2. 京东城市(北京)数字科技有限公司
基金项目:国家自然科学基金(72061127001);;北京市自然科学基金(4212021);;北京市科技新星项目(Z201100006820053)~~;
摘    要:
联邦学习用于解决数据共享与隐私安全之间的矛盾,旨在通过安全地交互不可逆的信息(如模型参数或梯度更新)来构建一个联邦模型。然而,联邦学习在模型的本地训练、信息交互、参数传递等过程中依然存在恶意攻击和隐私泄漏的风险,这给联邦学习的实际应用带来了重大挑战。文中针对联邦学习在建模和部署过程中存在的攻击行为及相应的防御策略进行了详细调研。首先,简要介绍了联邦学习的基本流程和相关攻防知识;接着,从机密性、可用性和正直性3个角度对联邦学习训练和部署中的攻击行为进行了分类,并梳理了相关的隐私窃取和恶意攻击的最新研究;然后,从防御诚实但好奇(honest-but-curious)攻击者和恶意攻击者两个方向对防御方法进行了划分,并分析了不同策略的防御能力;最后,总结了防御方法在联邦学习实践中存在的问题及可能导致的攻击风险,并探讨了联邦系统的防御策略在未来的发展方向。

关 键 词:联邦学习  数据安全  攻击与防御  数据融合  机器学习
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号