一种面向联邦学习对抗攻击的选择性防御策略

联邦学习(FL)基于终端本地的学习以及终端与服务器之间持续地模型参数交互完成模型训练，有效地解决了集中式机器学习模型存在的数据泄露和隐私风险。但由于参与联邦学习的多个恶意终端能够在进行本地学习的过程中通过输入微小扰动即可实现对抗性攻击，并进而导致全局模型输出不正确的结果。该文提出一种有效的联邦防御策略-SelectiveFL，该策略首先建立起一个选择性联邦防御框架，然后通过在终端进行对抗性训练提取攻击特性的基础上，在服务器端对上传的本地模型更新的同时根据攻击特性进行选择性聚合，最终得到多个适应性的防御模型。该文在多个具有代表性的基准数据集上评估了所提出的防御方法。实验结果表明，与已有研究工作相比能够提升模型准确率提高了2%～11%。