基于安全多方计算和差分隐私的联邦学习方案

联邦学习为非互信实体间的合作学习提供了一种新的解决思路，通过本地训练和中央聚合的模式，在训练全局模型的同时保护各实体的本地数据隐私。然而相关研究表明，该模式下无论是用户上传的局部模型，还是中央聚合的全局模型，都会泄露用户数据的信息。安全多方计算和差分隐私作为两种主流的隐私保护技术，分别保护计算过程和计算结果的隐私。目前很少有工作结合这两种技术的优势，用于联邦学习训练全流程的防护。将安全多方计算、差分隐私相结合，设计了一种面向深度学习的隐私保护联邦学习方案，用户对本地训练得到的局部模型添加扰动，并秘密共享至多个中央服务器，服务器间通过多方计算协议对局部模型进行聚合，得到一个共享的秘密全局模型。该方案在保护用户上传的局部信息不被窃取的同时，防止敌手从聚合模型等全局共享信息展开恶意推断，并具有容忍用户掉线和兼容多种聚合函数等优点。此外，针对不存在可信中心的现实应用，上述方案可自然拓展至去中心化场景。实验表明，所提方案与相同条件下的明文联邦学习效率相近，且能取得同水平的模型准确率。