联邦学习中的模型逆向攻防研究综述

联邦学习作为一种分布式机器学习技术可以解决数据孤岛问题，但机器学习模型会无意识地记忆训练数据，导致参与方上传的模型参数与全局模型会遭受各种隐私攻击。针对隐私攻击中的模型逆向攻击，对现有的攻击方法进行了系统总结。首先，概括并详细分析了模型逆向攻击的理论框架；其次，从威胁模型的角度对现有的攻击方法进行总结分析与比较；再次，总结与比较了不同技术类型的防御策略；最后，对现有模型逆向攻击常用的评估标准及数据集进行汇总，并对模型逆向攻击现有的主要挑战以及未来研究方向进行总结。