基于差分隐私的联邦学习数据隐私安全技术

联邦学习方法在大数据时代有效解决了“数据孤岛”问题,也在一定程度上保障了数据隐私安全。然而,联邦学习的许多方面仍面临隐私风险。首先归纳总结了联邦学习面临的常见隐私威胁,并针对不同类型的隐私威胁归纳出对应的隐私保护措施;其次重点针对差分隐私方法进行了探讨,归纳总结了一些差分隐私的实现方法;最后基于差分隐私设计了一种适用于联邦学习系统的隐私保护手段。     

基于PSI的纵向联邦学习数据隐私安全技术

联邦学习系统较好地解决了“数据孤岛”问题，也在一定程度上保护了私密训练数据，然而目前联邦学习仍然存在一些隐私安全风险。首先根据联邦学习系统的不同运行阶段归纳总结了其中的隐私安全威胁，并给出了一些解决办法；其次重点讨论了纵向联邦学习系统中的样本对齐问题，讨论和分析了现有的私密求交的基本方法，提出了一种基于零知识证明的私密求交方法并给出了一些改进方向；最后，基于该私密求交方法，讨论了该方法如何与其他方法结合进行联邦学习隐私保护。     

基于差分隐私模型的位置轨迹发布技术研究

位置轨迹大数据的安全分享、发布需求离不开位置轨迹隐私保护技术支持。在差分隐私出现之前,K-匿名及其衍生模型为位置轨迹隐私保护提供了一种量化评估的手段,但其安全性严重依赖于攻击者所掌握的背景知识,当有新的攻击出现时模型无法提供完善的隐私保护。差分隐私技术的出现有效地弥补了上述问题,越来越多地应用于轨迹数据隐私发布领域中。该文对基于差分隐私理论的轨迹隐私保护技术进行了研究与分析,重点介绍了差分隐私模型下位置直方图、轨迹直方图等空间统计数据发布方法,差分隐私模型下轨迹数据集发布方法,以及连续轨迹实时发布隐私保护模型。与此同时,在对现有方法对比分析的基础上,提出了未来的重点发展方向。     

联邦学习与其在不同产业中的应用概述

联邦学习(Federated Learning)是机器学习的一种新的范式,它可以跨设备进行分布式学习,以消除“数据孤岛”问题,同时保护模型在学习过程中的数据交互隐私。文中首先对联邦学习的兴起和发展进行概述;其次归纳了联邦学习的定义及算法;然后重点介绍了联邦学习在医疗、金融等行业中的应用,探讨了联邦学习现在面临的挑战;最后展望了联邦学习在当今时代的发展前景。     

基于区块链的联邦学习应用研究

联邦学习区块链应用领域、架构特性和隐私机制等,具有很强的互补性和兼容性。将这两种技术结合起来,以增加隐私保护。数据交换是在计算性能的机制进行。基于区块链的联邦学习,了解有关开发基于区块链的联邦学习最新研究成果。人工智能离不开大数据,由于目前的数据管控政策和行业竞争造成的数据孤岛严重限制了大数据技术的使用价值。联邦学习可以消除数据孤岛,在多个参与者不公开数据集的情况下,共同完成模型学习。由于中心化的相互依赖,以及隐私泄露的风险,基于区块链的联邦学习方法已进入人工智能研究领域。基于此,本文讨论了联邦学习和区块链的概念,结合区块链和联邦学习进行了分析。     

基于联邦学习的安全与隐私保护技术研究

联邦学习是一种高效隐私保护技术,其能在不直接获得数据源的情景下,通过参与方的本地训练及传输主要参数,进而成功训练出一个完整的学习模型。但联邦学习本体也有很多隐患因素,文章简单介绍联邦学习的概念,分析联邦学习内的威胁因素,包括投毒攻击、对抗攻击及隐私泄露,探究相关防御思路与策略。     

基于中国剩余定理的Paillier加密改进方法

联邦学习（federated learning, FL）是最近几年快速兴起的一种分布式机器学习算法,可以在不交换数据的前提下保护隐私。但是在模型训练的过程中,由于一些“诚实且好奇”的客户端的参与,可能会导致隐私信息的泄露或遭受到成员推理、属性推理或恢复数据训练等攻击。因此,对于联邦学习中隐私保护技术的研究已经成为新的热点。在现阶段的研究中,常采用同态加密（homomorphic encryption, HE）技术进行隐私保护,而Paillier同态是最常用的加密算法之一。为了使得加密算法更高效,利用中国剩余定理（Chinese remainder theorem, CRT）对Paillier同态加密算法的计算过程进行优化,并与未优化的Paillier加密算法进行对比实验。实验结果表明,优化后的加密算法在联邦学习中,既提升了其隐私性能,也提高了同态加密计算的效。     

医疗数据场景下的联邦学习研究综述

随着人工智能与医疗大数据的融合,医疗数据隐私保护成为制约其发展的核心问题,联邦学习作为新型分布式隐私计算框架,旨在解决隐私安全于数据共享之间的矛盾。目前基于联邦学习的框架已运用于诸多医疗场景,取得较好成效,因此对联邦学习的概念、应用和未来发展的分析尤为重要。文章首先介绍联邦学习的概念、分析特点和列举现有框架;接着对联邦学习的三个应用领域,医疗影像、疾病风险预测和药物挖掘进行梳理,并介绍最新相关研究;最后从可解析性、安全性、性能效率三个角度探讨展望联邦学习未来研究方向。     

移动对象不确定轨迹隐私保护算法研究

随着移动设备和定位技术的发展,产生了大量的移动对象轨迹数据,相伴而来的是个人隐私泄露问题。现有的轨迹隐私保护研究均假设轨迹数据是准确无误的,但由于数据采集设备不精确、移动对象延迟更新等原因,轨迹数据不确定性普遍存在。提出了一种基于K-匿名的不确定轨迹数据隐私保护方法,对发布的数据进行隐私处理,该方法首次将线性轨迹转化为不确定区域的思想引进轨迹数据的隐私处理。首先,使用概率统计的方法将轨迹泛化成一个更为真实的轨迹区域,然后将相似度高的轨迹域聚合成等价类进行数据的隐匿和发布,最后在真实的数据集上进行实验。     

位置隐私保护技术研究

位置服务给人们的生活带来诸多便利的同时,也面临泄漏用户位置信息的危险,这为他人实施不法行为提供了可乘之机。隐私问题已经成为位置服务以及研究人员的一个严峻的挑战。解决隐私问题的关键是在保护个人信息的同时也要保证服务质量,需要在两者之间取得平衡。文中综述了基于轨迹的隐私保护技术和基于位置的隐私保护技术的研究现状与进展,阐述了基于位置和轨迹的隐私保护方法、类型、目标和挑战,分析了隐私保护技术存在的主要问题,并对位置隐私保护技术的发展方向进行了探讨,为位置隐私保护的进一步研究提供参考。     

联邦学习在移动通信网络智能化的应用

为解决移动通信网络智能化中因用户隐私保护、数据孤岛等因素导致数据无法集中训练等问题,网络可融入联邦学习技术,构建高效的分布式可信网络智能化架构。概述了联邦学习研究现状以及标准现状,介绍了基于联邦学习的网络智能化架构,并基于该架构验证了客户体验管理应用案例,为移动通信网络与联邦学习的融合提供了参考和借鉴,进一步推动了联邦学习技术在网络智能化的应用。     

边缘计算下的联邦学习挑战及进展

<正>近年来，边缘计算和联邦学习技术受到了学术界和工业界的广泛关注。边缘计算充分利用位于边缘设备、边缘节点及边缘服务器上的计算和存储资源，减少对通信资源的消耗，提供了分布式计算和数据处理的能力。联邦学习作为一种分布式的机器学习方法，通过在本地进行模型训练，以达到保护数据隐私安全的目的。边缘计算和联邦学习这两项技术的结合，不仅可以实现边缘端的智能决策，还能减少通信开销，保护用户数据隐私安全。     

面向非独立同分布数据的联邦学习数据增强方案

为了解决联邦学习节点间数据非独立同分布(non-IID)导致的模型精度不理想的问题,提出一种隐私保护的数据增强方案。首先,提出了面向联邦学习的数据增强框架,参与节点在本地生成虚拟样本并在节点间共享,有效缓解了训练过程中数据分布差异导致的模型偏移问题。其次,基于生成式对抗网络和差分隐私技术,设计了隐私保护的样本生成算法,在保证原数据隐私的前提下生成可用的虚拟样本。最后,提出了隐私保护的标签选取算法,保证虚拟样本的标签同样满足差分隐私。仿真结果表明,在多种non-IID数据划分策略下,所提方案均能有效提高模型精度并加快模型收敛,与基准方法相比,所提方案在极端non-IID场景下能取得25%以上的精度提升。     

基于车雾环境的联邦学习动态隐私保护方案

当前已经有研究将雾环境与联邦学习结合应用在车联网隐私保护中,但是缺乏对车辆移动性可能导致隐私需求改变的问题的考虑。为此,文中基于区域内车辆终端数目,提出了在不同的隐私需求下实施不同的隐私保护和效率调整的方案,在同态加密方案中进行双重加密聚合并且动态调整本地迭代次数,在差分隐私方案中动态调整每轮云聚合与雾聚合次数。实验表明,在区域内车辆终端数不同的情况下,本方案满足在隐私计算的同时保持较高精度。     

联邦学习框架实现难点剖析

联邦学习是一种保护机密性的机器算法，可有效的应用于工业物联网。在联邦学习中，服务器协调多个客户端以进行模型学习。区块链在物联网和联邦学习中使用，可以有效的保持数据完整性，并吸引足够的数据和计算资源。机器学习已经发展阶段，大量高质量数据已成为限制发展的因素。在此背景下，对数据交换需求不断增长。传统的机器学习需要集中数据，对于数据孤岛和隐私要求，使各个业务部门无法做到交换数据。为了解决这个问题，联邦学习框架应运而生，本文分析了联邦学习框架的设计应用，分析了现行联邦学习框架存在的实现难点，以便相关人士更好地理解联邦学习框架。     

基于联邦学习的隐私保护区域交通流量预测模型

区域交通流量预测是智慧交通系统的一项重要功能。联邦学习可以支持多位置服务提供商(Location Service Provider, LSP)的联合训练,使得训练数据集可以更加全面地覆盖整个区域的交通流量,提高预测准确率。但是,当前基于联邦学习的区域交通流量预测方案存在车辆数据去重、训练节点背叛以及隐私泄露等问题。为此,构建了基于联邦学习的隐私保护区域交通流量预测(Privacy-Preserving Regional Traffic Flow Prediction based on Federated Learning, PPRTFP-FL)模型。模型采用中心部署架构,由联邦中央服务器协调各个LSP联合完成模型的训练,并对全局模型进行梯度聚合与模型更新;采用交叉评价加权聚合的策略来防御部分不可信节点对全局模型的恶意攻击,提升了全局模型的鲁棒性;预测阶段使用同态加密聚合算法,各LSP在不泄露自身运营数据的情况下实现了更准确的流量预测。利用相关数据集进行测试,测试结果表明当训练数据集覆盖区域流量充分的情况下,本模型相比本地模型的预测准确率有明显的提升。对模型进行不同比例的恶意节点攻击实验...     

基于生成模型的联邦学习隐私保护算法

在联邦学习中,交换模型参数或梯度信息通常被视作是安全的。但近期研究表明,模型参数或者梯度信息也会导致训练数据的泄露。基于保护客户端数据安全的目的,提出了一种基于生成模型的联邦学习算法。为了验证该算法的有效性,在DermaMNIST数据集上进行了仿真实验,采用梯度泄露攻击对算法进行验证。实验结果表明,提出的基于生成模型的联邦学习算法与联邦学习经典算法在准确率上仅仅相差0.02%,并且通过MSE、PSNR、SSIM等评价指标可以判断出该算法可以有效地保护数据隐私。     

基于差分隐私的轨迹隐私保护方法

针对现有的轨迹隐私保护模型大多难以抵御复杂背景知识攻击的问题,本文提出了一种基于差分隐私的轨迹隐私保护方法.首先结合地理不可区分机制对原始轨迹数据添加半径受限的拉普拉斯噪音;其次构造数据映射模型将原始数据和噪音数据映射到新的发布位置,使攻击者无法获取真实轨迹数据;接着应用最优数据映射函数发布最优的轨迹位置以提高发布数据的可用性;最后利用差分隐私抵御非敏感信息推理攻击,进一步保护用户隐私.实验结果表明,本文算法既能有效保护轨迹数据中用户的隐私,也能保证数据的可用性.     

移动社交网络中基于代理转发机制的轨迹隐私保护方法

K匿名技术是当前轨迹隐私保护的主流方法,但该方法也存在隐私泄露的风险。该文提出一种在移动社交网络中基于代理转发机制(BAFM)的轨迹隐私保护方法。该方法利用安全多方计算和内积安全计算进行隐私加密匹配,通过可信服务器在移动社交网络中找最匹配的用户做代理,然后由代理转发用户的请求到服务器进行查询,隐藏用户的真实轨迹与位置服务器的联系,有效保护用户的轨迹隐私。安全分析表明该方法能有效保护用户的轨迹隐私;同时,通过实验验证该方法相对K匿名更高效,能减小服务器的查询和通信开销。     

基于预测和滑动窗口的轨迹差分隐私保护机制

为解决轨迹差分隐私保护中存在的隐私预算与服务质量等问题,提出了一种融合预测扰动的轨迹差分隐私保护机制。首先,利用马尔可夫链和指数扰动方法预测满足差分隐私和时空安全的扰动位置,并引入服务相似地图检测该位置的可用性;如果预测成功,则直接采用预测位置替代差分扰动的位置,以降低连续查询的隐私开销并提高服务质量。在此基础上,设计基于w滑动窗口的轨迹隐私预算分配机制,确保轨迹中任意连续的w次查询满足ε-差分隐私,解决连续查询的轨迹隐私问题。此外,基于敏感度地图设计一种隐私定制策略,通过自定义语义位置的隐私敏感度,实现隐私预算的量身定制,从而进一步提高其利用率。最后,利用真实数据集对所提方案进行实验分析,结果显示所提方案提供了更好的隐私保护水平和服务质量。