基于个性化差分隐私的联邦学习算法

联邦学习（FL）可以有效保护用户的个人数据不被攻击者获得,而差分隐私（DP）则可以实现FL的隐私增强,解决模型训练参数导致的隐私泄露问题。然而,现有的基于DP的FL方法只关注统一的隐私保护预算,而忽略了用户的个性化隐私需求。针对此问题,提出了一种两阶段的基于个性化差分隐私的联邦学习（PDP-FL）算法。在第一阶段,依据用户的隐私偏好对用户隐私进行分级,并添加满足用户隐私偏好的噪声,以实现个性化隐私保护,同时上传隐私偏好对应的隐私等级给中央聚合服务器;在第二阶段,为实现对全局数据的充分保护,采取本地和中心同时保护的策略,并根据用户上传的隐私等级,添加符合全局DP阈值的噪声,以量化全局的隐私保护水平。实验结果表明,在MNIST和CIFAR-10数据集上,PDP-FL算法的分类准确度分别为93.8%～94.5%和43.4%～45.2%,优于基于本地化差分隐私的联邦学习（LDP-Fed）和基于全局差分隐私的联邦学习（GDP-FL）,同时满足了个性化隐私保护的需求。     

面向用户的支持用户掉线的联邦学习数据隐私保护方法

联邦学习是解决多组织协同训练问题的一种有效手段,但是现有的联邦学习存在不支持用户掉线、模型API泄露敏感信息等问题。文章提出一种面向用户的支持用户掉线的联邦学习数据隐私保护方法,可以在用户掉线和保护的模型参数下训练出一个差分隐私扰动模型。该方法利用联邦学习框架设计了基于深度学习的数据隐私保护模型,主要包含两个执行协议:服务器和用户执行协议。用户在本地训练一个深度模型,在本地模型参数上添加差分隐私扰动,在聚合的参数上添加掉线用户的噪声和,使得联邦学习过程满足(ε,δ)-差分隐私。实验表明,当用户数为50、ε=1时,可以在模型隐私性与可用性之间达到平衡。     

面向推荐应用的差分隐私方案综述

大数据时代背景下,各行各业希望能基于用户行为数据来训练推荐模型,为用户提供精准推荐,所用数据的共性特点为总量庞大、携带敏感信息、易于获取.推荐系统在带来精准推荐和市场盈利的同时也正在实时分享着用户的隐私数据,差分隐私保护技术作为一门隐私保护技术,能够巧妙地解决推荐应用中存在的隐私泄露问题,其优势在于不需要考虑攻击方所具备的任何相关的背景知识、严格地对隐私保护进行了定义、提供了量化评估方法来保证数据集(在不同参数条件下)所提供的隐私保护水平具有可比较性.首先简述了差分隐私的概念和主流推荐算法的近期研究成果,其次重点分析了差分隐私与推荐算法相结合的应用情况,涉及的推荐算法有矩阵分解、深度学习推荐、协同过滤等,并对基于差分隐私保护的推荐算法的准确性进行了对比实验;然后讨论了与每种推荐算法结合的使用场景以及目前仍存在的问题,最后对基于差分隐私的推荐算法的未来发展方向提出了有效建议.     

融合显隐式反馈协同过滤的差分隐私保护算法

由于协同过滤推荐算法依赖用户的数据,因而存在很大的隐私泄露风险.差分隐私保护技术可提供严格的隐私保护效果,但目前大多数基于差分隐私的推荐算法没有考虑隐式反馈数据,针对该问题,提出了一种新的基于差分隐私保护的协同过滤推荐算法.首先对隐式反馈矩阵进行矩阵分解,得到用户和物品的隐式特征向量;然后把得到的隐式特征向量融合到显式反馈模型求解中,通过在模型求解过程中加入均值扰动和梯度扰动,使算法满足ε-差分隐私保护;最后应用此算法预测评分,并在MovieLens数据集上对算法进行有效性评价.实验结果表明,所提算法能在推荐结果的准确性和用户的隐私保护之间实现有效的平衡.     

基于隐私保护的联邦推荐算法综述

推荐系统通过集中式的存储与训练用户对物品的海量行为信息以及内容特征, 旨在为用户提供个性化的信息服务与决策支持. 然而, 海量数据背后存在大量的用户个人信息以及敏感数据, 因此如何在保证用户隐私与数据安全的前提下分析用户行为模式成为了近年来研究的热点. 联邦学习作为新兴的隐私保护范式, 能够协调多个参与方通过模型参数或者梯度等信息共同学习无损的全局共享模型, 同时保证所有的原始数据保存在用户的终端设备, 较之于传统的集中式存储与训练模式, 实现了从根源上保护用户隐私的目的, 因此得到了众多推荐系统领域研究学者们的广泛关注. 基于此, 对近年来基于联邦学习范式的隐私保护推荐算法进行全面综述、系统分类与深度分析. 具体的, 首先综述经典的推荐算法以及所面临的问题, 然后介绍基于隐私保护的推荐系统与目前存在的挑战, 随后从多个维度综述结合联邦学习技术的推荐算法, 最后对该方向做出系统性的总结并对未来研究方向与发展趋势进行展望.     

联邦学习下高效的隐私保护安全聚合方案

联邦学习能使用户不共享原始数据的情况下, 允许多个用户协同训练模型. 为了确保用户本地数据集不被泄露, 现有的工作提出安全聚合协议. 但现有的多数方案存在未考虑全局模型隐私、系统计算资源与通信资源耗费较大等问题. 针对上述问题, 提出了联邦学习下高效的强安全的隐私保护安全聚合方案. 该方案利用对称同态加密技术实现了用户模型与全局模型的隐私保护, 利用秘密共享技术解决了用户掉线问题. 同时, 该方案利用Pedersen承诺来验证云服务器返回聚合结果的正确性, 利用BLS签名保护了用户与云服务器交互过程中的数据完整性. 此外, 安全性分析表明该方案是可证明安全的; 性能分析表明该方案是高效且实用的, 适用于大规模用户的联邦学习系统.     

差分隐私保护在推荐系统中的应用研究

推荐系统已经成为Internet商家给用户提供个性化服务的高级商务智能平台之一。然而,用于研究推荐系统的数据信息里往往存在能够被攻击者直接或者间接获取的个人隐私。近年来受到极大关注的差分隐私保护是一种非常严格的、可证明的隐私保护模型。针对目前流行的协同过滤算法之一的矩阵分解进行了研究,提出了采用差分隐私保护技术对原始输入数据进行预处理和扰动处理的新方法。最后通过在真实数据集上进行相关实验验证,结果表明文中提出的带差分隐私保护的矩阵分解算法达到了预期：一方面既能保护用于做推荐研究的原始数据集的隐私,另一方面又没有严重影响推荐的准确率。     

基于社会化媒体情境的多维协同智能推荐

针对传统协同智能推荐技术的冷启动、数据稀缺性问题,为提高推荐算法的效率和准确性,提出一种基于社会化媒体情境的多维智能推荐算法模型。该模型将目标用户的属性特征、行为特征考虑到社会化媒体情境信息中,并动态实时捕捉用户在不同社会化媒体情境下的偏好倾向,利用联机分析处理(OLAP)技术对多维数据进行处理。该模型将用户间的社会化关系和所处的政治经济环境视为衡量用户相似的重要指标,同时使用皮尔森系数和云模型来计算用户间各特征的相似度,并以此为推荐基础向用户呈现更个性化和定制化的推荐结果。实验结果表明,该模型的推荐结果的平均绝对误差明显小于传统的协同智能推荐和单纯的基于云模型推荐技术。     

个性化推荐系统隐私保护策略研究进展

个性化推荐系统能较好地帮助用户获得个人所需的信息,但它要获得好的推荐效果,需要收集大量的用户个人信息;这些信息可能泄露个人隐私,用户会因对隐私泄露的担心而放弃对推荐系统的信任,所以大量的研究集中于如何在获得高效推荐的同时保护用户的个人隐私。主要就个性化推荐系统中使用的隐私保护技术进行了综述,在给出了隐私和隐私保护定义的同时讨论了隐私保护的相关技术,包括隐私策略描述语言和目前使用的隐私保护技术。最后尝试给出了今后的研究重点和方向。     

基于隐私保护的个性化推荐系统

针对传统个性化推荐系统存在的隐私容易泄露的缺点,提出一个基于代理的智能推荐系统,在向用户提供准确方便的内容推荐服务的同时保护用户隐私。在该系统中,所有用户私有信息的操作都在客户端执行,使用户隐私得到完善的保护。以嵌于RSS阅读器中的个性化广告系统为例,表明该方法能准确地推荐用户感兴趣的内容并且保护用户隐私。     

可穿戴设备数值型敏感数据本地差分隐私保护

针对数据服务器不可信时，直接收集可穿戴设备多维数值型敏感数据有可能存在泄露用户隐私信息的问题，通过引入本地差分隐私模型，提出了一种可穿戴设备数值型敏感数据的个性化隐私保护方案。首先，通过设置隐私预算的阈值区间，用户在区间内设置满足个人隐私需求的隐私预算，同时也满足了个性化本地差分隐私；其次，利用属性安全域将敏感数据进行归一化；最后，利用伯努利分布分组扰动多维数值型敏感数据，并利用属性安全域对扰动结果进行归一化还原。理论分析证明了该算法满足个性化本地差分隐私。实验结果表明该算法的最大相对误差（MRE）明显低于Harmony算法，在保护用户隐私的基础上有效地提高了不可信数据服务器从可穿戴设备收集数据的可用性。     

面向位置推荐的差分隐私保护方法

位置推荐服务能使用户更容易地获得周边的兴趣点信息,但也会带来用户位置隐私泄露的风险。为了避免位置隐私泄露带来的不利影响,提出一种面向位置推荐服务的差分隐私保护方法。在保持用户位置轨迹与签到频率特征的前提下,基于路径前缀树及其平衡程度采用均匀分配和几何分配两种方式进行隐私预算分配,然后根据隐私预算分配结果添加满足差分隐私的Laplace噪音。实验结果表明该方法能有效保护用户位置隐私,同时通过合理的隐私预算分配能减少差分隐私噪音对推荐质量的影响。     

基于云‒端融合的个性化推荐服务系统

主流个性化推荐服务系统通常利用部署在云端的模型进行推荐,因此需要将用户交互行为等隐私数据上传到云端,这会造成隐私泄露的隐患。为了保护用户隐私,可以在客户端处理用户敏感数据,然而,客户端存在通信瓶颈和计算资源瓶颈。针对上述挑战,设计了一个基于云?端融合的个性化推荐服务系统。该系统将传统的云端推荐模型拆分成用户表征模型和排序模型,在云端预训练用户表征模型后,将其部署到客户端,排序模型则部署到云端;同时,采用小规模的循环神经网络（RNN）抽取用户交互日志中的时序信息来训练用户表征,并通过Lasso算法对用户表征进行压缩,从而在降低云端和客户端之间的通信量以及客户端的计算开销的同时防止推荐准确率的下跌。基于RecSys Challenge 2015数据集进行了实验,结果表明,所设计系统的推荐准确率和GRU4REC模型相当,而压缩后的用户表征体积仅为压缩前的34.8%,计算开销较低。     

车联网中基于位置服务的个性化位置隐私保护

随着车联网的快速发展,用户享受车联网提供的位置服务(location-based services,LBSs)时,位置隐私泄漏是一个关键安全问题.针对车载网络中位置服务隐私泄露问题,提出了一种基于差分隐私的个性化位置隐私保护方案,在保护用户隐私的前提下,满足用户个性化隐私需求.首先,定义归一化的决策矩阵,描述导航推荐路线的效率和隐私效果;然后,引入多属性理论,建立效用模型,将用户的隐私偏好整合到该模型中,为用户选择效益最佳的驾驶路线;最后,考虑到用户的隐私偏好需求,以距离占比为衡量指标,为用户分配合适的隐私预算,并确定虚假位置的生成范围,以生成效用最高的服务请求位置.基于真实数据集,通过仿真实验,将所提方案与现有方案进行对比,实验结果表明:所提出的个性化位置隐私保护方案在合理保护用户隐私的情况下,能够满足用户的服务需求,以提供更高的服务质量(quality of service, QoS).     

面向个性化云服务的动态信任模型

为更好地实践云计算为用户提供廉价按需服务的宗旨,满足服务请求者的个性化需求,提出一种面向个性化云服务的动态信任模型。基于细粒度服务思想定义个性化云服务,通过引入时间衰减因子和建立高效激励机制修正直接信任值,以灰色系统理论为基础计算实体间的评价相似度,并将评价相似度和推荐者的推荐可信度作为合成推荐信任值的重要因素,同时提出一种基于评价相似度的自信因子赋值方法,以提高合成综合信任值的准确性。实验结果表明,与GM-Trust模型及CCIDTM模型相比,该模型的交互成功率分别平均提高了4%和11%。     

融合标签相似度的差分隐私矩阵分解推荐算法

推荐系统需要利用到大量的用户行为数据,这些数据极有可能暴露用户的喜好,给人们关心的隐私问题带来巨大的挑战。为保证推荐精度与用户隐私,提出一种结合差分隐私与标签信息的矩阵分解推荐模型。该模型首先将标签信息加入到项目相似度的计算过程;随后融入到矩阵分解推荐模型中提高推荐精度;最后运用随机梯度下降法求解模型最优值。为解决用户隐私问题,将拉普拉斯噪声划分成两部分,分别加入项目相似度与梯度求解过程中,使得整个推荐过程满足ε-差分隐私,并在一个真实的数据集上分析验证算法的有效性。实验表明,提出的方法能在保证用户隐私的情况下,仍具有较高的推荐精度。     

基于混合相似度和差分隐私的协同过滤推荐算法

现有协同过滤推荐算法中,存在的评分片面、主观性强、评分矩阵稀疏性等因素影响了推荐的精确度,并在推荐中存在隐私泄露等问题.针对上述问题,提出一种基于混合相似度和差分隐私的协同过滤推荐算法.该算法基于多种相似度进行加权计算构造混合相似度,提高推荐精度;以混合相似度作为质心更新和分类条件,利用改进的K-means算法将与目标用户相似度高的用户进行聚类;采用枚举方法在目标用户集中划分子集,并基于混合相似度构建效用函数,利用差分隐私指数机制在各子集中选择邻居集合,保护用户隐私;最后在邻居集合中选择出评分值最高的项目进行推荐.实验结果表明,该算法在保护用户隐私的同时,有效提高了推荐的精确度.     

基于差分隐私和SVD++的协同过滤算法

协同过滤技术在推荐系统的实现中具有广泛的应用,协同过滤以用户对商品项目的评价分数为依据,而这些评价有可能反映用户某些不欲为人知的喜好特点,因此,对具备隐私保护能力的协同过滤模型的研究引起了普遍的关注.SVD++是当前最为常用的协同过滤模型之一,差分隐私模型则是近十年来隐私保护理论最重要的研究进展之一,将两者相结合提出3种基于差分隐私和SVD++的协同过滤模型:基于梯度扰动的SVD++隐私保护模型、基于目标函数扰动的SVD++隐私保护模型和基于输出结果扰动的隐私保护模型.理论分析和实验结果显示,所提出的算法不仅能为用户的隐私安全提供可靠的保障,而且还可保持较高的预测准确度.     

基于差分隐私保护的兴趣点推荐算法设计

兴趣点推荐算法收集用户的历史行为记录,根据收集到的记录推测用户偏好,结合用户偏好向用户推荐新的兴趣点。针对传统的兴趣点推荐过程中,用户的隐私信息容易被泄露的问题,利用差分隐私保护机制对用户信息进行保护,防止被恶意攻击。差分隐私保护实现机制主要包括指数机制和拉普拉斯机制,均被使用于地理位置隐私保护算法中。基于差分隐私保护的地理位置隐私保护算法根据数据集中各项记录的相互关系建立位置搜索树;运用指数机制并结合树的结构挑选出经常访问的k项纪录;对这k项记录添加拉普拉斯噪声,发布加噪后的位置搜索树。实验表明,该算法能在推荐效果不变的情况下,有效地保护用户的隐私信息。     

基于改进匿名模型的上下文推荐系统研究

基于上下文感知的推荐系统通过引入上下文环境信息进行推荐,其中用户的隐私信息往往能够被攻击者直接或间接地获取到,造成隐私泄露。针对以上问题,在上下文感知推荐系统中融入一种改进的匿名模型。结合聚类方法将不同的敏感属性值进行分组,对多敏感属性进行匿名,在隐私保护方面,对高敏感属性信息具有较高的保护程度,有相似敏感程度的信息具有相似的保护程度。在真实数据集上的实验结果表明,该方法能在保护推荐系统中用户隐私的同时,提高推荐精确度。