一种面向LTE-V2X的联邦学习信道估计算法

基于深度学习的信道估计方法中,训练网络模型需要大量的数据运算,且所有用户数据都需要集中上传至服务器上,存在隐私泄漏的隐患.针对上述问题,提出了一种基于联邦学习的LTE-V2X(Long Term Evolution-Vehicle to Everything)信道估计算法,采用CNN-LSTM-DNN(Convolutional Neural Network-Long Short Term Memory-Deep Neural Network)模型对时变的信道进行估计,并将学习网络模型所需要的计算分配到车载用户中,在降低道旁基站负载的同时也保护了车载用户数据的隐私.仿真结果表明,基于联邦学习的信道估计算法在车载用户高速移动的场景下,较传统的信道估计算法平均有10 dB以上的归一化均方误差(Normalized Mean Square Error,NMSE)增益以及3 dB以上的误码率(Bit Error Rate,BER)增益,且较集中式学习算法相比,NMSE性能差距在3 dB以内;BER性能差距在1 dB以内,所提算法能够有效追踪时变的信道,且与集中式学习算法相比仅损失了极少的性能.     

关于车联网联邦学习中可信信誉管理方法的研究

联邦学习由于其分布式、隐私保护等特点有望应用到车联网中,然而由于缺少相应的本地模型质量验证机制,全局模型容易受到恶意用户的攻击从而导致模型训练的准确率降低。提出一种车联网中分层区块链使能的联邦学习信誉管理架构。首先介绍整个架构的组成以及具体的工作流程,然后设计智能合约为系统提供更加灵活可信的信誉意见共享环境,并开发一种轻量级的区块链共识算法,以提升区块链的运行效率。仿真结果表明所提方法能够筛选出恶意用户,同时保证数据隐私和安全,从而提高FL的准确性。     

一种采用联邦深度强化学习的车联网资源分配方法

在车联网中,为了充分利用可用资源,车到车(Vehicle to Vehicle,V2V)链路需要动态地复用固定分配给车到基础设施(Vehicle to Infrastructure,V2I)链路的信道。传统的集中式信道资源分配方法会产生较大的通信开销,也难以适应转瞬即逝的车辆环境。为此,提出了一种基于分布式联邦深度强化学习(Federated Deep Reinforcement Learning,FDRL)的信道资源分配方法。首先,所有V2V智能体基于局部观察的环境信息独立地训练自己的模型,但彼此间保持相同的奖励以激励它们相互协作进而达成全局最优方案;然后,这些V2V智能体通过基站的帮助聚合部分模型参数,以增加接入公平性并加快模型学习效率。通过上述两阶段的迭代训练,每个V2V智能体训练出独特的决斗深度神经网络信道接入决策模型。仿真结果表明,所提出的FDRL方法与现有的优化方法相比具有更高的V2I链路总容量和V2V链路传输成功率。     

面向星地协同网络的联邦边缘学习方法研究

目前地面蜂窝网络无法实现全球广域覆盖,同时抗毁性不高。低轨卫星网络的加入,弥补了地面蜂窝网络的不足。二者协同成为星地协同网络后可以打破两种网络之间互相独立的现状并结合它们的优点,是未来的发展趋势。在对星地协同网络中海量设备产生的大量数据进行分析处理时,易出现隐私信息泄露和数据孤岛问题。为解决上述问题,提出一种包含分层聚合和用户关联策略的联邦边缘学习算法。该算法通过分层聚合来适配星地协同网络,并通过用户关联策略实现时延和模型精度的联合优化。仿真表明,所提出的算法可以使协同网络中进行联邦边缘学习的全过程时延较低,同时可以得到较高的模型测试精度。     

面向纵向联邦学习的对抗样本生成算法

为了适应纵向联邦学习应用中高通信成本、快速模型迭代和数据分散式存储的场景特点,提出了一种通用的纵向联邦学习对抗样本生成算法VFL-GASG。具体而言,构建了一种适用于纵向联邦学习架构的对抗样本生成框架来实现白盒对抗攻击,并在该架构下扩展实现了L-BFGS、FGSM、C&W等不同策略的集中式机器学习对抗样本生成算法。借鉴深度卷积生成对抗网络的反卷积层设计,设计了一种对抗样本生成算法VFL-GASG以解决推理阶段对抗性扰动生成的通用性问题,该算法以本地特征的隐层向量作为先验知识训练生成模型,经由反卷积网络层产生精细的对抗性扰动,并通过判别器和扰动项控制扰动幅度。实验表明,相较于基线算法,所提算法在保持高攻击成功率的同时,在生成效率、鲁棒性和泛化能力上均达到较高水平,并通过实验验证了不同实验设置对对抗攻击效果的影响。     

一种提高联邦学习准确度的算法

联邦学习可以使客户端在不公开其本地数据的情况下合作训练一个共享模型,此种学习方式保证了客户端数据的隐私性。但是,与集中式学习相比,客户端数据的异构性会大大降低联邦学习的性能。数据异构使本地训练的模型向不同方向更新,导致聚合后的全局模型性能较差。为了缓解数据异构对联邦学习造成的影响,算法提出了基于模型对比和梯度投影的联邦学习算法。此算法设计了一个新的损失函数。新损失函数利用全局模型与本地模型的差异性来指导本地模型的更新方向,并且通过降低全局梯度与本地梯度的冲突来提高模型准确度。实验表明相比其他算法,此算法可以在不增加任何通信开销的情况下达到更高的准确度。     

冗余数据去除的联邦学习高效通信方法

为了应对终端设备网络带宽受限对联邦学习通信效率的影响,高效地传输本地模型更新以完成模型聚合,提出了一种冗余数据去除的联邦学习高效通信方法。该方法通过分析冗余更新参数产生的本质原因,根据联邦学习中数据非独立同分布特性和模型分布式训练特点,给出新的核心数据集敏感度和损失函数容忍度定义,提出联邦核心数据集构建算法。此外,为了适配所提取的核心数据,设计了分布式自适应模型演化机制,在每次训练迭代前动态调整训练模型的结构和大小,在减少终端与云服务器通信比特数传输的同时,保证了训练模型的准确率。仿真实验表明,与目前最优的方法相比,所提方法减少了17%的通信比特数,且只有0.5%的模型准确率降低。     

基于纵向联邦学习的快速提升树算法

针对联邦学习算法中存在的训练效率低、通信成本高等问题,提出基于纵向联邦学习的快速提升树算法,在模型传递一阶导数和二阶导数时使用差分隐私方案,并在初始化预测类标签时增加随机扰动。相比于目前常见联邦学习框架FATE中依靠半同态加密实现的安全提升树(SecureBoost)模型,本算法在不降低模型精度的情况下,在相同8.5万样本的数据上,运行速度提升了60.79%,传输数据量减少了31.65%。相同65万样本的数据上,运行速度提升了50.54%,传输数据量减少了12.05%。     

一种面向联邦学习对抗攻击的选择性防御策略

联邦学习(FL)基于终端本地的学习以及终端与服务器之间持续地模型参数交互完成模型训练,有效地解决了集中式机器学习模型存在的数据泄露和隐私风险。但由于参与联邦学习的多个恶意终端能够在进行本地学习的过程中通过输入微小扰动即可实现对抗性攻击,并进而导致全局模型输出不正确的结果。该文提出一种有效的联邦防御策略-SelectiveFL,该策略首先建立起一个选择性联邦防御框架,然后通过在终端进行对抗性训练提取攻击特性的基础上,在服务器端对上传的本地模型更新的同时根据攻击特性进行选择性聚合,最终得到多个适应性的防御模型。该文在多个具有代表性的基准数据集上评估了所提出的防御方法。实验结果表明,与已有研究工作相比能够提升模型准确率提高了2%～11%。     

面向联邦学习的6G大规模物联网资源跳跃多址方案

随着移动设备的广泛应用和大数据的快速增长,联邦学习作为一种在分散数据环境中进行机器学习的新兴范式,吸引了越来越多的关注。同时,5G/6G均将大规模物联网场景作为其核心场景之一,以通过实现大规模设备连接来完成未来海量分散数据的实时传输。因此,6G大规模物联网可以为联邦学习中海量终端的数据处理提供有力支撑。多址技术是6G大规模物联网实现海量连接的关键,现有研究提出了多种面向大规模物联网的新型多址方案,其中资源跳跃多址方案考虑信道资源的跳跃,通过给不同用户分配不同的资源跳跃图案从而实现海量用户接入。提出了资源跳跃多址与联邦学习的结合方案,将联邦学习客户端的通信信道划分为多个子信道,然后根据其数据特征和计算资源分配资源跳跃图案。结果表明,所提出的结合方案不仅能够提高联邦学习模型的训练速度,而且能够有效保护用户数据的隐私。     

基于事件触发的通信有效联邦学习算法

由于实际网络的带宽是有限的,因此客户端和中心服务器之间的通信成为联邦学习的一个主要瓶颈。为了减小通信开销,该文引入事件触发机制,提出一个通信有效的联邦学习算法(FedET)。首先,客户端利用事件触发机制判断是否需要向中心服务器发送当前模型。然后,中心服务器基于收到的信息进行模型聚合。具体地,在每个通信轮次,客户端完成本地模型训练之后,将模型更新和触发阈值进行比较,若触发通信,则将信息进行压缩后发送给中心服务器。进一步地,分别对满足凸的、PL(Polyak-Łojasiewicz)条件的和非凸的光滑目标函数,该文分析了所提算法的收敛性并给出了证明。最后,在两个标准的数据集上进行仿真实验。实验结果验证了所提算法的可行性和有效性。     

联邦学习与数据安全研究综述

数据孤岛是制约人工智能技术发展和落地的主要障碍,随着国家与个人对隐私保护意识的增强,联邦学习在数据不共享的情况下,却能达到数据共享目的,受到广泛关注,联邦学习分为:横向联邦学习、纵向联邦学习和联邦迁移学习,具有数据隔离、质量保证、各参数方地位等同、独立性等优点,但联邦学习也存在很多的安全隐患,本文详细探讨了联邦学习的原...     

基于聚类分析的横向联邦学习方案

联邦学习是一种分布式的学习方法,参与者协同训练模型,参与者将数据保留在本地,只是把模型参数发送到服务器,从而保证了数据的安全性。研究发现,在模型训练的过程中,存在遭受数据投毒的数据或恶意窜改的数据,使训练的模型难以取得较好的预测效果。因此,文章提出一个基于聚类分析的参与者评价算法,通过对数据集进行联合分析并采取相应的措施来防御投毒攻击。实验结果证明了方案的合理性和实效性,有效防止了横向联邦学习中的投毒攻击。     

智能反射面赋能的联邦边缘学习及其在车联网中的应用

针对无线链路和数据分布的异构性导致在FEEL训练中很难实现无线通信和模型精度的最佳权衡的问题,提出了一种智能反射面（RIS）赋能的空中联邦边缘学习系统,其利用智能反射面的信道可重构性自适应地配置信号传播环境,并利用空中计算实现联邦边缘学习模型的快速聚合。具体来说,首先刻画无线信道和数据异构影响下的联邦优化算法收敛行为,并以此构造统一的无线资源优化问题,通过联合设计收发端波束成形方案和RIS相移来优化学习性能。仿真结果验证了所提方案的有效性,并证明RIS可以在数据异构前提下提高空中联邦边缘学习系统准确性。最后,探讨了其在车联网中应用的可能性。     

一种新的动态模糊参数学习算法研究

在现实世界中,不完整数据广泛存在,如何从不完整数据中进行机器学习是一个非常重要的问题.文中主要针对数据的动态模糊性,给出一种高效的基于贝叶斯网络的动态模糊机器学习系统的参数学习算法,并验证了它的有效性.     

基于合作博弈和知识蒸馏的个性化联邦学习算法

为克服联邦学习(FL)客户端数据和模型均需同构的局限性并且提高训练精度,该文提出一种基于合作博弈和知识蒸馏的个性化联邦学习(pFedCK)算法。在该算法中,每个客户端将在公共数据集上训练得到的局部软预测上传到中心服务器并根据余弦相似度从服务器下载最相近的k个软预测形成一个联盟,然后利用合作博弈中的夏普利值(SV)来衡量客户端之间多重协作的影响,量化所下载软预测对本地个性化学习效果的累计贡献值,以此确定联盟中每个客户端的最佳聚合系数,从而得到更优的聚合模型。最后采用知识蒸馏(KD)将聚合模型的知识迁移到本地模型,并在隐私数据集上进行本地训练。仿真结果表明,与其他算法相比,pFedCK算法可以将个性化精度提升约10%。     

基于联邦学习的安全与隐私保护技术研究

联邦学习是一种高效隐私保护技术,其能在不直接获得数据源的情景下,通过参与方的本地训练及传输主要参数,进而成功训练出一个完整的学习模型。但联邦学习本体也有很多隐患因素,文章简单介绍联邦学习的概念,分析联邦学习内的威胁因素,包括投毒攻击、对抗攻击及隐私泄露,探究相关防御思路与策略。     

基于区块链的联邦学习应用研究

当前人工智能的应用离不开大数据,而由于隐私保护、数据监管政策以及行业竞争态势导致的数据孤岛现象严重制约了大数据能够产生的价值.联邦学习是一种可以打破数据孤岛存在,致力于在多个参与方互不公开数据集的情形下,协同完成模型训练的方法.然而由于中心依赖、激励机制不足以及存在隐私泄露风险等问题,基于区块链的联邦学习方法已经走入人...