基于同态加密的高效安全联邦学习聚合框架

为了解决联邦学习数据安全以及加密后通信开销大等问题，提出了一种基于同态加密的高效安全联邦聚合框架。在联邦学习过程中，用户数据的隐私安全问题亟须解决，然而在训练过程中采用加密方案带来的计算和通信开销又会影响训练效率。在既要保护数据安全又要保证训练效率的情况下，首先，采用Top-K梯度选择方法对模型梯度进行筛选，减少了需要上传的梯度数量，提出适合多边缘节点的候选量化协议和安全候选索引合并算法，进一步降低通信开销、加速同态加密计算。其次，由于神经网络每层模型参数具有高斯分布的特性，对选择的模型梯度进行裁剪量化，并采用梯度无符号量化协议以加速同态加密计算。最后，实验结果表明，在联邦学习的场景下，所提框架既保证了数据隐私安全，又具有较高的准确率和高效的性能。     

关于车联网联邦学习中可信信誉管理方法的研究

联邦学习由于其分布式、隐私保护等特点有望应用到车联网中，然而由于缺少相应的本地模型质量验证机制，全局模型容易受到恶意用户的攻击从而导致模型训练的准确率降低。提出一种车联网中分层区块链使能的联邦学习信誉管理架构。首先介绍整个架构的组成以及具体的工作流程，然后设计智能合约为系统提供更加灵活可信的信誉意见共享环境，并开发一种轻量级的区块链共识算法，以提升区块链的运行效率。仿真结果表明所提方法能够筛选出恶意用户，同时保证数据隐私和安全，从而提高FL的准确性。     

面向非独立同分布数据的联邦学习数据增强方案

为了解决联邦学习节点间数据非独立同分布(non-IID)导致的模型精度不理想的问题,提出一种隐私保护的数据增强方案。首先,提出了面向联邦学习的数据增强框架,参与节点在本地生成虚拟样本并在节点间共享,有效缓解了训练过程中数据分布差异导致的模型偏移问题。其次,基于生成式对抗网络和差分隐私技术,设计了隐私保护的样本生成算法,在保证原数据隐私的前提下生成可用的虚拟样本。最后,提出了隐私保护的标签选取算法,保证虚拟样本的标签同样满足差分隐私。仿真结果表明,在多种non-IID数据划分策略下,所提方案均能有效提高模型精度并加快模型收敛,与基准方法相比,所提方案在极端non-IID场景下能取得25%以上的精度提升。     

基于混合隐私的区块链高效模型协同训练共享方案

针对海量数据下,基于区块链的联邦学习数据共享平台面临的效率低下和隐私泄露问题,该文提出基于混合隐私的区块链高效模型协同训练共享方案。在该方案中,首先根据欧氏距离设计了一种基于相似度的训练成员选择算法来选择训练成员,组成联邦社区,即通过选取少量的高匹配训练节点来提高训练的效率和效果。然后,结合阈值同态加密和差分隐私,设计一种基于混合隐私技术的模型协同训练共享方案来保证训练和共享过程中的隐私性。实验结果和系统实现表明,所提方案可以在保证训练结果准确率的情况下,实现高效训练和隐私保护下的数据共享。     

基于联邦学习的本地化差分隐私机制研究

联邦学习与群体学习作为当前热门的分布式机器学习范式，前者能够保护用户数据不被第三方获得的前提下在服务器中实现模型参数共享计算，后者在无中心服务器的前提下利用区块链技术实现所有用户同等地聚合模型参数。但是，通过分析模型训练后的参数，如深度神经网络训练的权值，仍然可能泄露用户的隐私信息。目前，在联邦学习下运用本地化差分隐私(LDP)保护模型参数的方法层出不穷，但皆难以在较小的隐私预算和用户数量下缩小模型测试精度差。针对此问题，该文提出正负分段机制(PNPM)，在聚合前对本地模型参数进行扰动。首先，证明了该机制满足严格的差分隐私定义，保证了算法的隐私性；其次分析了该机制能够在较少的用户数量下保证模型的精度，保证了机制的有效性；最后，在3种主流图像分类数据集上与其他最先进的方法在模型准确性、隐私保护方面进行了比较，表现出了较好的性能。     

基于联邦学习的隐私保护区域交通流量预测模型

区域交通流量预测是智慧交通系统的一项重要功能。联邦学习可以支持多位置服务提供商(Location Service Provider, LSP)的联合训练,使得训练数据集可以更加全面地覆盖整个区域的交通流量,提高预测准确率。但是,当前基于联邦学习的区域交通流量预测方案存在车辆数据去重、训练节点背叛以及隐私泄露等问题。为此,构建了基于联邦学习的隐私保护区域交通流量预测(Privacy-Preserving Regional Traffic Flow Prediction based on Federated Learning, PPRTFP-FL)模型。模型采用中心部署架构,由联邦中央服务器协调各个LSP联合完成模型的训练,并对全局模型进行梯度聚合与模型更新;采用交叉评价加权聚合的策略来防御部分不可信节点对全局模型的恶意攻击,提升了全局模型的鲁棒性;预测阶段使用同态加密聚合算法,各LSP在不泄露自身运营数据的情况下实现了更准确的流量预测。利用相关数据集进行测试,测试结果表明当训练数据集覆盖区域流量充分的情况下,本模型相比本地模型的预测准确率有明显的提升。对模型进行不同比例的恶意节点攻击实验...     

基于DRL的联邦学习节点选择方法

为了应对设备差异化计算能力及非独立同分布数据对联邦学习性能的影响,高效地调度终端设备完成模型聚合,提出了一种基于深度强化学习的设备节点选择方法.该方法考虑异构节点的训练质量和效率,筛选恶意节点,在提升联邦学习模型准确率的同时,优化训练时延.首先,根据联邦学习中模型分布式训练的特点,构建基于深度强化学习的节点选择系统模型...     

基于改进Inception V4的面部表情识别算法的研究

面部表情识别是地铁、火车站、机场等复杂环境中安检监控的重要任务,通过识别监控图像中行人的面部表情可以筛选出可疑分子。针对因监控图像模糊和面部表情拍摄不全而引起的识别准确率低等问题,提出一种改进的InceptionV4面部表情识别算法,改进InceptionV4的网络结构,使其更好地适应面部表情识别任务。基于深度学习中的Tensorflow平台对面部表情类数据进行训练,在面部表情验证集上进行测试,在输入图像为299×299时,识别准确率高达97.9%,改进后的算法在保证识别精度的同时,降低表情在类内差距较大、图像模糊和面部表情拍摄不全情况下的误识率,提高系统鲁棒性。     

改进自训练模型在业务质差用户识别中的应用

质差用户识别是降低用户投诉率、提升用户满意度的重要环节。针对当前电信网络系统中业务感知相关的大量结构化及非结构化数据难以有效标注、质差用户标签不完备、现有监督学习模型训练样本不均衡而导致质差识别率低的问题,采用改进自训练半监督学习模型,利用少量满意度低分和投诉用户作为质差用户标签对网络数据进行标注,并通过标签迁移对大量未标注数据进行训练识别质差用户。实验表明,相比于识别准确率高但是训练成本高的全监督学习和识别准确率低的无监督学习,半监督学习可以充分利用无标签样本数据进行有效训练,保证较低训练成本的同时显著提升质差用户识别准确率。     

基于深度学习的野生动物识别

为了更好地保护野生动物以及动物基因库的种类,保障生物链的完整性。运用深度学习技术对野生动物的图像进行识别,并且为了降低噪声信息的干扰及提高野生动物图像识别的准确率,提出了基于深度残差收缩网络的野生动物识别模型。目的是可以更好地帮助社会对野生动物进行监管和保护。该模型在深度残差网络的基础上融入注意力机制和软阈值函数,从而降低噪声信息的干扰,提高图像识别的准确率。将深度残差收缩网络与深度残差网络模型对相同野生动物数据集进行训练作对比,同时对部分野生动物图像进行了测试。实验结果表明,深度残差收缩网络提高野生动物图像识别准确率。     

基于边缘和空间-光谱模型的光源估计方法

为了克服基于空间-光谱模型的光源估计算法运行时间长和存储容量大的缺陷,提出了一种基于边缘和空间-光谱模型的光源估计方法。利用边缘滤波器寻找图像的边缘信息,然后对边缘像素进行膨胀操作,将膨胀后的边缘信息混入空间-光谱模型中,利用标准图像集对模型进行训练获取模型参数,最后对图像进行光源估计。实验结果表明,提出的算法能有效降低空间-光谱算法的运行时长和存储空间,提高光源估计准确率。     

基于生成模型的联邦学习隐私保护算法

在联邦学习中,交换模型参数或梯度信息通常被视作是安全的。但近期研究表明,模型参数或者梯度信息也会导致训练数据的泄露。基于保护客户端数据安全的目的,提出了一种基于生成模型的联邦学习算法。为了验证该算法的有效性,在DermaMNIST数据集上进行了仿真实验,采用梯度泄露攻击对算法进行验证。实验结果表明,提出的基于生成模型的联邦学习算法与联邦学习经典算法在准确率上仅仅相差0.02%,并且通过MSE、PSNR、SSIM等评价指标可以判断出该算法可以有效地保护数据隐私。     

基于原型与主动学习的天波雷达干扰检测方法

本文研究天波雷达基于距离?多普勒（Range?Doppler, RD）图像的干扰检测问题。在干扰检测过程中，错误检测可能是干扰的漏检与虚警问题，为此考虑采用主动学习方法，将算法模型难以判决的样本由专家标注，并将标注样本加入至训练集中以达到提升检测性能的目的。同时，也需要解决训练集样本的冗余问题，为此使用原型数据学习方法，建立有干扰和无干扰样本数据云，有效地降低训练集样本量。实测数据实验表明，原型方法将初始训练集样本数量降低至23.5%，主动学习方法取得的检测准确率为97.42%，而传统监督学习最近邻方法准确率为87.96%。因此，本文方法能够有效提升天波雷达干扰检测能力，为天波雷达是否需要进行干扰处理与换频检测等工作提供可靠依据。     

基于目标扰动的AdaBoost算法

针对AdaBoost算法的多轮迭过程会放大为实现差分隐私保护而添加的噪声，从而导致模型收敛缓慢、数据可用性大幅降低的问题，提出了一种基于目标扰动的AdaBoost算法——DPAda，采用目标扰动的方式对样本权值进行加噪，精确计算其敏感度，并赋予其动态的隐私预算。为了解决噪声叠加过多的问题，提出基于摆动数列、随机响应和改进的随机响应3种噪声注入算法。实验结果表明，与DPAda＿Random算法和DPAda＿Swing算法相比，DPAda＿Improved算法能实现数据的隐私保护，拥有更高的分类准确率，优于其他差分隐私AdaBoost算法，并能解决连续加噪带来的噪声过大的问题。     

基于Grassmann流形几何深度网络的图像集识别方法

近年来,深度学习以其强大的非线性计算能力在目标检测和识别任务中取得了巨大的突破。现有的深度学习网络几乎都是以数据的欧氏结构为前提,而在计算机视觉中许多数据都具有严格的流形结构,如图像集可表示为Grassmann流形。基于数据的流形几何结构来设计深度学习网络,将微分几何理论与深度学习理论相结合,提出一种基于Grassmann流形的深度图像集识别网络。同时在模型训练过程中,使用基于矩阵链式法则的反向传播算法来更新模型,并将权值的优化过程转换为Grassmann流形上的黎曼优化问题。实验结果表明:该方法不仅在结果上识别准确率得到了提高,同时在训练和测试速度上也有一个数量级的提升。     

基于改进残差网络的道口车辆分类方法

为了提高模型在道口环境下的车辆图像的特征提取和识别能力,提出了一种基于改进残差网络的车辆分类方法。首先以残差网络为基础模型,改进了残差块中激活函数的位置,并将残差块中的一般卷积用分组卷积代替,引入注意力机制,用焦点损失函数替换交叉熵损失函数。实验部分先用公开数据集StanfordCars进行预训练,再用自建的道口车辆数据集进行迁移学习。结果表明,改进模型在两个数据集中的准确率均优于几种经典的深度学习模型。     

基于视觉联合学习的教育数据挖掘隐私保护技术

在过去十年中，教育越来越依赖人工智能，然而，在智能时代，隐私泄露已经成为一个必须立即解决的重要问题。为了实现这一目标，介绍了人工智能领域新兴的联合学习概念，分析了联合学习的定义、系统模型和训练过程以及隐私保护技术，并将联合学习与各种教育数据挖掘算法相结合。该框架可以在不集成数据的情况下对某些活动和情况执行加密训练，然后生成反映所有数据特征的可视化模型? 联合可视化是联合学习体系结构在可视化领域的扩展，它主要侧重于在维护数据隐私的前提下，在对来自多个数据源的数据进行可视化分析时，部署一种互利双赢的联合合作技术，必须消除行业数据壁垒，共享数据和专业知识，以解决教育数据挖掘中可能出现的隐私保护问题，研究发现，联合学习方法原则上可以保护数据隐私，并且易于集成到现有的教育应用中。在保护隐私的基础上，使用联合可视化框架可以最大限度地提高模型的准确性，联合学习将为教育的信息化和智能化发展提供一条新的途径，Simulink 软件对电路进行了仿真，并在仿真的基础上搭建了实验样机。实验结果与理论分析基本一致，验证了改进型电路拓扑的可行性和实用性。     

一种面向联邦学习对抗攻击的选择性防御策略

联邦学习(FL)基于终端本地的学习以及终端与服务器之间持续地模型参数交互完成模型训练,有效地解决了集中式机器学习模型存在的数据泄露和隐私风险。但由于参与联邦学习的多个恶意终端能够在进行本地学习的过程中通过输入微小扰动即可实现对抗性攻击,并进而导致全局模型输出不正确的结果。该文提出一种有效的联邦防御策略-SelectiveFL,该策略首先建立起一个选择性联邦防御框架,然后通过在终端进行对抗性训练提取攻击特性的基础上,在服务器端对上传的本地模型更新的同时根据攻击特性进行选择性聚合,最终得到多个适应性的防御模型。该文在多个具有代表性的基准数据集上评估了所提出的防御方法。实验结果表明,与已有研究工作相比能够提升模型准确率提高了2%～11%。     

基于并行注意力机制的地面红外目标检测方法（特邀）

地面背景下的红外目标检测是伪装防护、精确制导等领域的关键技术。针对现有基于深度学习的目标检测模型对地面背景下红外目标进行检测时容易受到复杂背景干扰、对目标关注不足,从而导致检测准确率不高的问题,文中提出了一种基于并行注意力机制的地面红外目标检测方法。首先,利用卷积和注意力并行的下采样方式,在降低模型的空间复杂度和提升训练速度的同时,对目标特征进行聚焦和关注;其次,对主干网络提取的多尺度特征进行融合,通过不同尺度信息的复用与互补抑制背景信息的干扰,提升目标检测的准确率;最后,利用焦点损失函数和CIOU损失函数提高模型的分类与回归精度。实验结果表明,在Infrared-VOC数据集上该模型的平均检测精度为82.2%,比YOLOv3提高了6.9%,同时模型的空间复杂度仅为YOLOv3的32.6%,训练时间为YOLOv3的43.7%,实现了模型训练效率和检测精度的提升。     

基于零信任安全模型的轨道交通数据隐私保护

为解决轨道交通网络数据传输杂乱的问题，提升数据样本的安全性，研究基于零信任安全模型的轨道交通数据隐私保护方法。在零信任安全模型的基础上，分别定义公钥密码与私钥密码模板，建立完整的轨道交通数据隐私链路标签。完善数据样本验证机制以提升数据安全性，通过求解交互认证系数的方式辨别隐私数据样本，结合敏感度指标实现轨道交通数据隐私保护。实验结果表明，在轨道交通网络中应用零信任安全模型，可在保证正序数据传输速率的同时将乱序数据传输速率限制在3.52 Mb/ms以下，能够满足轨道交通数据隐私保护的应用需求。