图学习隐私与安全问题研究综述

虽然海量的现实需求为人工智能提供了广阔的应用场景,但要求人工智能系统适应复杂的计算环境.然而,传统人工智能算法的研究都假设其应用环境是安全可控的.大量研究和实践工作表明当前的人工智能技术普遍对外在风险考虑不足,相关数据和模型算法存在隐私与安全风险.由于人工智能安全的现实需求以及图学习的巨大影响,图学习的隐私与安全问题成为当前图学习领域面临的重要挑战.为此,研究人员近年来从图学习系统的各个环节出发对图学习隐私与安全问题进行了研究,提出了相关的攻击和防御方法.本综述首先阐述研究图学习隐私与安全的重要意义,然后介绍图学习系统的基本过程、图学习面临的主要隐私与安全威胁以及图学习的隐私与安全特性;在上述基础上,分别从图数据隐私、图数据安全、图模型隐私和图模型安全四个方面对现有研究工作进行系统的归纳总结,讨论主要成果和不足;最后,介绍相关的开放资源,并从数据特征、解释性、研究体系和实际应用等方面探讨面临的挑战和未来的研究方向.     

智媒体时代数据隐私侵权的法律规制研究

随着机器学习、大数据、云计算以及传感器等技术的发展,人工智能技术正逐步渗透到人类生产、生活的各个方面。AI人工智能技术在传播领域的应用,重塑信息传播的内容生产与分发渠道。传感器的不断进化,使得公民处于全方位"数字监控"中;算法能力的不断提升,助长了对公民隐私数据的非法应用与分析,此外,海量个人数据通过社交化的网络"病毒式"传播,加剧了公民数据隐私侵权风险。我国可以引入"数字遗忘权"加强保护,同时选择适合我国国情的立法模式,加强数据隐私保护的前瞻性立法,进一步提升政府数据隐私保护的执法效率。因此,依法规制人工智能数据隐私侵权行为,对于保护公民合法权益,维护数据信息安全,具有很强的现实意义。     

前言

人工智能依托于物联网、云计算、大数据技术的迅速发展,在科学发现、经济建设、社会生活等各个领域具有广泛应用.但是,人工智能技术面临着严峻的安全与隐私挑战,并且这些挑战会随着人工智能技术的普及和发展愈演愈烈.人工智能安全与隐私保护可以说是人工智能技术发展过程中不可忽视的瓶颈和关键挑战.现阶段学术界对于人工智能安全与隐私保护...     

“人工智能+”背景下的数据安全与隐私保护探析

随着大数据和云计算的技术的深入应用，人工智能时代的机器学习和深度学习更需要日益增长的数据，因此数据安全与隐私保护变得更加迫切。本文介绍人工智能的定义以及特征，探究数据安全和隐私保护现状，分析数据安全和隐私保护面临的诸多问题，并提出在人工智能时代对数据安全和隐私保护的措施。     

智能时代的隐私泄露危机

人工智能技术的快速发展,应用领域越来越广.我们的工作、生活和人工智能已经密不可分.一方面,我们享受着智能时代给我们带来的智能、便捷的工作和生活方式;另一方面,智能时代也增加了隐私泄露风险,让我们生活在一个"裸奔"的时代.     

安全多方计算及其在机器学习中的应用

随着人工智能、大数据等技术的发展,数据采集、数据分析等应用日渐普及,隐私泄露问题越来越严重.数据保护技术的缺乏限制了企业之间数据的互通,导致形成"数据孤岛".安全多方计算(securemultiparty computation,MPC)技术能够在不泄露明文的情况下实现多方参与的数据协同计算,实现安全的数据流通,达到数据"可用不可见".隐私保护机器学习是当前MPC技术最典型也是最受关注的应用与研究领域,MPC技术的应用可以保证在不泄露用户数据隐私和服务商模型参数隐私的情况下进行训练和推理.针对MPC及其在隐私保护机器学习领域的应用进行全面的分析与总结,首先介绍了MPC的安全模型和安全目标;梳理MPC基础技术的发展脉络,包括混淆电路、不经意传输、秘密分享和同态加密;并对MPC基础技术的优缺点进行分析,提出不同技术方案的适用场景;进一步对基于MPC技术实现的隐私保护机器学习方案进行了介绍与分析;最后进行总结和展望.     

高中信息技术选择性必修《模块4:人工智能初步》中"人工智能基础"教学建议

在普通高中信息技术课程中,选择性必修模块4"人工智能初步"承载了普及人工智能基础知识、激发学生学习兴趣、践行国家人工智能发展规划的重任.本文将针对第一部分"人工智能基础",从课标要求、教材内容安排及教学实施建议三个方面进行探讨.     

人工智能模型数据泄露的攻击与防御研究综述

人工智能和深度学习算法正在高速发展,这些新兴技术在音视频识别、自然语言处理等领域已经得到了广泛应用。然而,近年来研究者发现,当前主流的人工智能模型中存在着诸多安全隐患,并且这些隐患会限制人工智能技术的进一步发展。因此,研究了人工智能模型中的数据安全与隐私保护问题。对于数据与隐私泄露问题,主要研究了基于模型输出的数据泄露问题和基于模型更新的数据泄露问题。在基于模型输出的数据泄露问题中,主要探讨了模型窃取攻击、模型逆向攻击、成员推断攻击的原理和研究现状;在基于模型更新的数据泄露问题中,探讨了在分布式训练过程中,攻击者如何窃取隐私数据的相关研究。对于数据与隐私保护问题,主要研究了常用的3类防御方法,即模型结构防御,信息混淆防御,查询控制防御。综上,围绕人工智能深度学习模型的数据安全与隐私保护领域中最前沿的研究成果,探讨了人工智能深度学习模型的数据窃取和防御技术的理论基础、重要成果以及相关应用。     

群智感知中的地理位置本地化差分隐私机制:现状与机遇

群智感知中,如何保护用户的地理位置隐私是核心问题之一.传统地理位置隐私保护方法通常需要对攻击者的先验知识进行假设,才能保证相应的保护效果.近期,一种新型的地理位置隐私保护机制,即"本地化差分隐私",被引入群智感知中,对用户的位置隐私进行保护.与传统方法相比,它能够在无需可信第三方的情况下,从理论上提供与攻击者先验知识无关的隐私保护效果.通过分析现有群智感知研究中与地理位置本地化差分隐私机制相关的工作,提出将地理位置本地化差分隐私机制融入不同群智感知应用的通用流程,并总结了流程中各个技术难点的可能解决方案.同时,指出了群智感知中地理位置本地化差分隐私机制相关研究的未来机遇,期望吸引更多的科研人员关注和投入这一研究方向.     

隐私无处藏身? 手机应用隐私权限大揭秘

今年央视的"315"晚会上,让两个互联网安全方面的问题,曝光在用户面前,"广告技术公司利用Cookies偷窃网民隐私"及"66.9%的智能手机移动应用在抓取用户隐私数据",PC用户的隐私被人获取,最多也就是多接收一些广告页面。然而手机里被锁住的隐私一旦被挖掘出来的话,那对于许多人的生活而言,无异将产生一场大地震,那么我们就有必要审视一下自己的手机为自己安装了多少枚"炸弹"?     

基于XACML和SAML的Shibboleth隐私保护方法的探索分析

联合认证中Web服务提供者可能要求用户提供个人隐私信息,而Shibboleth架构的提出则着重于联合认证中隐私信息的保护.分析Shibboleth和P3P的不同及当前Shibboleth的属性释放策略ARP(Attribute Release Policy)的不足之处,提出基于XACML和SAML的ARP实现及其在Shibboleth中的应用,从而既实现了"单点登录",又保护了用户隐私.     

巧用魔法 快藏隐私

大家的电脑里都有些隐私,如何做到不让别人随意看到呢?以前都是将"属性"设置为"隐藏",但有点水平的都知道如何查看隐藏。那怎样才能快速让我们这些没水平的真能把隐私藏起来呢?超级兔子2008.09标准版的"魔法盾"组件就能隐藏文件、文件夹,让我们玩玩"魔法",让隐私快速隐藏。     

新医科背景下人工智能在医学信息技术中的应用探讨

旨在探讨新医科背景下人工智能在医学信息技术中的应用。通过研究人工智能在医学信息技术中的优势和应用情况,包括医学影像诊断、医疗数据分析、智能辅助诊疗等方面。继而讨论了人工智能技术在医学领域中所遇到的挑战和问题,包括数据隐私保护、技术安全性等方面。最后,探究了如何更好地发挥人工智能在医学信息技术中的应用。通过研究,能更深入地理解人工智能技术在医学信息技术中发挥越来越重要的作用,并且在未来有更广阔的应用前景。     

软件

编辑点评停用QQ圈子后,可以设置下自己的隐私,这样你就不会在其他人的圈子里出现,有利于保护自己的隐私。步骤如下:进入QQ面板的系统设置,选择"隐私设置/隐私设置",进入页面后根据自己的情况,进行隐私的可见与否设置,比如设置为"仅自己可见"。     

2022,人工智能教育从单一走向多元

自2017年国务院发布《新一代人工智能发展规划》之后,经过几年的"摸着石头过河",中小学的人工智能教育已经完成了"祛魅"阶段,逐步走向成熟,走向多元化. ●关键词:人工智能实验 信息技术课程正逐步往"计算机科学"方向靠近,义务教育阶段则直接使用"信息科技"作为课程名称.信息技术课程的"科学性"体现在哪些方面?信息技术实...     

令人费解的人工智能

计算机程序设计师以及人工智能的研究者曾对电脑人工智能的未来非常乐观,然而近十多年来,利用计算机程序模拟人类思维方面的研究,进展得却相当缓慢.哲学界对所谓"强人工智能",即认为计算机能够实现真正的心灵运动,普遍持怀疑态度.而即便是"弱人工智能",即让计算机在一定程度上模拟人类智能,也面临着诸多困难.下面三个小故事也许说明,让一个很像真人的机器陪伴自己工作、学习、娱乐,恐怕还是非常遥远的未来时代的事情.     

机器学习安全攻击与防御机制研究进展和未来挑战

机器学习的应用遍及人工智能的各个领域,但因存储和传输安全问题以及机器学习算法本身的缺陷,机器学习面临多种面向安全和隐私的攻击.基于攻击发生的位置和时序对机器学习中的安全和隐私攻击进行分类,分析和总结了数据投毒攻击、对抗样本攻击、数据窃取攻击和询问攻击等产生的原因和攻击方法,并介绍和分析了现有的安全防御机制.最后,展望了...     

谢绝窥视 管好自己的摄像头

正现在很多人的电脑都配置了摄像头,手机则几乎都有照相功能,如果被病毒木马或者黑客远程控制,就有可能被偷拍到敏感的影像,造成隐私泄露。所以现在要保护好隐私,一定要重视管好电脑和手机的摄像设备。对于手机、平板的摄像设备,可通过"LBE安全大师"进行管理。在手机上启动"LBE安全大师"后切换到"主动防御→软件权限管理→隐私相关→拍照和录像",将不需要拍照和录像权限的应用对     

"人工智能技术的发展与应用"教学建议

"人工智能技术的发展与应用"是选择性必修模块4"人工智能初步"中的一个重要组成部分.这部分内容强调通过应用体验,了解智能社会面临的伦理及安全挑战,辩证认识人工智能对人类社会未来发展的巨大价值和潜在威胁,增强信息安全防护意识,自觉维护和遵守人工智能社会化应用的规范与法规.     

可信AI的前世今生

人工智能并不是一个新的概念,从1950年的图灵之问开始,到今天产业的蓬勃发展.随着人工智能广泛的产业落地带来的诸多问题,AI面临越来越多的可信挑战,例如AI系统的不确定性导致潜在的安全问题;可解释性的缺乏限制了AI更广泛的应用与赋能;AI系统如何在使用数据的同时保护用户隐私等.构筑可信 AI 已成为全球共识,2016 ...