深度伪造视频的鉴别与规制

深度伪造技术是人工智能在计算机视觉领域的应用产物,深度伪造视频的出现,给信息安全带来了前所未有的严峻挑战,进一步研究其鉴别与规制尤为重要.首先,阐述了深度伪造视频的相关概念以及其对公民合法权益、社会诚信体系以及国家政治安全所造成的威胁.随后,对当前深度伪造视频的鉴别技术进行梳理和归纳并分别阐述其优势与不足.最后,提出应...     

深度伪造技术的法律挑战及应对

深度伪造技术(Deepfake)的出现,使得篡改或生成高度逼真且难以甄别的音视频内容成为可能。这被美国等西方国家视为重大的国家安全威胁,美国已在推动相关立法,以期阻止该项技术的不当利用。对此,可以通过研发鉴伪和溯源技术、教育提升社会公众素养、合理配置法律责任等举措包容审慎监管和治理,避免该项技术的滥用,并促进该项技术在教育、文创、娱乐等方面的积极作用。     

人脸视频深度伪造与防御技术综述

近年来，得益于深度生成模型的发展，人脸的操控技术取得了巨大突破，以DeepFake为代表的人脸视频深度伪造技术在互联网快速流行，受到了学术界和工业界的广泛重视。这种深度伪造技术通过交换原始人脸和目标人脸的身份信息或编辑目标人脸的属性信息来合成虚假的人脸视频。人脸深度伪造技术激发了很多相关的娱乐应用，如使用面部替换技术将使用者的人脸替换到某段电影片段中，或使用表情重演技术来驱动某个著名人物的静态肖像等。但当前人脸深度伪造技术仍处于快速发展阶段，其生成的真实感和自然度仍有待进一步提升。另一方面，这类人脸深度伪造技术也很容易被不法分子恶意使用，用来制作色情电影、虚假新闻，甚至被用于政要人物来制造政治谣言等，这对国家安全与社会稳定都带来了极大的潜在威胁，因此伪造人脸视频的防御技术至关重要。为了降低深度伪造人脸视频所带来的负面影响，众多学者对伪造人脸视频的检测鉴别技术进行了深入研究，并从不同视角提出了一系列防御方法。然而由于数据集分布形式单一、评价标准不一致、主动性不足等问题，使得防御技术在走向实用的道路上仍有很长一段距离。事实上，人脸深度伪造与防御技术的研究仍旧处在发展期，其技术的内涵与外延正在快速的更新与迭代。本综述将对迄今为止的主要研究工作进行科学系统的总结与归纳，并对现有技术的局限性做简要分析。最后，本文将探讨人脸深度伪造与检测技术的潜在挑战与发展方向，为领域内未来的研究工作提供借鉴。      

深度伪造对国家安全的挑战及应对

人工智能的快速进步给社会发展带来诸多机遇,但其被恶意使用的风险也逐渐显现。作为人工智能深度学习领域的一个分支,深度伪造技术在近几年迅速兴起,为国家间的政治抹黑、军事欺骗、经济犯罪甚至恐怖主义行动等提供了新工具,给政治安全、经济安全、社会安全、国民安全等国家安全领域带来了诸多风险。应对深度伪造技术的滥用及其安全挑战,需要加强研发预警检测手段,推进立法管制,加强宣传教育,推进国际安全合作治理。     

探究深度伪造技术的安全挑战与应对措施

人工智能技术凭借自身的赋能效应对现代社会的生活和发展格局产生着重大的影响,使得现代社会的治理效率有了显著提升。人工智能提供的种种便利确实改善了人们的日常生活,但也伴随着使用风险。对此,本文将基于对深度伪造技术的探寻,就深度伪造技术面临的安全挑战展开论述,继而根据实际情况提出深度伪造技术的安全应对措施。     

语音伪造及检测技术研究综述

语音承载着人类语言和说话人身份信息,通过语音伪造技术可以精确模仿目标说话人的声音以达到欺骗人或机器听觉的目的。目前,深度伪造（Deepfake）正在对全球的政治经济及社会稳定带来极大的威胁,其中语音伪造是Deepfake实现舆论操控的核心技术之一。近年来语音伪造技术在拟人度、自然度方面有了显著进步,使得语音伪造检测技术面临着更大的挑战。本文对当前主流的语音伪造和伪造语音检测技术研究现状进行综述,主要包括:1）对主流语音伪造技术,包括语音合成、语音转换和语音对抗样本的基本概念、技术发展历程和研究进展进行综述;2）对伪造语音检测技术的基本概念、性能评价指标、主要技术实现原理和性能效果进行综述;3）对伪造语音检测相关的主流竞赛、常用数据集和可用代码工具资源进行介绍;最后对语音伪造和检测技术现存的挑战性问题和未来的研究方向进行讨论。      

基于超分辨率重建的强压缩深度伪造视频检测

经典的深度伪造(DeepFake)视频检测方法一般使用卷积神经网络进行检测,但在强压缩深度伪造换脸视频数据集上表现较差,并会对真实数据做出大量误检测。针对这个问题,该文提出一种基于超分辨率重建的强压缩深度伪造视频检测方法。该方法基于深度神经网络检测模型,通过融入超分辨率重建技术,恢复强压缩视频所损失的空间与时间信息,进而提升对强压缩视频的检测准确率。使用FaceForensics++及DFDC数据集进行实验,针对强压缩的深度伪造视频,该方法较ResNet50提高了单帧以及视频的测试准确率,有效缓解强压缩真实视频的误检测问题。     

数字视频伪造被动取证技术研究综述

数字视频伪造被动取证技术直接依据已获得的视频数据本身来判别其真实性, 具有更好的适应性, 逐渐成为取证研究领域的主流。为了从整体上梳理与描述数字视频伪造被动取证技术,分析了常见的视频伪造操作的特点和它们遗留的痕迹以及对视频被动取证的影响,从取证手段和采用技术2个角度,归纳与总结了基于数字视频来源、基于视频篡改遗留痕迹、基于深度学习框架和基于原始视频特征表征等视频被动取证的典型方法,并详细地探讨了视频伪造被动取证领域面临的挑战和未来的发展趋势。      

基于超分辨率重建的强压缩深度伪造视频检测

经典的深度伪造(DeepFake)视频检测方法一般使用卷积神经网络进行检测,但在强压缩深度伪造换脸视频数据集上表现较差,并会对真实数据做出大量误检测.针对这个问题,该文提出一种基于超分辨率重建的强压缩深度伪造视频检测方法.该方法基于深度神经网络检测模型,通过融入超分辨率重建技术,恢复强压缩视频所损失的空间与时间信息,进而提升对强压缩视频的检测准确率.使用FaceForensics++及DFDC数据集进行实验,针对强压缩的深度伪造视频,该方法较ResNet50提高了单帧以及视频的测试准确率,有效缓解强压缩真实视频的误检测问题.     

基于Inception3D网络的眼部与口部区域协同视频换脸伪造检测

近年来出现并迅猛发展的深度伪造(DeepFake)技术深刻改变了多媒体内容伪造的方式和水平,给网络空间内容安全带来了新的严峻挑战.本文主要关注深度伪造中危害最大的视频换脸伪造,提出基于I3D(Inception3D)网络的眼部与口部双流检测方法.首先,针对现有大多数伪造检测方法忽略了视频中重要的时间信息的问题,将目前常...     

面向浅层特征高频分量的深度伪造检测算法

近年来，深度伪造技术大幅提升了合成人脸的真实感，且相较于传统伪造方法，其生成的虚假视频更加难以分辨。基于深度伪造图像视觉伪影常常存在于特征提取网络浅层特征高频分量中这一特性，设计了一种面向浅层特征高频分量的深度伪造图像检测算法。针对高通滤波器的缺陷，本实验在拉普拉斯金字塔的基础上设计了一种具有更好的过滤性能的高频残差提取模块。在增强模块中，使用Convolutional Block Attention Module (CBAM)增加特征图关键区域以及关键特征通道的权重，提升特征图的空间以及通道相关性。针对深层网络中高频分量学习优先级低的问题，设计了一种图像梯度损失算法，防止高频信息随着网络的加深而丢失。将梯度中心化引入AdamW优化器，解决了深度伪造检测模型训练时间长、泛化性差的问题。所提两种模型在FaceForensics++和Celeb-DF数据集上的准确率均优于主流算法，证明了算法的有效性以及泛化性。     

国外信息

国外信息光学保安措施：眼见为实与高技术作弊及伪造作斗争的最好途径也许通过较简单的光学技术就能办到，几乎不可能受到愚弄．例如，美国橡树岭国家实验室的研究人员开发了一项正在申请专利的技术，它采用荧光分色光纤生成一个无法伪造的光学标记；同时，洛斯·阿拉莫斯...     

从《网络信息内容生态治理规定》看互联网新技术的治理

2019年12月15日国家网信办颁布《网络信息内容生态治理规定》,旨在加强网络生态治理,进一步推动了网络综合治理体系的建立和健全。笔者就《网络信息内容生态治理规定》中涉及的算法推荐、深度伪造、流量造假、网络暴力等互联网新技术相关的突出问题,从全球视野进行比较分析,以期能够为科学合理治理互联网新技术提供有益借鉴。     

基于对焦清晰度的双分辨相机变焦算法研究

双分辨率相机同时兼顾大视场和高分辨,利用同轴光学固定结构避免了变焦镜头运动部件带来的诸多问题,在深空探测目标跟踪和手机等智能终端上具有应用价值。针对现有的基于深度学习的双分辨率图像变焦算法的速度慢,信息量没有提升,图像网络结构适配性差和图像信息修复的伪造性等问题尝试性地提出了加入基于深度信息的解决办法。论证将图像对焦清晰度作为深度信息引入双分辨变焦算法的可行性,探讨对焦深度信息检测精度与效果,分别测试深度学习和基于深度信息的传统方法的双分辨率变焦算法,得到了一种不影响正常成像速度,内存开销降低35%和算法复杂度降低60%,超分辨信息真实可靠,图像结果评价提升10%到50%的全新算法。     

基于多任务学习和注意力机制的双分支深度换脸检测方法

深度换脸技术的出现严重威胁了公众的隐私安全。为了解决现有深度换脸检测方法的局限性,基于多任务学习策略提出了一种双分支检测网络,实现在检测视频伪造的同时逐帧检测。该网络引入了注意力机制和时序学习模块,通过学习局部空间信息和时序信息提升检测性能。该方法在公开数据集Celeb-DF和FaceForensics++上获得了比当前先进换脸检测方法更高的准确率和ROC(Receiver Operating Characteristic)曲线下面积（Area under ROC Curve,AUC）,面对不同光照、人脸朝向、视频质量时表现出了良好的鲁棒性。     

基于混沌的带密钥散列函数安全分析

利用统计分析、生日攻击等方法,针对一类基于混沌系统的带密钥散列函数进行了分析,给出了针对这些算法的伪造攻击和等价密钥恢复攻击。同时,研究了上述攻击奏效的原因,并由此总结了基于混沌技术设计带密钥散列函数时应该注意的问题。最后,提出了一个改进方案,该方案可以抵抗伪造攻击和等价密钥攻击,并且增加的计算负担可以忽略不计。     

基于可视数据的可信身份识别和认证方法

近年来,深度学习技术在基于视频和图像等可视数据的身份识别和认证任务（如人脸、行人识别等）中得到了广泛应用。然而,机器学习（特别是深度学习模型）容易受到特定的对抗攻击干扰,从而误导身份识别系统做出错误的判断。因此,针对身份识别系统的可信认证技术研究逐渐成为当前的研究热点。分别从基于信息空间和物理空间的可视数据身份识别和认证攻击方法展开介绍,分析了针对人脸检测与识别系统、行人重识别系统的攻击技术及进展,以及基于人脸活体伪造和可打印对抗图案的物理空间攻击方法,进而讨论了可视数据身份匿名化和隐私保护技术。最后,在简要介绍现有研究中采用的数据库、实验设置与性能分析的基础上,探讨了可能的未来研究方向。     

促进信息技术与教育深度融合助推开放大学建设--以云南开放大学为例

国家开放大学的建设，对于促进终身教育体系构建和全民学习的学习型社会的形成，对充分利用现代信息技术探索科技与教育的深度融合，以及促进教育信息化、引领教育现代化、促进教育改革创新、提高办学质量都具有重要的现实意义。但怎样实现信息技术与教育深度融合呢？针对这问题，本文以云南开放大学建设为例就深度融合的指导思想、实现的形式、实现的载体及实现的保障等几个方面进行阐述。     

人工智能监控的全球扩展

执行摘要人工智能(AI)技术在世界各地迅速发展。惊人的发展不断涌现,从模糊真假界限的深度伪造视频开始,到可以在多人扑克中击败世界上最佳玩家的先进算法。企业利用人工智能功能来改进分析处理;城市官员利用人工智能来监控交通拥堵和监控智能能源计量。然而,越来越多的国家正在部署先进的人工智能监控工具来监控和跟踪公民,以实现一系列政策目标,其中一些是合法的,另一些是侵犯人权的,而许多则陷入了模糊的中间立场。     

序言

人工智能历经半个多世纪的发展,逐渐形成了以符号主义、连接主义、行为主义为主要代表的思想流派.近年来,随着以深度神经网络为代表的深度学习算法的不断发展,人工智能技术在学术界和产业界都得到了飞速发展,正在不断变革我们的社会生产与生活.随着《新一代人工智能发展规划》和《中国教育现代化2035》等国家政策的出台,明确提出要利用...