深度学习模型的版权保护研究综述

随着深度学习技术的迅猛发展,深度学习模型在图像分类、语音识别等领域得到了广泛应用.训练深度学习模型依赖大量的数据和算力,成本高昂,因此,出售已训练好的模型或者提供特定的服务(如DLaaS)成为一种商业模式.然而,如果模型遭到恶意用户窃取,则可能会对模型训练者的商业利益造成损害.此外,网络拓扑结构设计和参数训练的过程包含...     

基于深度神经网络的对抗样本技术综述

深度学习在完成一些难度极高的任务中展现了惊人的能力,但深度神经网络难以避免对刻意添加了扰动的样本（称为“对抗样本”）进行错误的分类。“对抗样本”逐渐成为深度学习安全领域的研究热点。研究对抗样本产生的原因和作用机理,有助于从安全性和鲁棒性方面优化模型。在掌握对抗样本原理的基础上,对经典对抗样本攻击方法进行分类总结,根据不同的攻击原理将攻击方法分为白盒攻击与黑盒攻击两个大类,并引入非特定目标攻击、特定目标攻击、全像素添加扰动攻击和部分像素添加扰动攻击等细类。在ImageNet数据集上对几种典型攻击方法进行复现,通过实验结果,比较几种生成方法的优缺点,分析对抗样本生成过程中的突出问题。并对对抗样本的应用和发展作了展望。     

基于零水印的神经网络模型版权保护

保护人工智能模型不被非法窃取、分发和滥用是必须面对和解决的难题。针对该问题,利用零水印不修改任何信息的特性,提出了基于零水印的神经网络模型版权保护方法。首先,提取神经网络模型特征图,构造特征序列;然后,基于秘钥对版权图像加密;最后,构造零水印信息,进行版权的认证。实验结果表明,该算法能够对神经网络模型进行版权保护和鉴别,且不破坏模型结构,有较高的保真性。此外,该算法对常规的模型攻击具有较强的鲁棒性,BCR系数保持在0.5以上,NC值保持在0.9以上。     

基于黑盒水印的NLP神经网络版权保护

随着自然语言处理（NLP,natural language processing）技术的快速发展,语言模型在文本分类和情感分析中的应用不断增加。然而,语言模型容易遭到盗版再分发,对模型所有者的知识产权造成严重威胁。因此,研究者着手设计保护机制来识别语言模型的版权信息。现有的适用于文本分类任务的语言模型水印无法与所有者身份相关联,且鲁棒性不足以及无法再生成触发集。为了解决这些问题,提出一种新的适用于文本分类任务模型的黑盒水印方案,可以远程快速验证模型所有权。将模型所有者的版权消息和密钥通过密钥相关的哈希运算消息认证码（HMAC,hash-based message authentication code）得到版权消息摘要,由HMAC得到的消息摘要可以防止被伪造,具有很强的安全性。从原始训练集各个类别中随机挑选一定的文本数据,将摘要与文本数据结合构建触发集,并在训练过程中对语言模型嵌入水印。为了评估水印的性能,在IMDB电影评论、CNEWS中文新闻文本分类数据集上对3种常见的语言模型嵌入水印。实验结果表明,在不影响原始模型测试精度的情况下,所提出的水印验证方案的准确率可以达到 100%。即使在模型微调和剪枝等常见攻击下,也能表现出较强的鲁棒性,并且具有抗伪造攻击的能力。同时,水印的嵌入不会影响模型的收敛时间,具有较高的嵌入效率。     

深度神经网络模型压缩方法综述

在过去十来年中,深度神经网络(DNN)在语音识别、图像识别等大量AI问题中取得了显著成功,在智能物联网等场景中得到了广泛应用.但由于深度神经网络模型具有计算量大、参数量大、存储成本高的特点,限制了其在硬件受限的嵌入式或移动设备上的应用.近年来,学界也提出了多种压缩技术来降低DNN模型的存储成本和计算需求,并在压缩的同时...     

动态学习深度神经网络综述

深度神经网络是一种非常有效的机器学习方法,然而传统的算法均无法处理动态问题.因此,介绍了一种最近提出的能够动态学习的深度神经网络永续学习机算法.该算法能够实现对新增数据的动态学习,并且算法执行速度较快.通过对文献的分析表明,该算法是一种拥有非常广泛应用价值的深度学习算法.     

基于标志网络的深度学习多模型水印方案

针对经典水印技术在进行深度学习模型知识产权保护过程中, 存在水印多模型时可复用性不高和开销较大、易被检测和攻击等问题; 在黑盒场景下, 本文从构造触发集、设计嵌入方式等方面切入, 设计一种基于标志网络(Logo Network, LogoNet)的深度学习多模型水印方案(Logo Network based Deep Learning Multi-model Watermarking Scheme, LNMMWS)。首先, 利用二进制编码生成触发集, 并随机裁剪原训练样本以生成噪声集, 精简 LogoNet 层结构, 并在触发集和噪声集的混合数据集上训练LogoNet, LogoNet 拟合触发集并泛化噪声集以获取较高的水印触发模式识别精度和噪声处理能力。其次, 根据不同目标模型的分类类别, 从 LogoNet 中选择水印触发模式, 并调整 LogoNet 输出层的维度, 使 LogoNet 输出层和不同目标模型的输出层相嵌合, 以实现多模型水印的目的。最后, 当所有者发现可疑的远程应用程序接口服务时, 可以输入多组特定的触发样本, 经过输入层变换后, 触发特定的输出以核验水印并实现所有权验证。实验及分析表明, 使用 LNMMWS 进行深度学习模型所有权验证时,具有较高的水印触发模式识别精度、较小的嵌入影响、较多的水印触发模式数量, 并相比已有方案具有更低的时间开销;LNMMWS 在模型压缩攻击、模型微调攻击下具有较好的稳定性, 并具备较强的隐秘性, 能够规避恶意检测风险。     

SDN中基于信息熵与DNN的DDoS攻击检测模型

软件定义网络(software defined networking, SDN)解耦了网络的数据层与控制层,同时控制器也面临“单点失效”的危险.攻击者可以发起分布式拒绝服务攻击(distributed denial of service, DDoS)使控制器失效,影响网络安全.为解决SDN中的DDoS流量检测问题,创新性地提出了基于信息熵与深度神经网络(deep neural network, DNN)的DDoS检测模型.该模型包括基于信息熵的初检模块和基于深度神经网络DNN的DDoS流量检测模块.初检模块通过计算数据包源、目的IP地址的信息熵值初步发现网络中的可疑流量,并利用基于DNN的DDoS检测模块对疑似异常流量进行进一步确认,从而发现DDoS攻击.实验表明：该模型对DDoS流量的识别率达到99%以上,准确率也有显著提高,误报率明显优于基于信息熵的检测方法.同时,该模型还能缩短检测时间,提高资源使用效率.     

一个基于PKI和数字水印的数字版权保护框架模型

针对目前数字版权保护的研究较偏重于安全性的情况,本文给出了一种均衡考虑数字作品使用的合法性、数字作品的完整性、数字作品传输的安全性和数字作品交易公平性的 数字版权保护框架模型,对模型进行了形式化描述,并分析了数字作品版权保护过程中涉及到的主体问的关系。文章还分析了该模型的安全性和性能,阐明了其实用价值。     

网络出版中版权保护技术--文本数字水印的研究

数字版权管理体系中,采用技术手段(数字水印)保护数字产品的版权,阻止盗版、侵权行为日益重要。论文针对eBook网络出版中的版权保护问题,首先讨论了数字水印的必要性及文本数字水印的现状,然后针对网络传播中的关联性和继承性问题,设计了参考模型,提出了一个应用于网络出版各个流程的版权保护解决方案,并对该方案从关联性、继承性、健壮性、实用性等方面进行了评价。     

一种基于两阶段深度学习的集成推荐模型

近年来,深度学习技术被广泛应用于推荐系统领域并获得了很大的成功,然而深度学习模型的输入质量对学习结果具有很大影响,稀疏的输入特征向量不仅会增加后续模型训练的难度,而且容易导致学习结果落入局部最优.提出一个基于两阶段深度学习的集成推荐模型：首先,利用具有封闭式参数计算能力的边缘化堆叠去噪自动编码机进行用户和项目高层抽象特征的提取;然后,将得到的用户抽象特征和项目抽象特征进行连接并作为深度神经网络模型的输入向量,通过联合训练的方式进行参数学习和模型优化.此外,为了对低阶特征交互进行建模,推荐模型中还集成了基于原始特征向量的逻辑回归模型.在通用数据集上的大量对比实验研究表明：与当前流行的深度学习推荐方法相比,该方法在推荐精度和召回率方面都有所改善,甚至是在数据稀疏和冷启动的环境下.     

改进的基于DNN的恶意软件检测方法

当前基于深度学习的恶意软件检测技术由于模型结构及样本预处理方式不够合理等原因,大多存在泛化性较差的问题,即训练好的恶意软件检测模型对不属于训练样本集的恶意软件或新出现的恶意软件的检出效果较差.提出一种改进的基于深度神经网络(Deep Neural Network,DNN)的恶意软件检测方法,使用多个全连接层构建恶意软件...     

一种基于Trace变换的数字图像版权保护算法

数字水印技术被视为一种有效的数字图像版权保护技术,但当水印信息因嵌入算法的公开而被一些攻击所破坏时,或同一幅图像被嵌入多个不同水印时,都不能有效地检测出数字作品的所有者。提出了一种基于Trace变换和标识信息的数字图像版权保护算法。该算法基于Trace变换进行数字作品的特征提取,并在第三方机构进行登记注册从而获得标识信息,然后根据标识信息确认数字作品的所有权。文中给出了算法的实验结果,并与传统的几何矩不变量算法进行了比较,结果表明,该算法对旋转、缩放、剪切及其组合、仿射变换、去掉部分行等几何攻击以及滤波和JPEG压缩攻击具有更高的稳健性。     

图像对抗样本检测综述

深度神经网络是人工智能领域的一项重要技术, 它被广泛应用于各种图像分类任务. 但是, 现有的研究表明深度神经网络存在安全漏洞, 容易受到对抗样本的攻击, 而目前并没有研究针对图像对抗样本检测进行体系化分析. 为了提高深度神经网络的安全性, 针对现有的研究工作, 全面地介绍图像分类领域的对抗样本检测方法. 首先根据检测器的构建方式将检测方法分为有监督检测与无监督检测, 然后根据其检测原理进行子类划分. 最后总结对抗样本检测领域存在的问题, 在泛化性和轻量化等方面提出建议与展望, 旨在为人工智能安全研究提供帮助.     

多知识点融合嵌入的深度知识追踪模型

知识追踪任务是根据学生历史答题记录追踪学生知识状态的变化,预测学生未来的答题情况.近年来,基于注意力机制的知识追踪模型在灵活性和预测性能上都明显优于传统知识追踪模型.但是现有深度模型大多只考虑了单一知识点题目的情况,无法直接处理多知识点题目,而智能教育系统中存在着大量的多知识点题目.此外,如何提高可解释性是深度知识追踪模型的关键挑战之一.为了解决这些问题,提出一种多知识点融合嵌入的深度知识追踪模型.所提模型考虑涉及多知识点的题目中知识点之间的关系,提出两种新颖的多知识点嵌入方式,并且结合教育心理学模型和遗忘因素提升预测性能和可解释性.实验表明所提模型在大规模真实数据集上预测性能上优于现有模型,并验证各个模块的有效性.     

基于基数K链表的动态软件水印版权保护机制研究

目前对于软件的版权保护主要有两方面,一是版权的归属证明,二是软件非法复制的消除与鉴别。按现有技术手段后者的实现难度较大,而软件知识产权的证明则在技术上具有可行性。文章利用大数分解难题,实现了一个基于基数K链表的动态软件水印系统。通过该系统,用户版权证明信息可在软件运行时经过特定触发条件动态构建于程序内存空间中。实验结果表明,已嵌入的动态水印能够被正确提取,且相比传统的静态水印技术,该水印系统具有隐蔽性高、抗攻击性强、实现简单等特点,且嵌入的水印对宿主程序的运行性能基本没有影响。     

融合DNN与AABB—圆形包围盒自碰撞检测

目的 为了解决自碰撞检测剔除率低和检测速度慢的问题,提出一种AABB（aixe align bounding box）—圆形包围盒树结构和具有二分类功能的深度神经网络（deep neural network,DNN）加速包围盒相交检测的方法。方法 对变形体构建AABB—圆形包围盒树,即对内部节点构建AABB包围盒,对叶子节点构建圆形包围盒。根据AABB—圆形包围盒生成包围盒测试树（bounding volume test tree,BVTT）,采用深度神经网络优化BVTT的包围盒相交测试和法向锥测试,输出碰撞三角形对。结果 在确定最优隐含层数和每层最优节点数保证深度神经网络达到最佳准确率的情况下,实验结果表明,在没有自碰撞的情况下,本文方法与AABB-OBB方法、经典包围盒方法耗时相同,但在自碰撞足够多的模拟场景中,融合深度神经网络的AABB-圆形包围盒方法比AABB-OBB（oriented bounding box）方法和经典的包围盒方法速度更快,整体耗时缩短了21%~37%。同时,对5种方法的更新率、检测效率和图元相交测试时间进行实验对比,发现本文方法比AABB-OBB方法和经典的方法具有更好的贴合性和更快的相交测试速度。结论 本文方法相对于AABB-OBB方法、经典包围盒方法的测试速度更快,不仅提高了自碰撞检测高层剔除率,同时降低了模拟整体耗时,更适用于实时变形体自碰撞检测领域。