车牌识别系统的黑盒对抗攻击

深度神经网络(Deep neural network, DNN)作为最常用的深度学习方法之一,广泛应用于各个领域.然而,DNN容易受到对抗攻击的威胁,因此通过对抗攻击来检测应用系统中DNN的漏洞至关重要.针对车牌识别系统进行漏洞检测,在完全未知模型内部结构信息的前提下展开黑盒攻击,发现商用车牌识别系统存在安全漏洞.提出基于精英策略的非支配排序遗传算法(NSGA-II)的车牌识别黑盒攻击方法,仅获得输出类标及对应置信度,即可产生对环境变化较为鲁棒的对抗样本,而且该算法将扰动控制为纯黑色块,可用淤泥块代替,具有较强的迷惑性.为验证本方法在真实场景的攻击可复现性,分别在实验室和真实环境中对车牌识别系统展开攻击,并且将对抗样本用于开源的商业软件中进行测试,验证了攻击的迁移性.     

面向复杂数据审计需求的数据血缘构建方法

针对复杂数据审计需求,现有方法是通过查询分析数据库中每条执行语句信息,数据审计效率低下;目前也有一些手段是使用数据血缘工具进行快速查找,但是这种方式需要侵入系统获取源码,容易造成数据泄露或者被恶意窜改。针对这些问题,提出一种面向复杂数据审计需求的数据血缘构建方法,融合日志预处理、数据关系解析、数据对齐等关键技术,通过解析系统运行日志信息以非侵入的方式实现数据血缘图谱的构建,并面向烟草物流出入库环节形成数据审计工具。以烟草物流中13 796个批次货物在流转过程中所对应的155 728条事务日志为测试数据集,从完整性、构建成本、数据审计效率三个方面进行对比实验。结果表明,提出的方法能够在10 s内完成查询任务,占用内存为1.23 MB/百条,明显少于现有方法。相比现有方法,提出的方法可在数据级粒度上进行完整准确的数据血缘构建,且使用基于该方法所构建的数据血缘进行数据审计能够大幅度提升卷烟物流过程中的数据审计效率。     

基于PSO的路牌识别模型黑盒对抗攻击方法

随着深度学习在计算机视觉领域的广泛应用，人脸认证、车牌识别、路牌识别等也随之呈现商业化应用趋势，因此针对深度学习模型的安全性研究至关重要.已有的研究发现深度学习模型易受精心制作的包含微小扰动的对抗样本攻击，输出完全错误的识别结果.针对深度模型的对抗攻击是致命的，但同时也能帮助研究人员发现模型漏洞并采取进一步改进措施.基于该思想，本文针对自动驾驶场景中的基于深度学习的路牌识别模型，提出一种基于粒子群优化的黑盒物理攻击方法（black-box physical attack via PSO，BPA-PSO），BPA-PSO在未知模型结构的前提下，不仅可以实现对深度模型的黑盒攻击，还能使得实际物理场景中的路牌识别模型失效.通过在电子空间的数字图像场景、物理空间的实验室及户外路况等场景下的大量实验，验证了本文提出的BPA-PSO算法的攻击有效性，可发现模型漏洞，进一步提高深度学习的应用安全性.最后，文章对BPA-PSO算法存在的问题进行分析，对未来的研究可能面临的挑战进行了展望.     

采用数据血缘的数据热度预测方法

数据之间存在相互引用关系，在进行数据开发时，通常存在一些具有高热度的数据，此类数据被其他数据大量引用，它们的缺陷往往会给整个大数据平台产出的数据结果带来极大影响。因此，对高热度数据进行预测并予以相应保护至关重要。面向基于数据热度的数据分级治理需求，提出一种采用数据血缘的数据热度预测方法。首先通过构建数据系统中的数据血缘捕获数据节点之间的引用关系；然后，提取数据血缘的时间和结构特征，并采用图卷积网络（GCN）进行数据血缘图特征的学习；最后，提出一种数据血缘传播趋势分层读出的方法读出图特征，对数据热度进行预测。在浙江中烟营销系统数据集ZJZY-SL和高能物理现象学相关论文引文数据集（HEP-PH）上的实验结果表明，相较于DeepCCP等方法，所提方法的识别准确率分别提升7.64、2.88个百分点，平均F1分别提升4.7、4.34个百分点。所提方法能充分挖掘数据在被引用早期的数据血缘特征，并预测数据节点未来的热度。