面向自动可视化的可解释数据变换推荐（英文）

自动可视化技术能够为不熟悉可视化设计的用户生成有意义的可视化,以支持他们的数据分析和模式发现需求。当前,主流的自动可视化方法采用聚合与过滤从原始数据抽取模式信息。然而,这些有限的数据变换并不能捕获聚类、关联等复杂的模式。尽管特征工程领域的最新进展为更加广泛的自动数据变换提供了可能,其结果却缺少可解释性,导致变换后的模式无法与原始数据特征建立联系。为应对上述挑战,我们面向自动可视化中广泛的数据变换类型,提出一种创新的可解释推荐方法。我们通过回顾既往文献总结可行的数据变换空间,通过开展预实验总结变换可解释性的度量。我们的推荐算法能够计算最优的数据变换,这种变换能够在维持可解释性的同时揭示数据的模式信息。真实场景下的使用案例与用户实验验证了我们方法的有效性。     

语言知识驱动的词嵌入向量的可解释性研究

神经网络语言模型应用广泛但可解释性较弱,其可解释性的一个重要而直接的方面表现为词嵌入向量的维度取值和语法语义等语言特征的关联状况。先前的可解释性工作集中于对语料库训得的词向量进行知识注入,以及基于训练和任务的算法性能分析,对词嵌入向量和语言特征之间的关联缺乏直接的验证和探讨。该文应用基于语言知识库的伪语料法,通过控制注入语义特征,并对得到的词嵌入向量进行分析后取得了一些存在性的基础性结论: 语义特征可以通过控制注入到词嵌入向量中;注入语义特征的词嵌入向量表现出很强的语义合成性,即上层概念可以由下层概念表示;语义特征的注入在词嵌入向量的所有维度上都有体现。     

面向图像分类的深度模型可解释性研究综述

深度学习目前在计算机视觉、自然语言处理、语音识别等领域得到了深入发展,与传统的机器学习算法相比,深度模型在许多任务上具有较高的准确率.然而,作为端到端的具有高度非线性的复杂模型,深度模型的可解释性没有传统机器学习算法好,这为深度学习在现实生活中的应用带来了一定的阻碍.深度模型的可解释性研究具有重大意义而且是非常必要的,近年来许多学者围绕这一问题提出了不同的算法.针对图像分类任务,将可解释性算法分为全局可解释性和局部可解释性算法.在解释的粒度上,进一步将全局解释性算法分为模型级和神经元级的可解释性算法,将局部可解释性算法划分为像素级特征、概念级特征以及图像级特征可解释性算法.基于上述分类框架,总结了常见的深度模型可解释性算法以及相关的评价指标,同时讨论了可解释性研究面临的挑战和未来的研究方向.认为深度模型的可解释性研究和理论基础研究是打开深度模型黑箱的必要途径,同时可解释性算法存在巨大潜力可以为解决深度模型的公平性、泛化性等其他问题提供帮助.     

智能系统全生命周期安全测试理论与方法

人工智能技术在公共、国防安全领域得到了广泛应用,然而智能系统的安全性面临极大挑战。如何有效、全面、深入地对智能系统进行安全测试成为解决当前智能系统安全问题的重要途径。近年来,国内外高度重视智能系统的安全性问题,开展了大量的安全测试理论方法研究并出台了大量相关政策文件。针对智能系统面临的安全问题,本文详细阐述了面向智能系统全生命周期的安全测试理论与方法。首先,本文说明了智能系统的特点、安全内涵及安全机理;接着,本文结合模型训练、模型推理、模型部署三个主要生命周期阶段,详细地阐述了智能系统面临的安全性挑战和测试理论方法;最后,本文从标准、平台等角度阐明了构建智能系统安全测试支撑体系的方式,分析了自动驾驶典型场景下的智能系统安全测试案例,并给出了未来展望。开展智能系统安全测试理论和方法体系的建设,可有效规避系统潜在风险和质量缺陷,是实现人工智能算法可解释、可信赖的基本路径,对于确保人工智能技术安全、可靠、可控具有重要意义。     

知识图谱可解释推理研究综述

面向知识图谱的知识推理旨在通过已有的知识图谱事实,去推断新的事实,进而实现知识库的补全.近年来,尽管基于分布式表示学习的方法在推理任务上取得了巨大的成功,但是他们的黑盒属性使得模型无法为预测出的事实做出解释.所以,如何设计用户可理解、可信赖的推理模型成为了人们关注的问题.从可解释性的基本概念出发,系统梳理了面向知识图谱的可解释知识推理的相关工作,具体介绍了事前可解释推理模型和事后可解释推理模型的研究进展;根据可解释范围的大小,将事前可解释推理模型进一步细分为全局可解释的推理和局部可解释的推理;在事后解释模型中,回顾了推理模型的代表方法,并详细介绍提供事后解释的两类解释方法.此外,还总结了可解释知识推理在医疗、金融领域的应用.随后,对可解释知识推理的现状进行概述,最后展望了可解释知识推理的未来发展方向,以期进一步推动可解释推理的发展和应用.     

基于深度语义匹配的法律条文推荐方法

法律条文(简称法条)是司法量刑的主要依据,法律条文的精准推荐,能够辅助提高法律智能判决的质量.目前,主流的法条推荐模型是将有限数量的法条当作类别标签,采用分类的思想,根据法律文书的案例描述将其归类到相关的法条.但是法条作为法律规范的文字表述形式,现有的分类方法简单将其作为类别标签的索引编号,导致对其语义信息利用不足,影响了推荐质量.针对此问题,研究将主流的法条推荐方法从分类模型转化为语义匹配模型,提出了基于深度语义匹配的法条推荐方法(DeepLawRec).该方法包含局部语义匹配模块和全局语义推荐模块,分别设计双向Transformer卷积网络模型和基于回归树的推荐模型,在理解文本序列的同时,关注与法条匹配学习相关的局部语义特征,增强法条推荐的准确率和可解释性.在公开数据集上的实验结果表明,DeepLawRec方法在推荐质量上优于传统的文本分类以及经典的语义匹配方法,并进一步探讨了如何分析和判读推荐结果.     

基于Pareto烟花算法的模糊分类系统设计

为提高模糊模型的精确性,利用烟花算法并结合Pareto最优解集的概念,提出一种模糊建模方法。采用模糊聚类方式构建初始模糊模型,使用烟花算法对模型的结构和参数进行优化学习。在每次迭代运算过程中,通过快速非支配排序算法和Pareto最优解集的概念对子代进行评估和选择。对Wine数据样本集进行仿真实验,结果表明,该方法能够在保证较高分类精度的前提下,建立结构简单、易于理解的模糊分类系统。     

基于微分进化算法的模糊模型设计

提出一种基于微分进化算法的TS模糊模型设计方法。该方法利用“匹茨堡型”实数编码的微分进化算法,对初始模糊模型的结构和参数进行学习。微分进化算法的目标函数同时考虑模型的精确性和解释性。利用该方法进行一类合成非线性动态系统的辨识,仿真结果验证了该方法的有效性。     

C-Script设计与实现

随着Internet的快速发展,跨平台运行应用程序需求的不断增长,诸如VBScript和JavascriPt等解释运行的脚本语言得到了广泛应用。文章介绍了C－Script的设计与实现,并将其应用于网络协议设计与测试系统。     

图像背景在图像超分辨率中的作用研究

图像超分辨率是底层视觉领域的一项代表性任务，相关研究发现，图像某个像素位置的重建质量与其周围的背景有关。基于这一发现，该文探索了通过分割输入图像解释网络的新视角，提出了一种简单组合数据集，该数据集信息量丰富，但单张图中仅包含单一的纹理信息。实验证明，与目标区域纹理相近的背景，较有利于模型在该区域的超分辨率重建；对比分析注意力机制与传统卷积神经网络，结果显示，注意力结构更能帮助网络关注长程有效信息。