一种可解释的自由文本击键事件序列分类模型

TypeNet是一种基于两层长短时记忆网(LSTM)分支结构的孪生网络模型,在自由文本击键事件序列分类任务上取得了很好的效果,但缺乏可解释性。为此,该文改进了TypeNet模型,提出一种基于单层LSTM分支结构的孪生网络模型TypeNet II。TypeNet II模型用多层感知机度量两个分支输出表征向量差的绝对值体现的特征序列的相似度。模型训练完毕后,用多元二项式回归模拟多层感知机部分,基于得到的多元二项式对模型进行解释。实验结果表明,TypeNet II模型的分类效果超出了已有的TypeNet模型,多元二项式回归的结果具有泛化性,表征向量差的绝对值与相似度量之间存在非线性关系。     

卷积神经网络表征可视化研究综述

近年来, 深度学习在图像分类、目标检测及场景识别等任务上取得了突破性进展, 这些任务多以卷积神经网络为基础搭建识别模型, 训练后的模型拥有优异的自动特征提取和预测性能, 能够为用户提供“输入–输出”形式的端到端解决方案. 然而, 由于分布式的特征编码和越来越复杂的模型结构, 人们始终无法准确理解卷积神经网络模型内部知识表示, 以及促使其做出特定决策的潜在原因. 另一方面, 卷积神经网络模型在一些高风险领域的应用, 也要求对其决策原因进行充分了解, 方能获取用户信任. 因此, 卷积神经网络的可解释性问题逐渐受到关注. 研究人员针对性地提出了一系列用于理解和解释卷积神经网络的方法, 包括事后解释方法和构建自解释的模型等, 这些方法各有侧重和优势, 从多方面对卷积神经网络进行特征分析和决策解释. 表征可视化是其中一种重要的卷积神经网络可解释性方法, 能够对卷积神经网络所学特征及输入–输出之间的相关关系以视觉的方式呈现, 从而快速获取对卷积神经网络内部特征和决策的理解, 具有过程简单和效果直观的特点. 对近年来卷积神经网络表征可视化领域的相关文献进行了综合性回顾, 按照以下几个方面组织内容: 表征可视化研究的提起、相关概念及内容、可视化方法、可视化的效果评估及可视化的应用, 重点关注了表征可视化方法的分类及算法的具体过程. 最后是总结和对该领域仍存在的难点及未来研究趋势进行了展望.     

基于CNN-GAP可解释性模型的软件源码漏洞检测方法

源代码漏洞检测是保证软件系统安全的重要手段。近年来,多种深度学习模型应用于源代码漏洞检测,极大提高了漏洞检测的效率,但还存在自定义标识符导致库外词过多、嵌入词向量的语义不够准确、神经网络模型缺乏可解释性等问题。基于此,该文提出了一种基于卷积神经网络(CNN)和全局平均池化(GAP)可解释性模型的源代码漏洞检测方法。首先在源代码预处理中对部分自定义标识符进行归一化,并采用One-hot编码进行词嵌入以缓解库外词过多的问题;然后构建CNN-GAP神经网络模型,识别出包含CWE-119缓冲区溢出类型漏洞的函数;最后通过类激活映射(CAM)可解释方法对结果进行可视化输出,标识出可能与漏洞相关的代码。通过与Russell等人提出的模型以及Li等人提出的VulDeePecker模型进行对比分析,表明CNN-GAP模型能达到相当甚至更好的性能,且具有一定的可解释性,便于研究人员对漏洞进行更深入的分析。     

基于Pareto协同进化算法的TS模糊模型设计

提出一种可同时构造多个精确性和解释性较好折中的TS模糊模型的设计方法．该方法由以下两步组成：1）采用模糊聚类算法辨识初始模型；2）利用Pareto协同进化算法对所获得的初始模型进行结构和参数优化．Pareto协同进化算法由规则前件种群和隶属函数种群组成，其目标函数同时考虑模型的精确性和解释性，采用一种新的基于非支配排序的多种群合作策略．利用该方法对一类合成非线性动态系统进行建模，仿真结果验证了该方法的有效性．     

重新找回人工智能的可解释性

针对深度神经网络AI研究的可解释性瓶颈，指出刚性逻辑（数理形式逻辑）和二值神经元等价，二值神经网络可转换成逻辑表达式，有强可解释性。深度神经网络一味增加中间层数来拟合大数据，没有适时通过抽象把最小粒度的数据（原子）变成粒度较大的知识（分子），再把较小粒度的知识变成较大粒度的知识，把原有的强可解释性淹没在中间层次的汪洋大海中。要支持多粒度的知识处理，需把刚性逻辑扩张为柔性命题逻辑（命题级数理辩证逻辑），把二值神经元扩张为柔性神经元，才能保持强可解释性。本文详细介绍了从刚性逻辑到柔性逻辑的扩张过程和成果，最后介绍了它们在AI研究中的应用，这是重新找回AI研究强可解释性的最佳途径。     

面向可解释性的物体拓扑结构骨架表征方法

目的 模式识别中，通常使用大量标注数据和有效的机器学习算法训练分类器应对不确定性问题。然而，这一过程缺乏知识表征和可解释性。认知心理学和实验心理学的研究表明，人类往往不使用代价如此巨大的机制，而是使用表征、归纳、推理、解释和约束传播等与符号主义人工智能方法类似的手段来应对物体识别中的不确定性并提供可解释性。因此本文旨在从传统的符号计算出发，利用骨架拓扑结构表征提供一种可解释性的思路。方法 以骨架树为基本手段来形成物体拓扑结构特征和几何特征的形式化表征，并基于泛化框架对少量同类表征进行知识抽取来形成关于物体类别的知识概括显式化表征。结果 在形成物体类别的概括表征实验中，通过路径重建直观展示了同类属物体上得到的最一般表征的几何物理意义。在可解释性验证实验中，通过跨数据的拓扑应用展示了新测试样本相对于概括表征的特定差异，表明该表征具有良好的可解释性。最后在形状补全的不确定性推理实验中，不仅可以得到识别结论，而且清晰展示了识别背后做出的判断依据，进一步验证了该表征的可解释性。结论 实验表明一般化的形式表征能够应对尺寸、颜色和形状等不确定性问题，本文方法避免了基于纹理特征所带来的不确定性，适用于任意基于基元的表征方式，具有更好的鲁棒性、普适性和可解释性，计算代价更小。     

顺序推荐系统的可解释性

本文以护肤品种类搭配方案为研究背景,着重关注相对顺序之间有着较强约束关系的物品的搭配。我们通过对规则推理和约束信息的设计,利用知识图谱的可推理性和可解释性,结合约束关系重点研究物品之间搭配的可行性,对可行性结果给出解释性理由。     

基于多目标遗传算法的TS模糊模型设计

提出一种利用遗传算法进行TS模糊模型的优化设计方法。首先定义了TS模糊模型的精确性指标,给出模糊模型解释性的必要条件。然后利用模糊聚类算法和最小二乘法辨识初始的模糊模型;利用多目标遗传算法优化模糊模型;为提高模型的解释性,在遗传算法中利用基于相似性的模糊集合和模糊规则简化方法对模型进行约简。最后利用该方法进行一类二阶合成非线性动态系统的建模,仿真结果验证了该方法的有效性。     

基于中心型TSK模糊模型的分层模糊系统

模糊系统随着输入维数的增加,其中模糊规则和辨识参数的数量将按指数级增长,针对这一问题,采用分层模糊系统是一种很好的解决方法,但分层模糊系统中各层的辨识变量没有明确的物理含义,无法进行合理的模糊化设计和解释。基于一种分层模糊系统,引用中心性TSK模糊系统思想,从而构造了一种新型的模糊系统。这种新型模糊系统保留了分层模糊系统的结构优势,极大地减少了模糊系统的模糊规则数量和辨识参数数量,又能对用到的内部参数进行很好的解释。并通过实例仿真表明基于中心型TSK模糊模型的分层模糊系统具有较好的逼近性能和更简单的结构。     

人工智能在音频信号处理中的应用与挑战

随着人工智能（Artificial Intelligence,AI）技术的迅猛发展，音频信号处理成为引人瞩目的研究领域。在应用现状方面，它主要聚焦于自适应音频分析与语音识别、音频合成与音乐创作、高级音频增强技术的创新以及实时音频处理与自动化应用的前沿。然而，这一领域也面临着数据隐私和伦理挑战，在解决挑战的过程中，研究提出独特且具有前瞻性的策略。面向多领域数据的跨模态学习与迁移学习，强调强化学习和元学习在实时音频处理中的应用，提出将可解释的深度学习模型与隐私保护技术融合。策略的提出不仅为音频信号处理领域的未来发展指明了方向，也为AI在其他领域的应用提供了有益借鉴。