KENAOTE：一种知识增强的方面和意见对提取多任务学习模型

方面和意见对提取旨在根据给定句子提取方面和意见项并匹配关系,然而相关研究通常独立提取方面和意见项,而不识别关系。为了识别方面和意见项关系,提出一种知识增强的方面和意见对提取多任务学习模型。首先使用预训练语言模型为文本生成具有语义信息的词向量,为了实现知识增强的效果,使用遮蔽注意力的方式将知识图谱的语义信息融入词向量中,然后使用基于距离注意力和条件随机场的序列标注方法提取方面和意见项,最后再将提取的方面和意见项两两匹配预测对应关系。为了加强方面和意见项提取模块和匹配模块的联系,采用共享编码层的方式实现联合训练。在训练流程中,匹配模块采用真实标签作为输入,在测试过程中采用提取模块的结果作为输入。为了证明模型的有效性,使用三个通用领域数据集进行对比实验,该模型在方面和意见项匹配任务中F1值分别达到66.99%、75.17%和67.30%,并优于其他比较模型。     

基于知识回顾与特征解耦的目标检测蒸馏

当前的知识蒸馏算法均只在对应层间进行蒸馏,为了解决这一问题,提高知识蒸馏的性能,首先分析了教师模型的低层特征对学生模型高层特征的指导作用,并在此基础上提出了基于知识回顾解耦的目标检测蒸馏方法。该方法首先将学生模型的高层特征与低层特征对齐、融合并区分空间和通道提取注意力,使得学生的高层特征能够渐进式地学到教师的低层和高层知识;随后将前背景解耦,分别蒸馏;最后通过金字塔池化在不同尺度上计算其与教师模型特征的相似度。在不同的目标检测模型上进行了实验,实验表明,提出的方法简单且有效,能够适用于各种不同的目标检测模型。骨干网络为ResNet-50的RetinaNet和FCOS分别在COCO2017数据集上获得了39.8%和42.8%的mAP,比基准提高了2.4%和2.3%。     

最优知识传递宽残差网络输电线路螺栓缺陷图像分类

目的 输电线路螺栓图像具有分辨率低和视觉信息较差的特点,针对螺栓缺陷图像分类时教师网络（大模型）参数量大、学生网络（小模型）分类精度低的问题,提出了一种最优知识传递宽残差网络输电线路螺栓缺陷图像分类方法,来弥补使用大小模型进行分类任务的局限性。方法 首先改变大模型宽度,即拓宽网络特征表达维度来增加向小模型传递的螺栓缺陷知识和简化小模型结构至3个残差块;然后为了选出传递螺栓缺陷知识性能最优的大模型,提出知识偏差的概念来可视化大模型向小模型螺栓缺陷知识传递的程度,综合分析不同宽度大模型利用知识蒸馏算法与注意力转移算法分别指导小模型训练后的分类准确率,并用知识偏差来确定最优知识传递模型;最后将最优知识传递模型利用知识蒸馏算法与注意力转移算法相结合指导小模型训练,尽可能提升小模型的螺栓缺陷分类性能。结果 在自建螺栓缺陷图像分类数据集上进行了验证,结果表明宽度为5的大模型向小模型传递螺栓缺陷知识性能最优,使小模型的螺栓缺陷分类准确率提高了5.56%,小模型与最优大模型的分类准确率只差2.17%,知识偏差为0.28,且小模型的参数量仅为大模型参数量的0.56%。结论 本文提出的最优知识传递宽残差网络输电线路螺栓缺陷图像分类方法,弥补了大小模型螺栓缺陷图像分类的局限性,实现了精度与资源消耗的平衡。     

基于自编码和知识蒸馏的表面缺陷检测方法

针对传统的表面缺陷检测方法只能对具有高对比度或低噪声的明显缺陷轮廓进行检测的问题,提出了一种基于自编码和知识蒸馏的表面缺陷检测方法来准确定位和分类从实际工业环境捕获的输入图像中出现的缺陷。首先,设计了一种级联自动编码器（CAE）架构用于分割和定位缺陷,其目的是将输入的原始图像转换为基于CAE的预测蒙版;其次,利用阈值模块对预测结果进行二值化以获得准确的缺陷轮廓;然后,把缺陷区域检测器提取并裁剪出来的缺陷区域视为下一个模块的输入;最后,将CAE分割结果的缺陷区域通过知识蒸馏进行类别分类。实验结果表明,与其他几种表面缺陷检测方法相比,所提出的方法综合性能最好,其缺陷检测平均准确率为97.00%。该方法能够有效地对较小的、边缘不清晰的缺陷进行分割,满足对物品表面缺陷实时分割检测的工程要求。     

联合知识与CNN的遥感影像目标检测研究综述

目标检测是遥感影像智能解译的重要内容,是将影像转换为信息的关键环节。基于知识的方法是遥感影像目标检测的传统经典方法,而基于卷积神经网络的深度学习方法则是近年来逐步兴起并迅速大范围应用的主流方法。介绍了基于几何知识、上下文知识、辅助知识、综合知识的方法,以及一阶段、两阶段的卷积神经网络方法,重点论述了联合知识与卷积神经网络的新方法,并对改进遥感影像数据集、调整算法网络框架、实现目标上下文推理等三种具体应用形式进行了详细介绍。对联合知识与卷积神经网络方法的遥感影像目标检测方法进行了展望。     

利用置信规则库构建WSN节点故障检测模型

在无线传感器网络(wireless sensor network, WSN)节点故障检测领域的研究过程中,故障检测准确率会受节点数据的不确定性和专家知识模糊性的影响。针对这一问题,本文提出了一种基于置信规则库(belief rule base, BRB)的WSN节点故障检测方法。首先,根据WSN工作原理及节点工作特性描述WSN节点故障检测过程;然后,从空间和时间2个维度对节点数据提取特征,建立基于空间和时间相关性的WSN节点故障检测模型;最后,利用Intel Lab Data无线传感器数据集进行案例研究以验证模型的有效性。结果证明,本文方法能够统筹利用专家知识和节点数据实现WSN节点故障检测。     

领域知识图谱快速构建和应用框架

快速构建和应用领域知识图谱(domain knowledge graphs, DKG)已成为企业的迫切需求。然而,领域知识图谱的快速构建和应用仍然存在问题:1）构建前,复杂领域场景涉及知识维度广,业务专家短时间内难以构建完备的领域schema;2）构建中,业务和技术专家深度耦合,图谱构建缓慢,难以适应业务快速发展需求;3）构建后,图谱应用严重依赖技术人员开发,业务专家无法自主基于领域知识图谱探索问题解决方案。为解决上述问题,本文提出了领域知识图谱的快速构建和应用框架,其中包括:多人协作构建领域schema解决领域知识的复杂性问题,将业务和技术专家解耦合,提高领域知识图谱的构建效率,最后通过建立基于行业schema的auto-KBQA((knowledge base question answering)解决领域知识图谱在知识问答应用的快速落地。通过实际项目的应用落地,验证了该框架可有效加快领域知识图谱的落地应用,期望该框架给领域知识图谱的快速构建和应用带来一定的启发和帮助。     

基于Malmquist的重庆市科研院所知识生产效率分析

利用中国31个省市自治区科研院所2009—2011年的数据,采用DEA（Data Envelopment Analysis,数据包络分析）和Malmquist指数分析方法从静态和动态两个角度对重庆市科研院所的知识产出效率进行比较分析,并利用DEA-Tobit两步法找出影响科研院所效率的主要影响因素。研究发现：重庆市科研院所的知识生产效率总体处于偏低状态,其科技资源的利用效率存在提升空间;重庆市科研院所未来改革的方向应集中在财政资助方式的变革,加大博士层级的科技人才培养力度,以及提高科技人才劳务支出等。最后提出了相应的政策建议。     

基于SECI 模型的高校思政课实践教学研究

现今,思政课的实践教学普遍受到重视,但在实践教学过程中还有不少问题日益凸显。从SECI模型理论的核心——默会知识理论的角度出发,首先介绍了默会知识与内隐认知,然后探讨了默会知识在思政课实践教学环节中的作用,并由此得出了对思政课教学的一些启示。