基于多层注意力网络的可解释认知追踪方法

认知追踪是一种数据驱动的学习主体建模技术,旨在根据学生历史答题数据预测其知识掌握状态或未来答题表现.近年来,在深度学习算法的加持下,深度认知追踪成为当前该领域的研究热点.针对深度认知追踪模型普遍存在黑箱属性,决策过程或结果缺乏可解释性,难以提供学习归因分析、错因追溯等高价值教育服务等问题,提出一种基于多层注意力网络的认知追踪模型.通过挖掘题目之间多维度、深层次的语义关联信息,建立一种包含题目元素、语义和记录等3层注意力的网络结构,利用图注意神经网络和自注意力机制等对题目进行嵌入表示、语义融合和记录检索.特别是在损失函数中引入提升模型可解释性的正则化项与权衡因子,实现对模型预测性能与可解释强度的调控.同时,定义了预测结果可解释性度量指标——保真度,实现对认知追踪模型可解释性的量化评估.最后,在6个领域基准数据集上的实验结果表明:该方法有效提升了模型的可解释性.     

可解释深度知识追踪模型

知识追踪任务通过建模用户的习题作答序列跟踪其认知状态,进而预测其下一时刻的答题情况,实现对用户知识掌握程度的智能评估.当前知识追踪方法多针对知识点建模,忽略了习题信息建模与用户个性化表征,并且对于预测结果缺乏可解释性.针对以上问题,提出了一个可解释的深度知识追踪框架.首先引入习题的上下文信息挖掘习题与知识点间的隐含关系,得到更有表征能力的习题与知识点表示,缓解数据稀疏问题.接着建模用户答题序列获得其当前知识状态,并以此学习个性化注意力,进而得到当前习题基于用户知识状态的个性化表示.最后,对于预测结果,依据个性化注意力选择一条推理路径作为其解释.相较于现有方法,所提模型不仅取得了更好的预测结果,还能为预测结果提供推理路径层面的解释,体现了其优越性.     

LFKT:学习与遗忘融合的深度知识追踪模型

知识追踪任务旨在根据学生历史学习行为实时追踪学生知识水平变化,并且预测学生在未来学习表现.在学生学习过程中,学习行为与遗忘行为相互交织,学生的遗忘行为对知识追踪影响很大.为了准确建模知识追踪中学习与遗忘行为,本文提出了一个兼顾学习与遗忘行为的深度知识追踪模型LFKT.LFKT模型综合考虑了四个影响知识遗忘因素,包括学生重复学习知识点的间隔时间、重复学习知识点的次数、顺序学习间隔时间以及学生对于知识点的掌握程度.结合遗忘因素,LFKT采用深度神经网络,利用学生答题结果作为知识追踪过程中知识掌握程度的间接反馈,建模融合学习与遗忘行为的知识追踪模型.通过在真实在线教育数据集上的实验,与当前知识追踪模型相比,LFKT可以更好地追踪学生知识掌握状态,并具有较好的预测性能.     

知识状态神经推理的知识追踪模型

针对知识追踪研究忽略知识点之间的拓扑关系,从而限制了知识点状态的表示并最终影响预测效果的问题,提出一种知识状态神经推理知识追踪模型。首先建立知识点关系图和知识点状态图;其次利用扩散模型得到关系图和状态图的投影并完成融合;然后利用逆扩散过程得到融合了知识点关系的整体知识状态表示;最后预测学习者的表现。在模型有效性方面,在若干数据集上对比四个相关模型,所提模型均取得了一定的优势。在可解释性方面,展示了知识状态进化过程与真实答题结果之间的对应关系。在实际应用方面,以该模型为基础的智慧学习环境已分别应用于一门人工智能课程和英语语法课程,并取得了优于对比模型的结果。     

融合IRT的图注意力深度知识追踪模型

知识追踪，旨在根据学生的历史答题表现实时追踪学生的知识状态(知识的掌握程度)并且预测学生未来的答题表现。目前的研究仅仅探索了问题或概念本身对学生答题表现的直接影响，而往往忽略了问题及包含的概念中存在的深层次信息对学生答题表现的间接影响。为了更好地利用这些深层次信息，一种融合项目反应理论的图注意力深度知识追踪模型GAKT-IRT被提出。模型将图注意力网络应用于知识追踪领域，取得了显著的提升效果，并使用IRT增加了模型的可解释性。首先，通过图注意力网络层获得问题的深层次特征表示；接着，根据结合了深层次信息的学生历史答题序列对学生的知识状态进行建模；然后，使用IRT对学生未来的答题表现进行预测。在6个公开真实在线教育数据集上的对比实验结果证明了，GAKT-IRT模型可以更好地完成知识追踪任务，在预测学生未来答题表现上具有明显的优势。     

学习者知识追踪研究进展综述

学习者建模是自适应学习系统的支撑技术之一,其中以知识追踪为代表的学习者知识状态建模研究最为广泛。3种代表性的知识追踪技术分别为基于隐马尔可夫模型的贝叶斯知识追踪、基于逻辑回归模型的可加性因素模型、基于循环神经网络的深度知识追踪。通过综述发现,贝叶斯知识追踪模型适用于含单一知识点的学习任务的知识追踪,可加性因素模型和深度知识追踪模型适用于含多知识点的学习任务的知识追踪,但深度知识追踪模型的教学可解释性不佳。在综述现有研究的基础上,受到知识空间理论的启发,将知识点之间的先决关系融入到知识追踪模型是未来的一个重要研究方向,并初步提出了一种融合知识点先决关系的可加因素模型。     

深度知识追踪模型综述和性能比较

知识追踪是一种重要的认知诊断方法,往往被用于在线学习平台、智能辅导系统等信息化教学平台中.知识追踪模型通过分析学生与课程作业的交互数据,即时模拟学生对课程知识点的掌握水平,模拟的结果可以用来预测学生未来的学习表现,并帮助他们规划个性化的学习路径.在过去20多年中,知识追踪模型的构建通常基于统计学和认知科学的相关理论.随着教育大数据的开放和应用,基于深度神经网络的模型(以下简称“深度知识追踪模型”)以其简单的理论基础和优越的预测性能,逐渐取代了传统模型,成为知识追踪领域新的研究热点.根据所使用的神经网络结构,阐述近年来代表性深度知识追踪模型的算法细节,并在5个公开数据集上对这些模型的性能进行全面比较.最后讨论了深度知识追踪的应用案例和若干未来研究方向.     

图谱波纹特征驱动的知识追踪算法

知识追踪是智能教学系统中用于建模学生知识状态的关键技术.尽管研究者们提出了多种知识追踪模型，但这些模型没有充分挖掘知识点之间的关联性，限制了知识追踪的性能和应用.为此，本文提出了RKT(RippleNet Knowledge Tracing),一种利用知识状态传播将知识图谱融入到知识追踪的模型.首先以学生掌握的题目为起点，将题目-知识点的对应关系及知识点之间的关联形成一个知识图谱，然后将学生的知识状态沿着该知识图谱不断传播，产生向外扩散的多个“波纹”,再叠加起来，形成学生对未知题目的多阶响应，自动探索学生潜在的学习能力，最后预测回答正确的概率.通过对Assistment2009＿Skill＿builder、Junyi Academy等经典数据集的对比实验，结果表明RKT在AUC和ACC性能上有着显著提升.     

融合注意力机制的时间卷积知识追踪模型

针对基于循环神经网络（RNN）的深度知识追踪模型存在的可解释性不足和长序列依赖问题,提出一种融合注意力机制的时间卷积知识追踪（ATCKT）模型。首先,在训练阶段学习学生历史交互的嵌入表示;然后,使用基于题目的注意力机制学习特定权重矩阵,从而识别并强化学生的历史交互对每一时刻知识状态不同程度的影响;最后,使用时间卷积网络（TCN）提取学生动态变化的知识状态,在这个过程中利用扩张卷积和深层神经网络扩大序列学习范围,缓解长序列依赖问题。将ATCKT模型与深度知识追踪（DKT）、卷积知识追踪（CKT）等四种模型在ASSISTments2009、ASSISTments2015、Statics2011和Synthetic-5这4个数据集上进行对比实验,实验结果显示,所提模型的曲线下面积（AUC）和准确率（ACC）均有显著提升,尤其在ASSISTments2015数据集上表现最佳,分别提升了6.83～20.14个百分点和7.52～11.22个百分点,并且该模型的训练时间与DKT模型相比减少了26%。可见,所提模型可以更准确地捕捉学生的知识状态,更高效地预测学生未来的表现。     

F-TCKT：融合遗忘因素的深度时序卷积知识追踪模型

智慧教育中，对学生的知识水平进行追踪是很重要的技术之一。传统的深度知识追踪方法的主要关注点集中在循环神经网络(recurrent neural network, RNN)上，但RNN存在梯度消失或者梯度爆炸的问题，并且很多知识追踪方法没有考虑到学习过程中遗忘行为对结果的影响。针对以上问题，为了准确地预测学生的知识水平，提出了一种融合遗忘因素的深度时序卷积知识追踪模型(temporal convolutional knowledge tracking with forgetting, F-TCKT)。该模型引入了三个影响学生遗忘行为的因素，包括学习相同知识点的时间间隔、学习的时间间隔和同一知识点的学习次数。首先利用全连接网络计算得到表示学生遗忘程度的向量并与学生的答题记录进行拼接，然后使用梯度稳定的时间卷积网络(temporal convolutional network, TCN)和注意力机制预测学生下一次答题正误的概率。经实验验证，与传统方法相比，F-TCKT具有更好的预测性能。     

纯量反馈系统稳定零极近似相消的积分约束

导出了单输入单输出反馈控制系统误差响应基于名义系统稳定的零、极点近似相消的时间域积分约束，此积分约束是任何反馈控制系统均应满足的．这一约束给出了单输入单输出反馈系统固有折中的新的观点．名义系统稳定的零、极点近似相消的存在导致反馈控制系统的调节时间延长或者误差响应的无穷范数变大．因此，在反馈控制系统设计中，尽量避免补偿器的零、极点与名义系统的极、零点近似相消(即使这些零、极点是稳定的)．     

区域生长辅助的地图配准在室内定位中的应用

地图匹配（ MM）算法通过粒子滤波（ PF）利用室内地图信息来抑制基于惯性传感器的室内定位系统的误差累计。利用区域生长（ RG）算法结合当前步长和方向信息在地图上找到合理的落脚范围,并以此来判断粒子的有效性。这种方法能有效改善地图配准算法的实用性和计算复杂度。提出一种改进的零速度（ ZV）检测算法能准确提取步伐信息,间接提升了零速度更新（ ZUPT）算法和地图配准算法的精度。实验结果表明：该算法的定位误差小于1.0%,定位精度比单纯的航位推算（ DR）算法平均提高了5.97%。     

The impact of intellectual capital on the competitive advantage: Applied study in Jordanian telecommunication companies

This research investigates the impact of intellectual capital components on the competitive advantage in the Jordanian telecommunication companies. The empirical findings indicate that the relational capital and the structural capital have positive impact on competitive advantage. Both the relational capital and the structural capital account for 48.4% of the competitive advantage. It is unexpected to find that the human capital does not have a significant direct impact on competitive advantage. However, it is valid to state that the human capital indirectly and significantly influences competitive advantage as it is embedded in the relational capital. The effect of the relational capital on competitive advantage is moderated by gender and age. The effect is strongest among younger men. In the case of the structural capital its effect is moderated by gender only such that the effect is slightly stronger for females rather than males.     

基于KW、MW及DW的决策支持系统架构研究

SDSS是较为先进的决策支持系统，但由于其模型库中的模型固定不变，因此在实际应用中具有一定的局限性。提出了集成数据仓库DW、知识仓库KW和模型仓库MW作为底部架构的体系结构，能有效解决这一问题。该架构简化了模型获得和编码任务，增强了决策的有效性和智能性，提高了决策效率。     

基于多智体多库协同的一种虚拟现实仿真界面构建技术

一、引言计算机仿真接口界面,随着计算机软硬件的不断提高也在快速地变化着。从其发展趋势中我们不难看出这一点:从早期的命令行提示编辑Command Line,到全屏幕菜单编辑(Menu based Editor),再到图形用户界面Graphic User In-terface(GUI),界面在不断追求如何更好地适应用户、与用户更直接地交互。其具体特点包括自然而又丰富的色彩、逼真而又完美的几何造型、柔和而又动听的环境声响、质感而又具有力反馈的实物等。这些人们所需要的真实感,一种技术是难以胜任的,它需要各种软、硬件技术的综合与集成。从目前的趋     

An efficient soft-computing technique for extraction of EEG signal from tainted EEG signal

Electroencephalography (EEG) is the recording of electrical activity of neurons within the brain and is used for the evaluation of brain disorders. But, EEG signals are contaminated with various artifacts which make interpretation of EEGs clinically difficult. In this research paper, we use a soft-computing technique called ANFIS (Adaptive Neuro-Fuzzy Inference System) for the removal of EOG artifact, combined EOG and EMG artifact. Improvement in the output signal to noise ratio and minimum mean square error are used as the performance measures. The outputs of the proposed technique are compared with the outputs of techniques such as neural network, based on ADALINE (Adaptive Linear Neuron) and adaptive filtering method, which makes use of RLS (Recursive Least Squares) algorithm through wavelet transform (RLS-Wavelet). The obtained results show that the proposed method could significantly detect and suppress the artifacts.     

A divide and conquer matheuristic algorithm for the Prize-collecting Steiner Tree Problem

The Prize-collecting Steiner Tree Problem (PCSTP) is a well-known problem in graph theory and combinatorial optimization. It has been successfully applied to solve real problems such as fiber-optic and gas distribution networks design. In this work, we concentrate on its application in biology to perform a functional analysis of genes. It is common to analyze large networks in genomics to infer a hidden knowledge. Due to the NP-hard characteristics of the PCSTP, it is computationally costly, if possible, to achieve exact solutions for such huge instances. Therefore, there is a need for fast and efficient matheuristic algorithms to explore and understand the concealed information in huge biological graphs. In this study, we propose a matheuristic method based on clustering algorithm. The main target of the method is to scale up the applicability of the currently available exact methods to large graph instances, without loosing too much on solution quality. The proposed matheuristic method is composed of a preprocessing procedures, a heuristic clustering algorithm and an exact solver for the PCSTP, applied on sub-graphs. We examine the performance of the proposed method on real-world benchmark instances from biology, and compare its results with those of the exact solver alone, without the heuristic clustering. We obtain solutions in shorter execution time and with negligible optimality gaps. This enables analyzing very large biological networks with the currently available exact solvers.     

Wavelet-based envelope features with automatic EOG artifact removal: Application to single-trial EEG data

In this study, we propose an analysis system for single-trial classification of electroencephalogram (EEG) data. Combined with automatic EOG artifact removal and wavelet-based amplitude modulation (AM) features, the support vector machine (SVM) classifier is applied to the classification of left finger lifting and resting. Automatic EOG artifact removal is proposed to eliminate the EOG artifacts automatically by means of independent component analysis (ICA) and correlation coefficient. The features are then extracted from the discrete wavelet transform (DWT) data by the AM method. Finally, the SVM is used for the discriminant of wavelet-based AM features. Compared with EEG data without EOG artifact removal, band power features and LDA classifier, the proposed system achieves promising results in classification accuracy.     

一种改进的心电信号预处理方法研究

心电信号是典型的强噪声下的非平稳微弱信号,减小噪声的干扰对心电信号的分析有着十分重要的意义,因此,有效的滤波方法一直是该领域学者关注的热点问题。本文在基于小波变换心电信号分析研究基础上,针对小波去噪时分解只作用于低频部分,从而忽略了高频区域中一部分有用信号的问题,提出了一种采用改进小波包理论实现心电信号去噪的方法,利用小波包在消除信号噪声方面具有更为精确的局部分析能力的特点,采用了‘db4’小波和＂最优基＂选择的方法,对心电信号进行消噪。以MIT-BIH心电数据库中心律失常数据仿真实验,得到了较理想的去噪效果。对比该方法与小波滤波去噪,发现基于小波包的心电信号去噪具有更优良的去噪性能。     

VoIP认证与计费的设计与实现

基于RADIUS的VoIP认证系统，采用分散受理、集中管理的接入认证管理体系，数据集中存放在认证中心(RADIUS服务器)，用户身份认证由PC向网守发起，网守通过RADIUS协议向认证中心的认证服务器发起认证请求。这样，可以保证用户安全地使用网络资源，以确保用户身份的合法性。同时其落地话单经过处理，可进行计费及其它帐务处理。文中论述了RADIUS对VoIP的支持，提出了一个Gatekeeper与RADIUS结合的整体解决方案。