习题内外表示异质融合的知识追踪模型

现有知识追踪研究大多使用习题蕴涵的知识点等内隐信息或历史交互数据等外显信息建模习题表示,没有注意到内外信息的异质性特征,缺乏对习题内外信息的异质融合。针对上述问题,提出了融合内外异质信息的知识追踪模型。首先,基于知识点等内隐信息,计算历史知识点与当前知识点之间的相关程度,刻画历史知识点对当前知识点的影响,建模习题的内隐表示;其次,基于交互数据等外显信息,计算历史习题与当前习题之间的相关程度,获取历史习题对当前习题的影响,建模习题的外显表示;再次,基于上述习题的内外表示,使用通道注意力机制融合得到习题的内外异质表示,从而预测学习者的作答表现。为了验证提出模型的性能和有效性,选取了四个相关的基线模型,在三个真实数据集上进行了对比实验。实验结果表明：在性能方面,提出的模型在多个评价指标上均取得较好的效果;在有效性方面,消融实验证明了提出的模型可以更好地根据内外信息建模习题表示;在应用方面,设计智慧学习环境证明了提出的模型在实际教学场景中的可用性。     

融合状态关系的知识追踪模型

知识追踪模型建模学习者对每个知识点的状态推断其知识总状态,预测其未来的学习表现。但现有研究在建模知识总状态时,没有融合知识点状态之间的关系,影响了最终的预测效果。针对这一问题,提出一种融合知识点状态关系的知识追踪模型。首先向量化表示数据集中的知识点,构建知识点表示图;其次将知识点表示图扩散至潜式空间以反映其内在结构和本质信息;融合当前时刻的习题与知识点作为引导向量,从知识点表示图的潜式表示中提取知识点状态图;以知识点状态图为基础,推导知识总状态,预测当前习题的表现。通过在三个数据集上对比四个相关模型的实验证明,提出的模型在AUC、ACC和表示质量方面均取得了一定的优势。其中,在 ASSISTments2009数据集上表现最佳,与对比模型中的最优值和最低值比较,AUC分别提升了1.17%、10.57%,ACC分别提升了3.23%、12.17%,表示质量分别提升了1.95%、10.40%。进一步地,可视化地展示了知识点状态及其关系的内部推导过程,以及它们与真实答题结果之间的对应关系,说明模型具备一定的可解释性。同时,将该模型应用于三门课程以预测学生的表现,与相关模型对比取得了更好的结果,说明模型具备一定的实用性。     

可解释深度知识追踪模型

知识追踪任务通过建模用户的习题作答序列跟踪其认知状态,进而预测其下一时刻的答题情况,实现对用户知识掌握程度的智能评估.当前知识追踪方法多针对知识点建模,忽略了习题信息建模与用户个性化表征,并且对于预测结果缺乏可解释性.针对以上问题,提出了一个可解释的深度知识追踪框架.首先引入习题的上下文信息挖掘习题与知识点间的隐含关系,得到更有表征能力的习题与知识点表示,缓解数据稀疏问题.接着建模用户答题序列获得其当前知识状态,并以此学习个性化注意力,进而得到当前习题基于用户知识状态的个性化表示.最后,对于预测结果,依据个性化注意力选择一条推理路径作为其解释.相较于现有方法,所提模型不仅取得了更好的预测结果,还能为预测结果提供推理路径层面的解释,体现了其优越性.     

知识状态神经推理的知识追踪模型

针对知识追踪研究忽略知识点之间的拓扑关系,从而限制了知识点状态的表示并最终影响预测效果的问题,提出一种知识状态神经推理知识追踪模型。首先建立知识点关系图和知识点状态图;其次利用扩散模型得到关系图和状态图的投影并完成融合;然后利用逆扩散过程得到融合了知识点关系的整体知识状态表示;最后预测学习者的表现。在模型有效性方面,在若干数据集上对比四个相关模型,所提模型均取得了一定的优势。在可解释性方面,展示了知识状态进化过程与真实答题结果之间的对应关系。在实际应用方面,以该模型为基础的智慧学习环境已分别应用于一门人工智能课程和英语语法课程,并取得了优于对比模型的结果。     

基于上下文表示的知识追踪方法

知识追踪是教育数据挖掘领域中一个十分重要的问题,旨在利用可观测到的学生历史交互数据和习题包含的知识点相关信息来推断学生对知识点的掌握情况。已有方法虽在不同程度上取得了一些进展,但大多忽略了使用知识点表示习题的重要性,并且对使用诸如学习因素之类的上下文表示知识点的研究也不够充分。针对上述问题,提出基于上下文表示的知识追踪方法KTCR。首先,综合考虑影响学生学习过程的因素,并基于学生响应数据设计了知识点上下文表示方法,从而基于Q矩阵表示知识点上下文;其次,为了实现习题向量的降维,利用融合上下文信息的知识点和学生响应数据对习题向量进行重表示;最后,结合学生历史交互数据,使用长短期记忆网络对学生的知识状态进行估计。在4个真实数据集上的实验表明了本文方法对于习题嵌入表示的合理性,并且能够有效地估计学生的知识状态。     

学习者知识追踪研究进展综述

学习者建模是自适应学习系统的支撑技术之一,其中以知识追踪为代表的学习者知识状态建模研究最为广泛。3种代表性的知识追踪技术分别为基于隐马尔可夫模型的贝叶斯知识追踪、基于逻辑回归模型的可加性因素模型、基于循环神经网络的深度知识追踪。通过综述发现,贝叶斯知识追踪模型适用于含单一知识点的学习任务的知识追踪,可加性因素模型和深度知识追踪模型适用于含多知识点的学习任务的知识追踪,但深度知识追踪模型的教学可解释性不佳。在综述现有研究的基础上,受到知识空间理论的启发,将知识点之间的先决关系融入到知识追踪模型是未来的一个重要研究方向,并初步提出了一种融合知识点先决关系的可加因素模型。     

多学习行为协同的知识追踪模型

知识追踪模型主要使用学习过程、学习结束和学习间隔等三类学习行为数据，但现有研究没有融合上述类型的学习行为，无法准确描述多种类型学习行为的相互作用。针对上述问题，提出多学习行为协同的知识追踪（MLB-KT）模型。首先采用多头注意力机制描述每类学习行为的同类约束性，然后采用通道注意力机制建模三类学习行为的多类协同性。将MLB-KT模型与深度知识追踪（DKT）、融合注意力机制的时间卷积知识追踪（ATCKT）模型在3个数据集上进行对比，实验结果表明，MLB-KT模型的曲线下面积（AUC）有明显增加，且在ASSISTments2017数据集上的表现最佳，与DKT、ATCKT模型相比分别提升了12.26%、2.77%；表示质量对比实验的结果也表明MLB-KT模型具有更好的表现。可见建模同类约束性和多类协同性能更好地判断学生的知识状态、预测学生未来的答题情况。     

多知识点融合嵌入的深度知识追踪模型

知识追踪任务是根据学生历史答题记录追踪学生知识状态的变化,预测学生未来的答题情况.近年来,基于注意力机制的知识追踪模型在灵活性和预测性能上都明显优于传统知识追踪模型.但是现有深度模型大多只考虑了单一知识点题目的情况,无法直接处理多知识点题目,而智能教育系统中存在着大量的多知识点题目.此外,如何提高可解释性是深度知识追踪模型的关键挑战之一.为了解决这些问题,提出一种多知识点融合嵌入的深度知识追踪模型.所提模型考虑涉及多知识点的题目中知识点之间的关系,提出两种新颖的多知识点嵌入方式,并且结合教育心理学模型和遗忘因素提升预测性能和可解释性.实验表明所提模型在大规模真实数据集上预测性能上优于现有模型,并验证各个模块的有效性.     

基于自注意力机制和双向GRU神经网络的深度知识追踪优化模型

针对现有深度知识追踪模型存在输入习题间复杂关系捕获能力弱、无法有效处理长序列输入数据等问题,提出了基于自注意力机制和双向GRU神经网络的深度知识追踪优化模型(KTSA-BiGRU)。首先,将学习者的历史学习交互序列数据映射为实值向量序列;其次,以实值向量序列作为输入训练双向GRU神经网络,利用双向GRU神经网络建模学习者的学习过程;最后,使用自注意力机制捕获练习题之间的关系,根据双向GRU神经网络输出的隐向量和注意力权重计算学习者正确回答下一问题的概率。实验在三个公共数据集上的性能分析优于现有的知识追踪模型,能提高深度知识追踪的预测精度。     

图谱波纹特征驱动的知识追踪算法

知识追踪是智能教学系统中用于建模学生知识状态的关键技术.尽管研究者们提出了多种知识追踪模型，但这些模型没有充分挖掘知识点之间的关联性，限制了知识追踪的性能和应用.为此，本文提出了RKT(RippleNet Knowledge Tracing),一种利用知识状态传播将知识图谱融入到知识追踪的模型.首先以学生掌握的题目为起点，将题目-知识点的对应关系及知识点之间的关联形成一个知识图谱，然后将学生的知识状态沿着该知识图谱不断传播，产生向外扩散的多个“波纹”,再叠加起来，形成学生对未知题目的多阶响应，自动探索学生潜在的学习能力，最后预测回答正确的概率.通过对Assistment2009＿Skill＿builder、Junyi Academy等经典数据集的对比实验，结果表明RKT在AUC和ACC性能上有着显著提升.     

概念表示增强的知识追踪模型

知识追踪模型以学习者的历史学习行为数据作为输入,通过概念表示来描述学习者的概念掌握状态,从而预测学习者未来的学习表现。然而在概念的外延表示方面,当前知识追踪研究的概念外延信息被限制在一阶相关的范畴内,无法表征概念的一阶以上外延信息。为了解决这一问题,提出方法首先使用图结构描述概念内涵信息及其相互关系;其次使用图神经网络的池化操作等提取概念的外延表示,这保证了概念的外延信息来源于多阶相关关系;再与概念的内涵表示进行融合;最后预测学习者未来的答题情况。为了验证该模型的有效性和效率,选取了四个主流知识追踪模型作为对比模型,在四个常用的知识追踪数据集上进行实验。结果表明,提出模型在若干评价指标上均取得了一定的优势,说明了它的有效性;在模型性能方面,提出模型达到最优评价指标所需的迭代次数最少,说明了它的效率;在实际应用方面,以该模型为基础实现了一个智能学习平台,在三门线下课程的教学过程中判断和预测学习者未来答题情况,取得了优于其他知识追踪模型的表现。     

An Extensible Heterogeneous Network Embedding Framework for Knowledge Tracing

Knowledge tracing is of great significance for providing better personalized learning guidance and has thus attracted extensive research attention in recent years. The task of knowledge tracing is to model students'' learning process on the basis of historical exercise records and trace students'' knowledge proficiency, thereby predicting students'' performance on future exercises or recommending exercises for better proficiency. Existing methods focus on either the skill level or the exercise level, ignoring the relationships among exercises and Knowledge Components (KCs). The classical single-factor models include the Deep Knowledge Tracing (DKT) {model} and the Dynamic Key-Value Memory Network (DKVMN) model. Although a few models, such as the Bayesian Knowledge Tracing (BKT) model and the Knowledge Proficiency Tracing (KPT) model, utilize the Q-matrix to improve model performance, most of them ignore the interaction among KCs, not to mention models that do not use the Q-matrix. Inspired by the recent success of network embedding, this paper presents a heterogeneous network embedding framework for knowledge tracing called HNEKT that takes both exercises and KCs into account. To adapt to the application of knowledge tracing, this paper also proposes several meta-paths to generate meaningful node sequences for network embedding. Besides, it explores other side information as well to improve the extensibility and effectiveness of the proposed model. Extensive experiments on three real-world datasets demonstrate the effectiveness of the HNEKT model.     

A probabilistic generative model for tracking multi-knowledge concept mastery probability

Knowledge tracing aims to track students’ knowledge status over time to predict students’ future performance accurately. In a real environment, teachers expect knowledge tracing models to provide the interpretable result of knowledge status. Markov chain-based knowledge tracing (MCKT) models, such as Bayesian Knowledge Tracing, can track knowledge concept mastery probability over time. However, as the number of tracked knowledge concepts increases, the time complexity of MCKT predicting student performance increases exponentially (also called explaining away problem). When the number of tracked knowledge concepts is large, we cannot utilize MCKT to track knowledge concept mastery probability over time. In addition, the existing MCKT models only consider the relationship between students’ knowledge status and problems when modeling students’ responses but ignore the relationship between knowledge concepts in the same problem. To address these challenges, we propose an inTerpretable pRobAbilistiC gEnerative moDel (TRACED), which can track students’ numerous knowledge concepts mastery probabilities over time. To solve explain away problem, we design long and short-term memory (LSTM)-based networks to approximate the posterior distribution, predict students’ future performance, and propose a heuristic algorithm to train LSTMs and probabilistic graphical model jointly. To better model students’ exercise responses, we proposed a logarithmic linear model with three interactive strategies, which models students’ exercise responses by considering the relationship among students’ knowledge status, knowledge concept, and problems. We conduct experiments with four real-world datasets in three knowledge-driven tasks. The experimental results show that TRACED outperforms existing knowledge tracing methods in predicting students’ future performance and can learn the relationship among students, knowledge concepts, and problems from students’ exercise sequences. We also conduct several case studies. The case studies show that TRACED exhibits excellent interpretability and thus has the potential for personalized automatic feedback in the real-world educational environment.     

融合通用题目表征学习的神经知识追踪方法研究

知识追踪是一项评估学生学习过程中知识状态演变情况的任务。现有大多数方法都致力于探索不同的知识状态评估方法。然而,答题过程中更为基础的题目表征受到的关注相对较少。因此,该文提出了一种融合通用题目表征学习的神经知识追踪框架。具体地,该文首先设计了一种通用的题目表征方法,通过知识点、难度和题目独有特征来区分题目。然后,采用现有知识追踪方法同时捕捉知识状态演变并学习题目表征。最后,利用知识状态和待回答题目表征的内积来模拟回答过程。在三个真实数据集上的实验结果表明,该文方法可以在知识追踪过程中学习精确有效的题目表征,并且显著提升了基线知识追踪方法的性能,使其能够超过现有最优方法。     

企业时态化建模中的元模型研究

为了支持企业历史信息等与时间特征相关的建模,提出了包括日历对象、时间属性域类型、时间戳等在内的基本元模型。利用这些基本元模型,建模者可以在现有企业模型的基础上实现基于时间特征的时态化扩展建模,从而提高企业模型及其应用系统的弹性。     

基于多通道时空编码器的交通流量预测模型

传统的交通流量预测模型对历史数据进行时空建模,忽略了交通数据的时间周期性内部潜在关系和交通路网间节点的距离特征和相似性空间特征。据此,提出面向交通流量预测的多通道时空编码器模型MC-STGNN,用来提高交通流量预测的准确率。首先将交通数据处理成三通道的周期性时间序列,并对整体的序列数据进行时间位置编码和自适应的空间位置编码,提取路网节点间的动态相关性;其次引入具有卷积结构的多头自我注意力机制,更大程度地捕获周期数据不同程度的时间相关性;最后提出一种图生成器生成新的时空图,提取路网节点间的相似性和距离特征,并利用门控图卷积网络整合原始图和新时空图的空间信息。在高速公路数据集PEMS03和PEMS08上进行一小时的交通流量综合预测实验,结果表明,MC-STGNN模型与其他的基线模型相比,具有更佳的性能指标,说明MC-STGNN模型具有更优的建模能力。