LFKT:学习与遗忘融合的深度知识追踪模型

知识追踪任务旨在根据学生历史学习行为实时追踪学生知识水平变化,并且预测学生在未来学习表现.在学生学习过程中,学习行为与遗忘行为相互交织,学生的遗忘行为对知识追踪影响很大.为了准确建模知识追踪中学习与遗忘行为,本文提出了一个兼顾学习与遗忘行为的深度知识追踪模型LFKT.LFKT模型综合考虑了四个影响知识遗忘因素,包括学生重复学习知识点的间隔时间、重复学习知识点的次数、顺序学习间隔时间以及学生对于知识点的掌握程度.结合遗忘因素,LFKT采用深度神经网络,利用学生答题结果作为知识追踪过程中知识掌握程度的间接反馈,建模融合学习与遗忘行为的知识追踪模型.通过在真实在线教育数据集上的实验,与当前知识追踪模型相比,LFKT可以更好地追踪学生知识掌握状态,并具有较好的预测性能.     

基于关键词结构的知识追踪模型

智能教辅系统的个性化及便捷性有助于充分发挥其教学作用，其中知识追踪（KT）则是一项重要但棘手的任务，它随着时间来追踪学习者不断变化的关键词掌握程度，并预测学生在下一次测试中的表现。很多研究者已经关注该领域并提出了一些策略，如贝叶斯知识追踪（BKT）及深度知识追踪（DKT）。关键词(又称概念)之间的传播影响已被教育理论证明是学习的关键因素之一，然而却未能得到充分探索。提出了一种新框架，称为基于关键词结构的知识追踪（Keywords Structure based Knowledge Tracing,KKT）模型，利用关键词结构中的多重关系来模拟关键词间的相互影响。KKT框架应用图神经网络（GNN）将关键词结构映射为图，同时考虑对练习序列的时间影响和对关键词间结构的空间影响。通过在开放数据集上实验，结果证明提出的KKT模型具有很好的预测性和可解释性。     

F-TCKT：融合遗忘因素的深度时序卷积知识追踪模型

智慧教育中，对学生的知识水平进行追踪是很重要的技术之一。传统的深度知识追踪方法的主要关注点集中在循环神经网络(recurrent neural network, RNN)上，但RNN存在梯度消失或者梯度爆炸的问题，并且很多知识追踪方法没有考虑到学习过程中遗忘行为对结果的影响。针对以上问题，为了准确地预测学生的知识水平，提出了一种融合遗忘因素的深度时序卷积知识追踪模型(temporal convolutional knowledge tracking with forgetting, F-TCKT)。该模型引入了三个影响学生遗忘行为的因素，包括学习相同知识点的时间间隔、学习的时间间隔和同一知识点的学习次数。首先利用全连接网络计算得到表示学生遗忘程度的向量并与学生的答题记录进行拼接，然后使用梯度稳定的时间卷积网络(temporal convolutional network, TCN)和注意力机制预测学生下一次答题正误的概率。经实验验证，与传统方法相比，F-TCKT具有更好的预测性能。     

深度知识追踪模型综述和性能比较

知识追踪是一种重要的认知诊断方法,往往被用于在线学习平台、智能辅导系统等信息化教学平台中.知识追踪模型通过分析学生与课程作业的交互数据,即时模拟学生对课程知识点的掌握水平,模拟的结果可以用来预测学生未来的学习表现,并帮助他们规划个性化的学习路径.在过去20多年中,知识追踪模型的构建通常基于统计学和认知科学的相关理论.随着教育大数据的开放和应用,基于深度神经网络的模型(以下简称“深度知识追踪模型”)以其简单的理论基础和优越的预测性能,逐渐取代了传统模型,成为知识追踪领域新的研究热点.根据所使用的神经网络结构,阐述近年来代表性深度知识追踪模型的算法细节,并在5个公开数据集上对这些模型的性能进行全面比较.最后讨论了深度知识追踪的应用案例和若干未来研究方向.     

学习者知识模型的在线学习算法

学习者知识模型是智能授导系统(ITS)中教学过程实现和策略实施的基础,然而由于判别学习者知识掌握程度的不确定性和学习者知识掌握水平的实时变化,构建能正确反映学习者知识掌握程度及其变化的知识模型十分困难。基于贝叶斯网络,以知识项为基本节点构建学习者知识模型的结构;引入问题节点,根据学习者的学习测试结果,采用Voting EM算法来对知识模型的参数进行在线学习和更新;同时,通过设置置信因子和更新时间标记来改进在线学习的效果。实验表明,模型能够较好地反映学习者知识掌握状况和快速适应学习者知识掌握水平的变化,有助于ITS更好地评价学习者学习效果。     

小数据集条件下基于数据再利用的BN参数学习

着重研究了小数据集条件下结合凸约束的离散贝叶斯网络(Bayesian network, BN)参数学习问题, 主要任务是用先验知识弥补数据的不足以提高参数学习精度. 已有成果认为数据和先验知识是独立的, 在参数学习算法中仅将二者机械结合. 经过理论研究后, 本文认为数据和先验知识并不独立, 原有算法浪费了这部分有用信息. 本文立足于数据信息分类, 深入挖掘数据和先验知识之间的约束信息来提高参数学习精度, 提出了新的BN 参数学习算法 --凸约束条件下基于数据再利用的贝叶斯估计. 通过仿真实验展示了所提算法在精度和其他性能上的优势, 进一步证明数据和先验知识不独立思想的合理性.     

概念表示增强的知识追踪模型

知识追踪模型以学习者的历史学习行为数据作为输入,通过概念表示来描述学习者的概念掌握状态,从而预测学习者未来的学习表现。然而在概念的外延表示方面,当前知识追踪研究的概念外延信息被限制在一阶相关的范畴内,无法表征概念的一阶以上外延信息。为了解决这一问题,提出方法首先使用图结构描述概念内涵信息及其相互关系;其次使用图神经网络的池化操作等提取概念的外延表示,这保证了概念的外延信息来源于多阶相关关系;再与概念的内涵表示进行融合;最后预测学习者未来的答题情况。为了验证该模型的有效性和效率,选取了四个主流知识追踪模型作为对比模型,在四个常用的知识追踪数据集上进行实验。结果表明,提出模型在若干评价指标上均取得了一定的优势,说明了它的有效性;在模型性能方面,提出模型达到最优评价指标所需的迭代次数最少,说明了它的效率;在实际应用方面,以该模型为基础实现了一个智能学习平台,在三门线下课程的教学过程中判断和预测学习者未来答题情况,取得了优于其他知识追踪模型的表现。     

学习行为大数据可视化的网络数据库学习仿真

针对传统数据库学习可视化程度低,有效提高学习效率,构建了学习行为大数据可视化的网络数据库学习方法.分析学习行为具体特征,结合贝叶斯理论按学习资源归类可视化数据;设定相关学习变量,观测变量,分别将正确率、错误率、所学知识难度、遗忘概率及状态概率等特征作为可视化函数,通过对学习行为数据采集和储存、分析学习行为及建立可视化模块,建立大数据可视化的网络数据库,充分掌握学习者学习行为情况,随后设定数据库学习评定指标函数;仿真结果表明,所提方法学习结果准确性高和平均任务完成效率都有较大提高,学习者的学习能力有显著提升,方法可行性更高.     

结合深度知识追踪与矩阵补全的习题推荐方法

精准的习题推荐是智慧教学中的重要内容,具有非常重要的研究和实践意义,如何在数据稀疏的情况下,从学习者答题记录中对学习者知识建模一直是习题推荐的研究重点。对此,针对现有的习题推荐方法存在数据稀疏和忽略群体特征的问题,提出一种结合深度知识追踪与矩阵补全的习题推荐算法。该算法分为知识水平建模和矩阵补全两个模块。首先,通过深度知识追踪模型训练得到学习者知识水平矩阵,实现对学习者知识水平建模,精准挖掘学习者知识概念掌握水平;其次,考虑学习者的近邻信息,利用学习者之间的群体特征,融合相似用户的知识水平;最后,引入矩阵分解模块进行知识矩阵补全,对学习者未做习题进行得分预测,从而缓解数据稀疏问题。该推荐算法同时考虑到学习者的群体共性和学习者知识水平矩阵稀疏问题。与其他算法相比,该算法有效地提升了推荐结果的精确度、召回率和F1值,且随着习题推荐数量的增加,算法的性能优势越明显。     

贝叶斯网络结构模型的构建

贝叶斯网络结构是一种将贝叶斯概率方法和有向无环图的网络拓扑结构有机结合的表示模型,它描述了数据项及其依赖关系,并根据各个变量之间概率关系建立图论模型,但是如何获取具有丢失数据的网络结构是一个急需解决的问题.本文提出一个基于Kullback-Leibler(KL)散度的贝叶斯网络结构学习的KLBN(Kullback-Leibler Bayesian Network)算法.实验结果表明,KLBN算法在可靠性方面明显优于传统的具有丢失数据的贝叶斯网络结构学习算法.     

具有广义正则化与遗忘机制的在线贯序超限学习机

针对非平稳时间序列预测问题,提出一种具有广义正则化与遗忘机制的在线贯序超限学习机算法.该算法以增量学习新样本的方式实现在线学习,以遗忘旧的失效样本的方式增强对非平稳系统的动态跟踪能力,并通过引入一种广义的$l_2$正则化使其具有持续的正则化功能,从而保证算法的持续稳定性.仿真实例表明,所提出算法具有较同类算法更好的稳定性和更小的预测误差,适用于具有动态变化特性的非平稳时间序列在线建模与预测.     

An Extensible Heterogeneous Network Embedding Framework for Knowledge Tracing

Knowledge tracing is of great significance for providing better personalized learning guidance and has thus attracted extensive research attention in recent years. The task of knowledge tracing is to model students'' learning process on the basis of historical exercise records and trace students'' knowledge proficiency, thereby predicting students'' performance on future exercises or recommending exercises for better proficiency. Existing methods focus on either the skill level or the exercise level, ignoring the relationships among exercises and Knowledge Components (KCs). The classical single-factor models include the Deep Knowledge Tracing (DKT) {model} and the Dynamic Key-Value Memory Network (DKVMN) model. Although a few models, such as the Bayesian Knowledge Tracing (BKT) model and the Knowledge Proficiency Tracing (KPT) model, utilize the Q-matrix to improve model performance, most of them ignore the interaction among KCs, not to mention models that do not use the Q-matrix. Inspired by the recent success of network embedding, this paper presents a heterogeneous network embedding framework for knowledge tracing called HNEKT that takes both exercises and KCs into account. To adapt to the application of knowledge tracing, this paper also proposes several meta-paths to generate meaningful node sequences for network embedding. Besides, it explores other side information as well to improve the extensibility and effectiveness of the proposed model. Extensive experiments on three real-world datasets demonstrate the effectiveness of the HNEKT model.     

基于核映射极限学习机的入口氮氧化物预测

针对在线贯序极限学习机(OS-ELM)算法隐含层输出不稳定、易产生奇异矩阵和在线贯序更新时没有考虑训练样本时效性的问题,提出一种基于核函数映射的正则化自适应遗忘因子(FFOS-RKELM)算法.该算法利用核函数代替隐含层,能够产生稳定的输出结果.在初始阶段加入正则化方法,通过构造非奇异矩阵提高模型的泛化能力;在贯序更新阶段,通过新到的数据自动更新遗忘因子.将FFOS-RKELM算法应用到混沌时间序列预测和入口氮氧化物时间序列预测中,相比于OS-ELM、FFOS-RELM、OS-RKELM算法,可有效地提高预测精度和泛化能力.     

基于阅读认知诊断的学生表现预测

面向学生的表现预测（试题得分）是在线教育领域重要的研究课题。但传统认知诊断的预测准确性较低,协同过滤方法难以保证预测结果的可解释性。此外,由于目前方法预测时大多利用了学生的试题作答记录,因而不能预测无作答记录的学生在试题上的表现。学生作答试题之前,通常会阅读一些辅助性文本类学习材料。阅读认知诊断即学生阅读学习材料的内容往往可以反映出学生的知识状态（知识点掌握情况）,从而有助于预测学生表现。为此,提出一种基于阅读认知诊断的知识状态建模方法。利用学生阅读学习材料的内容,量化其对学习材料的潜在认知程度。结合教育学假设,量化学习材料的难度。利用上述两个量化结果,根据项目反应理论,计算出学生对学习材料的实际掌握程度,据此建模学生的知识状态并预测其在试题上的表现。在实际数据集上进行实验,实验结果表明所提方法可以保证预测结果的准确性与可解释性,也可以预测出无作答记录的学生表现。     

基于改进OpenPose的学生行为识别研究

学习者的行为动作能够反映出学习者的学习状态.传统学习者行为识别方法存在实时性不高、准确率低等问题.针对以上问题,提出了一种基于改进OpenPose的学习者行为识别方法.该方法从人体骨骼关节点角度出发,首先通过高斯滤波消除图像中的高斯噪声;然后通过融入注意力机制的目标检测算法检测图像中的目标学生位置,再将检测后的图像通过改进的OpenPose模型提取人体骨骼关节点坐标;最后利用ST-SVM分类器对获取的关节点坐标进行分类,从而快速准确地识别出学习者的行为状态.实验结果表明,该方法能够快速、准确地识别出学生的行为动作,准确率达到99％以上,fps达到了20以上,相比原模型,fps提升了50％.     

考虑学习/遗忘特性的软件项目调度多目标优化方法

人员作为软件项目调度过程中的核心资源,其学习遗忘特性是无法忽视的.借鉴已有学习和遗忘模型,构建学习/遗忘效应与人员技能水平之间的动态关联模型,进而给出考虑人员学习/遗忘效应的软件项目调度多目标优化模型.针对该模型,采用新型调度方案编码方式和不可行解修复方法,给出基于改进NSGA-II的软件项目调度多目标优化方法.面向具有不同项目规模的算例仿真实验表明,考虑人员的学习能力有利于改善调度方案性能,而遗忘效应则会使调度方案的项目总工期和成本增加.因此,在软件项目调度问题中,考虑人员的学习和遗忘效应是十分必要的.