基于软迁移和渐进式学习的人体行为识别方法

基于"学习者-监督者"的间接学习机制,提出多阶段监督的软迁移学习方法来实现跨网络结构学习,使神经网络对人体行为的建模能力能在不同结构的网络中传递和重用.根据数据特征在不同网络层级上的不同特性,引入两种有效的特征差异度量函数,降低不同网络结构提取的特征之间的差异.在UCF101和HMDB51数据集上进行实验,其结果表明,多阶段监督的方法能大大增强网络的特征提取能力,提高网络的分类准确率,可视化的分析结果也验证了所提方法的可行性.     

基于在线学习行为分析的个性化学习推荐

随着在线课程和线上学习的普及,大量的在线学习行为数据被积累。如何利用数据挖掘技术分析积累的大数据,从而为教学决策和学习优化提供服务,已经成为新的研究重点。文中分析了在线学习的行为特征,挖掘学习者的性格特征与学习效率的关系,实现个性化学习方法推荐。首先,提取在线学习行为特征,并提出了一种基于BP神经网络的学习成绩预测方法,通过分析在线学习行为特征,预测其相应的线下学习成绩;其次,为了进一步分析学习者的在线学习行为与成绩的关系,提出了基于实际熵的在线学习行为规律性分析,通过分析学习者的在线学习行为,定义并计算相应的实际熵值来评估个体的学习行为规律性,从而分析规律性与最终成绩的关系;再次,基于Felder-Silverman性格分类法获得学习者的性格特征,对学习者实现基于K-means的聚类分析获得相似学习者的类别,将学习成绩较优的学习者的在线学习习惯推荐给同一类别的其他学习者,从而提高学习者的在线学习效率;最终,以某在线课程平台的实际数据为实验对象,分别实现在线学习行为特征提取、线下成绩预测、学习规律性分析和个性化学习推荐,从而验证了所提方法的有效性和应用价值。     

数据挖掘在个性化网络学习中的应用

本文分析了传统网络学习系统的现状及其弊端,针对这些问题提出：使用Web数据挖掘技术,对学习者网络学习行为进行分析,在此基础上对学习者网络学习行为进行预测,从而为学习者提供个性化的学习建议,提高学习者的学习效率;同时根据对学习者网络学习行为的数据挖掘结果,改进网站设计。     

开放式上网学习管理系统研究与实现

开放式上网学习管理系统运用到公共计算机实验室,目的是实现网络学习者学习行为动态跟踪、采集、分析和评价等功能。建立数据智能采集模块、量化上网学习行为的数据分析模块及管理模块,对开发有效的网络资源、对学习资源及学习者作出有效的评价及提高网络硬件环境管理水平等都有重要的意义。     

语义增强的在线学习行为预测研究

当前学习者的在线学习行为预测研究未充分利用短文本中的语义数据,导致对学习者的学习状态刻画不够全面,严重影响了行为预测的准确性.针对此问题,本文提出了语义增强的在线学习行为预测方法.首先,利用双向长短时记忆网络得到到短文本的语义向量表示;其次,基于学习者的统计、行为和短文本数据得到学习者的特征表征,并利用长短时记忆网络模型构建其学习状态表征;最后,利用学习状态表征预测学习者的学习行为.在11门真实在线课程数据集上的实验表明,本文方法能过有效提升在线学习行为预测的精确度.     

基于学习行为序列的在线学习研究

为了深入分析线上学习行为与学习成绩的关联性,利用工具SPSS20.0,对268名同学的SPOC和MOOC平台中的在线学习数据进行挖掘。首先通过单变量分析法分析四类在线学习行为与学习成绩的显著性,在此基础上,采用聚类分析对学习行为进行序列转换分析,探讨不同行为序列学习者的学习效果差异性,以优化学习者在线学习行为的有效路径。不仅帮助学习者转换学习路径,及时调整学习行为和反思错题原因,提高在线学习效率,也帮助教师和管理者了解学生的学习行为特点,对在线学习的个性化路径构建有借鉴意义。     

基于行为序列分析的学习资源推荐算法研究

利用数据挖掘技术分析网络学习行为数据可以挖掘出其隐含的行为规律特征,为学习者提供个性化的学习资源服务。针对现有的数据挖掘算法在对网络学习行为数据进行分析时普遍存在模型适用性不高的问题,提出了一种基于行为序列分析的学习资源推荐算法。首先,提出行为序列及其相关概念的定义,并提出行为序列相似度计算方法;然后提出基于行为序列相似度的协同过滤推荐算法,计算学习者相似度并为待推荐学习者生成学习资源推荐列表;接着给出基于学习风格的推荐方法,将学习者学习风格特征融入推荐过程;最后,给出基于行为序列分析的学习资源推荐算法的模型。提出的算法没有对行为序列的模式进行限制,具有较高的适用性,对深入研究网络学习行为序列数据为学习者提供个性化学习服务具有一定的借鉴作用。     

基于依赖分析的马尔科夫网络分类器学习与优化

对可分解概率模式在0-1损失下证明马尔科夫网络分类器是最优分类器.针对目前建立马尔科夫网络分类器结构效率和可靠性低的问题,基于变量之间基本依赖关系、基本结构和依赖分析思想进行马尔科夫网络分类器结构学习来避免这些问题.并通过去除不相关和冗余属性变量的方法实现对马尔科夫网络分类器的优化,以提高抗噪声能力和预测能力.分别使用模拟和真实数据进行分类器分类准确性比较实验,实验结果显示优化后的马尔科夫网络分类器具有良好的分类准确性.     

并行的贝叶斯网络参数学习算法

针对大样本条件下EM算法学习贝叶斯网络参数的计算问题,提出一种并行EM算法(Parallel EM,PL-EM)提高大样本条件下复杂贝叶斯网络参数学习的速度.PL-EM算法在E步并行计算隐变量的后验概率和期望充分统计因子;在M步,利用贝叶斯网络的条件独立性和完整数据集下的似然函数可分解性,并行计算各个局部似然函数.实验结果表明PL-EM为解决大样本条件下贝叶斯网络参数学习提供了一种有效的方法.     

基于学习者行为特征的MOOCs学习伙伴推荐

大规模开放在线课堂的兴起给高等教育的全球化提供了契机。与大规模参与用户形成鲜明对比的是,目前课程普遍存在完成率不足的问题。造成学生退出的原因之一是学习者缺乏合适的学习伙伴相互交流以及时解决学习中遇到的问题。分析了开放课程中论坛用户的身份特征和学生用户在论坛讨论过程中的行为模式,建立了学习者行为特征模型和学生在讨论过程中形成的关系网络。根据课程内容建立关键词词典,并以此为主题词,提出了一种具有固定主题词的主题模型,进而推断关系网络潜在的主题分布,最终根据主题分布结果为学习者推荐学习伙伴。通过分析Coursera课程平台的真实数据,证明了该学习伙伴推荐方法能有效地挖掘出主题相关的学习者,为学习者相互推荐学习伙伴,在一定程度上将有助于提高学习者的积极性。     

Online Learning versus Offline Learning

We present an off-line variant of the mistake-bound model of learning. This is an intermediate model between the on-line learning model (Littlestone, 1988, Littlestone, 1989) and the self-directed learning model (Goldman, Rivest & Schapire, 1993, Goldman & Sloan, 1994). Just like in the other two models, a learner in the off-line model has to learn an unknown concept from a sequence of elements of the instance space on which it makes guess and test trials. In all models, the aim of the learner is to make as few mistakes as possible. The difference between the models is that, while in the on-line model only the set of possible elements is known, in the off-line model the sequence of elements (i.e., the identity of the elements as well as the order in which they are to be presented) is known to the learner in advance. On the other hand, the learner is weaker than the self-directed learner, which is allowed to choose adaptively the sequence of elements presented to him.We study some of the fundamental properties of the off-line model. In particular, we compare the number of mistakes made by the off-line learner on certain concept classes to those made by the on-line and self-directed learners. We give bounds on the possible gaps between the various models and show examples that prove that our bounds are tight.Another contribution of this paper is the extension of the combinatorial tool of labeled trees to a unified approach that captures the various mistake bound measures of all the models discussed. We believe that this tool will prove to be useful for further study of models of incremental learning.     

深度学习中的无监督学习方法综述

从2006年开始,深度神经网络在图像/语音识别、自动驾驶等大数据处理和人工智能领域中都取得了巨大成功,其中无监督学习方法作为深度神经网络中的预训练方法为深度神经网络的成功起到了非常重要的作用. 为此,对深度学习中的无监督学习方法进行了介绍和分析,主要总结了两类常用的无监督学习方法,即确定型的自编码方法和基于概率型受限玻尔兹曼机的对比散度等学习方法,并介绍了这两类方法在深度学习系统中的应用,最后对无监督学习面临的问题和挑战进行了总结和展望.     

结合记忆与迁移学习的小样本学习

小样本学习是视觉识别中的一个受关注的领域,旨在通过少量的数据来学习新的视觉概念。为了解决小样本问题,一些元学习方法提出从大量辅助任务中学习可迁移的知识并将其应用于目标任务上。为了更好地对知识进行迁移,提出了一种基于记忆的迁移学习方法。提出一种权重分解策略,将部分权重分解为冻结权重与可学习权重,在迁移学习中通过固定冻结权重,仅更新可学习权重的方式来减少模型需要学习的参数。通过一个额外的记忆模块来存储之前任务的经验,在学习新任务时,这些经验被用来初始化模型的参数状态,以此更好地进行迁移学习。通过在miniImageNet、tieredImageNet以及CUB数据集上的实验结果表明,相对于其他先进的方法,该方法在小样本分类任务上取得了具有竞争力甚至是更好的表现。     

案例教学与适应性学习之初探

以适应性学习为基础,提出了在自适应性学习(Adaptive Learning)中如何将案例教学(Case-based Learning)融入其中,在学习中如何对学习进行评价,并根据评价为学习者提供与其相适应的案例,让学习者在情境中学习,使得学习更加高效可行。     

自适应主动半监督学习方法

主动学习从大量无标记样本中挑选样本交给专家标记.现有的批抽样主动学习算法主要受3个限制：（1）一些主动学习方法基于单选择准则或对数据、模型设定假设,这类方法很难找到既有不确定性又有代表性的未标记样本;（2）现有批抽样主动学习方法的性能很大程度上依赖于样本之间相似性度量的准确性,例如预定义函数或差异性衡量;（3）噪声标签问题一直影响批抽样主动学习算法的性能.提出一种基于深度学习批抽样的主动学习方法.通过深度神经网络生成标记和未标记样本的学习表示和采用标签循环模式,使得标记样本与未标记样本建立联系,再回到相同标签的标记样本.这样同时考虑了样本的不确定性和代表性,并且算法对噪声标签具有鲁棒性.在提出的批抽样主动学习方法中,算法使用的子模块函数确保选择的样本集合具有多样性.此外,自适应参数的优化,使得主动学习算法可以自动平衡样本的不确定性和代表性.将提出的主动学习方法应用到半监督分类和半监督聚类中,实验结果表明,所提出的主动学习方法的性能优于现有的一些先进的方法.     

回归核极限学习机的多标记学习算法

基于极限学习机(ELM)的多标记学习算法多使用ELM分类模式,忽略标记之间存在的相关性.为此,文中提出结合关联规则与回归核极限学习机的多标记学习算法(ML-ASRKELM).首先通过关联规则分析标记空间,提取标记之间的规则向量.然后通过提出的多标记回归核极限学习机(ML-RKELM)得出预测结果.若规则向量不为空,将规则向量与预测结果运算得出最终预测结果,否则最终结果即为ML-RKELM的预测结果.对比实验表明ML-ASRKELM与ML-RKELM性能较优,统计假设检验进一步说明文中算法的有效性.     

基于学习风格的网络学习共同体模式构建

基于学习风格下构建的网络学习共同体,具有良好的凝聚能力以及互动能力,可调动成员的学习积极性,提高成员的学习效率。此外,加强网络学习共同体模式的构建,可有效培养成员的集体协作精神,提高成员的社会交际能力,为成员之后的发展奠定良好的沟通能力。笔者对网络学习共同体模式的构建进行研究,对网络学习共同体的基本功能、关键要素以及构建策略进行了详细分析。     

不平衡数据学习算法在相似性学习中的应用

在现实问题中,相似性学习的样本对存在不平衡现象,即相似性样本对的数量会远小于不相似性样本对的数量.针对此问题,文中提出两种样本对构造方法——不相似K近邻-相似K近邻(DKNN-SKNN)和不相似K近邻-相似K远邻(DKNN-SKFN).运用这两种方法可有针对性地选择相似性学习样本对,不仅可加快支持向量机的训练过程,而且在一定程度上解决样本对之间的不平衡问题.在多个数据集上进行文中方法和经典的重采样方法的对比实验,结果表明DKNN-SKNN和DKNN-SKFN具有良好性能.     

迭代学习控制的最优学习律和简化学习律的频域研究

为了在线性时不变MIMO系统中得到迭代学习控制的最优学习律和便于工程实现的简化学习律,在频域上对其进行了相关研究。以系统的传递函数矩阵为基础,依据Parseval定理,将时域误差关联为频域误差,再利用Jordan标准形矩阵等矩阵性质,得到了学习律的通适收敛条件。通过分析该条件,得出了收敛速度最快的一次迭代就能完成的最优学习律。由于高阶导数不利于消除噪音,因此文中还讨论了导数的降阶,给出了简化学习律算法。仿真结果表明,最优学习律和简化学习律是有效的。     

新时代下的学习新模式-泛在学习

泛在学习作为一种新型的学习模式,它基于高速移动通信网路技术,通过无线便携设备获取教育信息,学习资源和教育服务.本文介绍了泛在学习的基本概念,讨论了其实现条件和方式以及优势和局限,在此基础上展望泛在学习的未来.