结合记忆与迁移学习的小样本学习

小样本学习是视觉识别中的一个受关注的领域,旨在通过少量的数据来学习新的视觉概念。为了解决小样本问题,一些元学习方法提出从大量辅助任务中学习可迁移的知识并将其应用于目标任务上。为了更好地对知识进行迁移,提出了一种基于记忆的迁移学习方法。提出一种权重分解策略,将部分权重分解为冻结权重与可学习权重,在迁移学习中通过固定冻结权重,仅更新可学习权重的方式来减少模型需要学习的参数。通过一个额外的记忆模块来存储之前任务的经验,在学习新任务时,这些经验被用来初始化模型的参数状态,以此更好地进行迁移学习。通过在miniImageNet、tieredImageNet以及CUB数据集上的实验结果表明,相对于其他先进的方法,该方法在小样本分类任务上取得了具有竞争力甚至是更好的表现。     

双向联想记忆学习与回忆的研究

本文对双向联想记忆(BAM)的学习与回忆过程进行了详细的分析。在学习过程中,先是运用自适应非对称BAM算法进行学习,进而采用设置印象门限的反复记忆算法进行学习,本文从理论上证明了印象门限与样本吸引域之间的关系,指出反复记忆方法的理论依据。回忆过程中,采用非零阈值函数的运行方程,提出了阈值学习方法,并且从理论上证明了非零阈值函数的运行方程的采用,可进一步扩大吸引域。为了进一步扩大网络的信息存储量,本文引入了并联的BAM结构。本文方法的采纳,使得BAM网络的信息存储量、误差校正能力等得到很大程度的提高。     

加强学习与联想记忆的粒子群优化算法

为了克服粒子群优化算法多维搜索时方向性差、目的性弱以及易早熟收敛等缺点,提出了一种改进的粒子群优化算法。改进的算法分别对认知部分及社会部分的最优信息、最差信息赋予不同的学习因子,使算法具有更强的学习能力。每个粒子联想记忆其历史最优、最差信息,然后按照追逐最优躲避最差的原则寻找最优位置。联想记忆克服了多维搜索中方向性差、目的性弱的缺点;追优避差保持了种群的多样性,有利于提高算法的收敛速度、克服早熟收敛。通过基准函数的仿真测实验证了算法的有效性。     

基于反向学习与动态记忆反馈的烟花算法

针对烟花算法收敛速度慢和求解精度不高的问题,通过引入反向学习策略和动态记忆反馈的机制,提出一种优化算法。采用反向学习策略生成初始种群以保证群体的多样性,在原算法的结构中增加反馈层用于记忆上一代最优烟花的位置信息,并从反馈层记忆的信息中提取烟花位置信息变化趋势特征,从而动态更新下一次迭代的烟花种群。在10个典型基准测试函数中的仿真结果表明,与烟花算法、标准粒子群优化算法和增强烟花算法相比,该算法在收敛速度、计算精度以及稳定性方面性能更优。     

联想记忆的自强式学习控制

在ASE/ACE模型中引入监督式学习的局部性网络作联想记机制,从而构造一种新的自强式学习控制器模型RELCAM.仿真结果表明,使用该模型能显著改善学习和控制性能.     

联想记忆网络的约束优化学习

本文提出了一种联想记忆网络的约束优化学习算法，学习算法是一个全局最小化过程，其初始解保证每个样本是系统的稳定状态，然后逐步增大样本的吸引域，使网络具有优化意义上的最大吸引域，在理论上，我们分析了样本的渐近稳定性和吸引域范围，以及学习算法的收敛性，大量计算机实验结果说明学习算法是行之有效的。     

记忆增强型深度强化学习研究综述

近年来,深度强化学习的取得了飞速发展,为了提高深度强化学习处理高维状态空间或动态复杂环境的能力,研究者将记忆增强型神经网络引入到深度强化学习,并提出了不同的记忆增强型深度强化学习算法,记忆增强型深度强化学习已成为当前的研究热点.本文根据记忆增强型神经网络类型,将记忆增强型深度强化学习分为了4类:基于经验回放的深度强化学...     

气味与记忆

如果你有一定年纪,那么一定听过《味道》这首歌：“我想念你白色袜子和你身上的味道,我想念你的吻和手指淡淡烟草味道,记忆中曾被爱的味道。”短短几十个字用味道勾勒出了一个负心男人的形象。气味真的会对记忆产生影响吗？最近,科学家发现在我们的记忆过程中,气味起了重要的辅助作用。甚至可以毫不夸张地说,我们是靠气味来记忆的。     

矛盾与记忆

生活里有许许多多的矛盾，我们该如何去面对，挣扎、抗衡、妥协、逃避，或者只是坚强地去淡化它；生活中会碰到许许多多的人，时间久了，我们会不记得他们，但是也会有些人，始终能让你记住，哪怕仅仅是其身上一许淡淡的味道。《香港·北京舞蹈平台2010》带来的两部交流作品，便是通过舞蹈的肢体语言，让观众看到创作者对生活、生命中的矛盾以及记忆的—次演绎。     

一种新的学习记忆模型的研究

基于传统的认知心理学的AS模型,提出了一种新的学习记忆模型。该模型基于AS的记忆原理,结合大脑皮层的记忆机制来细化记忆的过程,进而提出针对该模型的学习记忆算法。实验结果表明,该算法的性能良好,其机制符合人脑思维,实用、有效且可行。     

探寻英语学习规律提高单词记忆技巧

经济全球化正在以前所未有的速度发展,国际间的联系也越来越密切。随着国际交往的日益密切,英语的地位也越来越重要,因为英语是当今最重要的国际用语之一。学好英语的最基本条件之一是具备一定的单词积累。英语对于我们中国人来说,是比较难这的语言,大多数学生陷于反复记忆单词的困境中不能自拔。重复地记忆,英语成绩却总是不见提高,这是常见的一种英语学习现象。为了让学生摆脱这种单调、枯燥而无效的学习困境,笔者根据自己多年的教学经验,总结了几种英语单词的记忆方法,来供大家参考。     

模糊联想记忆网络的增强学习算法

针对 Kosko提出的最大最小模糊联想记忆网络存在的问题 ,通过对这种网络连接权学习规则的改进 ,给出了另一种权重学习规则 ,即把 Kosko的前馈模糊联想记忆模型发展成为模糊双向联想记忆模型 ,并由此给出了模糊快速增强学习算法 ,该算法能存储任意给定的多值训练模式对集 .其中对于存储二值模式对集 ,由于其连接权值取值 0或 1,因而该算法易于硬件电路和光学实现 .实验结果表明 ,模糊快速增强学习算法是行之有效的 .     

应用记忆演化学习的Agent协商研究

在多Agent系统（MAS）环境中,协商是一个复杂的动态交互过程。如何提高协商效率,成为了研究者关注的焦点。应用记忆演化理论的强化学习思想,提出一种Agent协商算法。它与基本强化学习相比,3阶段的记忆演化的强化学习,使得Agent可以在实时回报与延迟回报间更好的做出平衡,并为Agent记忆社会化交互创造条件,使强化学习更适合MAS的要求。通过模拟实验证明该协商算法是有效性的。     

联想记忆神经网络的一个有效学习算法

提出一种新的联想记忆网络模型的有效学习算法,它具有下述特点:(1)可以全部存储任意给定的训练模式集,即对于训练模式的数目和它们之间相关性的强弱没有限制;(2)最小的训练模型吸引域达到最大;(3)在(2)的基础上,每个训练模式具有尽可能大的吸引域;(4)联想记忆神经网络是全局稳定的.大量的计算机仿真实验结果充分说明所提出的学习算法比已有算法具有更强的存储能力和联想容错能力.     

基于记忆学习方法在自然语言处理中的应用

1 背景介绍在诸多自然语言处理应用问题中,传统手工规则的失败暴露了经典人工智能IF-THEN推理模式在自然语言知识体系尚未完全把握的情况下的缺陷。由此,在一定知识推理机制体系下,自然语言的知识表示和知识获取作为自然语言处理中的关键问题已经成为困扰其形式化的主要瓶颈。     

异联想记忆模型的优化学习算法

本文提出了一种异联想记忆模型的优化学习算法.首先,我们将反映神经元网络性能的标准转化为一个易于控制的代价函数,从而将权值的确定过程自然地转化为一个全局最优化过程.优化过程采用了梯度下降技术.这种学习算法可以保证每个训练模式成为系统的稳定吸引子,并且具有优化意义上的最大吸引域.在理论上,我们讨论了异联想记忆模型的存储能力,训练模式的渐近稳定性和吸引域的范围.计算机实验结果充分说明了算法的有效性.     

英语单词学习软件横向评测 挑战记忆极限

也许你从来都是拿着书本在那里摇头晃脑地背单词,并且对那些英语学习中所谓的“巧妙”方法不屑一顾,可是事实证明,好的学习辅助工具和科学的记忆方法能够大幅度提高学习效率。每天背300个单词,你能做到吗?你信吗?     

基于LSTM的语言学习长期记忆预测模型

间隔重复是一种在语言学习中常见的记忆方法,通过设置不同的复习间隔,让学习者在相应的时间点进行练习,以达到理想的记忆效果。为了设置合适的复习间隔,需要预测学习者的长期记忆。该文提出了一种基于长短时记忆网络(LSTM)的语言学习长期记忆预测模型,从学习者的记忆行为历史中提取统计特征和序列特征,使用LSTM对记忆行为序列进行学习,并将其应用于半衰期回归(Half-Life Regression, HLR)模型,预测外语学习者对单词的回忆概率。实验收集了90亿条真实的记忆行为数据,评估模型及特征的影响,发现相较于统计特征,序列特征包含更多的有效信息。该文提出的LSTM-HLR模型与最先进的模型相比,误差降低了50%。     

一种深度强化学习空间关系与记忆融合方法研究

深度强化学习结合了深度学习在视觉上强大的感知能力来解决复杂环境的序列决策问题,但是由于采样效率低,对于复杂高维数据输入,学习其重要特征较为困难.为了从序列样本中更有效地提取信息,本文提出在深度强化学习中融合空间关系推理和记忆推理(Spatial Relationship Reasoning and Memory Reasoning,SRRMR)的模型结构.模型分为空间关系推理和记忆推理两部分,空间关系推理使用注意力机制作为空间关系学习方法隐式地推理任意两个实体间的关系,注意力机制中的查询向量融合了记忆推理的内容;记忆推理将输入图像的特征和关系作为记忆的输入,利用自注意力与记忆组成部分进行推理和交互,并将交互的结果存储在记忆单元中,使得记忆存储单元融合了空间信息与记忆信息.SRRMR模型在不同种类的Atari游戏中进行了训练和验证,结果表明,空间关系推理与记忆推理的融合在7/15个游戏环境中以更少的交互次数收敛到更好的结果,记忆推理网络在12/15个游戏中获得提升,提升智能体学习效率,更高效地利用序列中的样本,提高了强化学习的样本利用率.     

具有自主学习与记忆功能的智能政务问答系统研究

任务型问答系统一旦构建好,通常是固定不变的,能回答的问题非常有限,难以满足用户的需求。对此,提出一种自动实时更新知识库的方法,当用户提了一个问答系统回答不了的问题,系统会把该问题自动发送给人工客服,人工客服利用专业知识回复后,系统能够自动实时获取用户提的问题和人工客服回复的答案,并把这个问答对自动实时更新到知识库,之后如果其他用户提了类似的问题,问答系统就能够快速给出对应的答案。以政务领域的问答系统为例,应用文本向量化方法 ERNIE构建知识库自动实时更新的问答系统。经过计算机实验证明,提出的方法能够实现知识库自动实时更新,构建的问答系统具有自主学习与记忆功能,提高了任务型问答系统的智能化水平。