形态学联想记忆的研究综述*

通过提炼出来的一个形态学联想记忆的研究框架,可以很清晰地概括出形态学联想记忆的研究成果,从而可以很合理地归纳出形态学联想记忆仍存在的问题以及今后的发展方向。此形态学联想记忆的研究框架对形态学联想记忆的进一步研究具有一定的指导意义。     

形态学联想记忆网络的进展研究

20多年来,形态学联想记忆的研究得到了长足的发展。从形态学联想记忆的基本原理、研究新成果等方面对形态学联想记忆网络的进展进行了研究。期望对形态学联想记忆方面的研究带来裨益。     

具有期望容错域的前向掩蔽联想记忆模型的设计方法

联想记忆的综合问题是目前没有很好解决的难题.文中用作者提出的通用前馈网络和排序学习算法,提出了一种设计具有期望容错域的前向掩蔽联想记忆模型的方法.该方法一般性地解决了信息空间上联想记忆的综合难题,使设计出的联想记忆模型具有任意期望的记忆样本容错域.     

形态学联想记忆网络的研究进展

形态学联想记忆网络具有无限存储能力、一步回忆记忆、良好地抵抗腐蚀噪声或者膨胀噪声的噪声容限等许多优点.从形态学联想记忆的概念、基本原理、发展脉络、研究新成果,发展趋势和研究方向等多个方面综述了形态学联想记忆网络的研究进展.对形态学联想记忆方面的研究带来了一定的参考价值.     

自联想记忆神经网络研究

自联想记忆神经网络能模拟人脑思维和机器智能,具有信息分布式存储和内容可寻址访问的重要特征,是人工神经网络研究的一个重要分支.介绍了开创自联想记忆神经网络研究先河的Hopfield联想记忆神经网络模型,分析了该模型的优缺点;然后在系统分析现有自联想记忆神经网络相关研究文献的基础上,从学习算法、体系结构和应用领域三个方面对自联想记忆神经网络的研究进展进行了归纳阐述;总结了自联想记忆神经网络目前存在的主要问题,并且预测了其未来的发展趋势.     

BAM神经网络模型形式与研究方法分析

双向联想记忆神经网络模型形式与结构多种多样,研究方法也千差万别。总结了在双向联想记忆神经网络的研究中对网络联接权重、时滞及信号传递函数等的不同要求,比较了在不同环境下双向联想记忆神经网络的种种模型的形式。最后,对双向联想记忆神经网络理论研究中常用的方法进行了分析,并探讨了进一步的研究方向。     

形态学联想记忆的记忆性能研究

形态学联想记忆在异联想时,在对多个模式对进行记忆之后,逐一对每一个模式对的输入模式进行联想,存在得不到正确的输出模式的情形。对形态学联想记忆在异联想时存在的问题进行研究显得非常的必要,否则,对形态学联想记忆的改进工作就会变得盲目。分析形态学联想记忆的记忆性能,得到几个有意义的结论,通过字符图像的仿真实验,对这些结论进行了验证。     

基于认知的联想记忆仿真研究

在对联想记忆神经网络的研究中,为提高现有联想记忆网络的存储能力以及相似模式和多值模式的联想成功率,提出了一种新的联想记忆网络。样本模式信息存储在动态权值矩阵中,网络根据不同的输入模式可自适应地调节当前权值矩阵。与传统联想网络相比,输入模式的信息不仅给出了联想记忆的初值,且在联想记忆过程中起到启发式搜索的作用,使网络的存储能力和联想成功率得到较好的改善。尤其可以有效地实现相似模式以及多值模式的联想记忆功能。仿真结果验证了方法的有效性。     

模糊联想记忆网络的模式摄动影响研究

本文利用基于三角模的联想记忆网络的性质以及模糊联想记忆网络的全局鲁棒性定义,研究了训练模式集的摄动对模糊联想记忆网络的影响,并对基于几种算子的模糊联想记忆网络在训练模式存在摄动的情况下的受影响程度进行了比较。     

基于αβ运算的多层联想记忆模型的研究

介绍了αβ运算符的定义和αβ联想记忆矩阵的四种操作。通过四种矩阵操作来实现模式对的培训和回忆。αβ多层联想记忆模型相比形态学联想记忆模型数值计算相对容易。最后,通过αβ多层联想记忆的数字模拟实例验证了αβ多层联想记忆具有良好的回忆性能。     

Hopfield在计算机编程中的应用与研究

Hopfield网络,又称联想记忆网络。文中根据Hopfleld神经网络构造一个应用于计算机代码编程中的联想存储器。联想记忆是该存储器的重要功能,它具有信息记忆和信息联想的特点,能够从不完整的或模糊的信息联想出存储在记忆中的某个完整清晰的信息模式。根据这一原理,用H0pfield联想存储器知识和eclipse插件机制来搭建嵌入在eclipse开发工具中一个知识可拓展的动态帮助插件,实现根据残缺不全的java代码联想到完整的java代码的功能,并进一步阐述Hopfield神经网络在计算机代码编程中的应用前景和发展方向。     

Recurrent correlation associative memories

A model for a class of high-capacity associative memories is presented. Since they are based on two-layer recurrent neural networks and their operations depend on the correlation measure, these associative memories are called recurrent correlation associative memories (RCAMs). The RCAMs are shown to be asymptotically stable in both synchronous and asynchronous (sequential) update modes as long as their weighting functions are continuous and monotone nondecreasing. In particular, a high-capacity RCAM named the exponential correlation associative memory (ECAM) is proposed. The asymptotic storage capacity of the ECAM scales exponentially with the length of memory patterns, and it meets the ultimate upper bound for the capacity of associative memories. The asymptotic storage capacity of the ECAM with limited dynamic range in its exponentiation nodes is found to be proportional to that dynamic range. Design and fabrication of a 3-mm CMOS ECAM chip is reported. The prototype chip can store 32 24-bit memory patterns, and its speed is higher than one associative recall operation every 3 mus. An application of the ECAM chip to vector quantization is also described.     

基于模式关联的一对多联想记忆方法

在现有的多模块一对多联想记忆模型中,由于所处理的记忆模式集合本身的特点以及记忆模式之间的关联被忽视,使得构造出来的模型结构复杂,难以实际应用.针对这一不足,提出一种基于模式关联的实现方法.以该方法构造出的多模块一对多联想记忆模型结构简单,易于硬件实现,使得多模块一对多联想记忆模型具有了实际应用的可能.     

Some experiments on human memory and a new neural model

An associative memory with parallel architecture is presented. The neurons are modelled by perceptrons having only binary, rather than continuous valued input. To store m elements each having n features, m neurons each with n connections are needed. The n features are coded as an n-bit binary vector. The weights of the n connections that store the n features of an element has only two values -1 and 1 corresponding to the absence or presence of a feature. This makes the learning very simple and straightforward. For an input corrupted by binary noise, the associative memory indicates the element that is closest (in terms of Hamming distance) to the noisy input. In the case where the noisy input is equidistant from two or more stored vectors, the associative memory indicates two or more elements simultaneously. From some simple experiments performed on the human memory and also on the associative memory, it can be concluded that the associative memory presented in this paper is in some respect more akin to a human memory than a Hopfield model.     

基于广义逆的指数型联想存储器模型

基于Ｋｏｈｏｎｅｎ的广义逆联想存储模型ＧＩＡＭ（ｇｅｎｅｒａｌｉｚｅｄｉｎｖｅｒｓｅａｓｏｃｉａｔｉｖｅｍｅｍｏｒｙ）和Ｍｕｒａｋａｍｉ的最小平方联想存储ＬＳＡＭ（ｌｅａｓｔｓｑｕａｒｅｓａｓｓｏｃｉａｔｉｖｅｍｅｍｏｒｙ）原理，本文提出了一个指数型联想存储器．该模型的存储性能经计算机模拟证实，远远优于ＧＩＡＭ和ＬＳＡＭ，通过适当地调节参数，几乎可达到完全的联想．对输入噪声方差，无需先验假设，同时还实现了一定程度的非线性映射特性.     

基于图约简的知识联想关系网络建模

考虑到人类知识在大脑中以联想记忆形式存在，尝试从联想关系的视角深入探索知识体系的内在关系网络模型，旨在为知识图谱的建模提供一种可参考的新思路。对于给定的知识语料库，首先考虑以直接联想关系生成方式构建初始的知识关系网络，随后引入多种图约简方法优化知识联想关系网络的建模。研究中特别地提出了随机选择、局部联想最大记忆保留、全局联想最大记忆保留等3种知识联想关系约简重整策略，并通过实验手段对这3种策略进行建模分析。实验结果表明:3种方法呈现出了价值意义清晰的共同性能特征，而其中的全局联想最大记忆保留策略能最优地平衡知识联想关系网络的规模和联想记忆效率，可为相关应用提供有效的方法基础，也可为进一步探索类脑联想记忆的知识关系网络生成建模提供十分有益的启发。     

Part 3: Brain science, information science and associative memory model

I review recent progress on the associative memory model, which is a kind of neural network model. First, I introduce this model and a mathematical theory called statistical neurodynamics describing its properties. Next, I discuss an associative memory model with hierarchically correlated memory patterns. Initially, in this model, the state approaches a mixed state that is a superposition of memory patterns. After that, it diverges from the mixed state, and finally converges to a memory pattern. I show that this retrieval dynamics can qualitatively replicate the temporal dynamics of face-responsive neurons in the inferior temporal cortex, which is considered to be the final stage of visual perception in the brain. Finally, I show an unexpected link between associative memory and mobile phones (CDMA). The mathematical structure of the CDMA multi-user detection problem resembles that of the associative memory model. It enables us to apply a theoretical framework of the associative memory model to CDMA.     

非线性连续联想记忆神经网络的分析和优化设计

研究非线性连续联想记忆神经网络的渐近稳定性,得出几个定理.在此基础上,提出了一种优化设计方法,并给出了理论证明.目前已有的若干结论是本文所得定理的特例.