神经网络与神经计算机的基本原理和应用(续完)

本文是“神经网络与神经计算机的基本原理和应用”的第二部分。主要介绍Hopfleld 网络模型及其在求解旅行商问题中的成功应用。为了避免陷入局部极小,Boltz-mann 机和随机网络模型对 Hopfield 模型作了进一步的改进。感知机和 BP 网络,是利用神经网络进行自学习的两种常见方式。按误差反向传播的 BP层次型网络,可以通过样本训练改变神经元的连接权以进行学习和记忆。在神经计算机一节中, 扼要介绍了神经计算机的主要特征、体系结构、其中并行拉度、虚拟处理器和拓扑结构是三个需要考虑的重要参数。文中最后部分讨论了神经网络与神经计算机的应用领域。     

第六代计算机的核心：神经网络计算机

神经网络计算机有可能从根本上改变计算机领域的面貌。木文阐述神经元模型和神经网络的结构与特点,指出神经网络计算机在第六代计算机中的作用。进一步讨论若干重要的神经网络模型及其技术现况和可能的应用。     

基于逐层优化递推最小二乘算法的反馈神经网络

计算智能(Cl)是当前智能科学研究的新热点,其积极意义在于推出新的、功能更强大的、具有更普遍意义的计算智能模型或方法。神经网络的学习能力及并行计算结构,成为其中一个主要方面。前馈神经网络中的神经元以不同方式嵌入反馈连接,则可构成不同的反馈神经网络结构,这样,过去事件     

大规模超环神经网络分岔动力学

目前绝大多数神经网络分岔动力学局限于结构简单、低维少节点模型,这与真实的大规模神经网络系统相去甚远.因此,研究大量神经元耦合的高维神经网络模型更具实际应用价值.环状及辐射状结构在神经网络中普遍存在,提出了一类大规模超环时滞神经网络模型,结构包含一个大环和任意多个小环,并且每个环上拥有任意多个神经元.运用特征值法和分岔理...     

生物视觉系统的神经网络编码模型综述

生物视觉系统的研究一直是计算机视觉算法的重要灵感来源。有许多计算机视觉算法与生物视觉研究具有不同程度的对应关系,包括从纯粹的功能启发到用于解释生物观察的物理模型的方法。从视觉神经科学向计算机视觉界传达的经典观点是视觉皮层分层层次处理的结构。而人工神经网络设计的灵感来源正是视觉系统中的分层结构设计。深度神经网络在计算机视觉和机器学习等领域都占据主导地位。许多神经科学领域的学者也开始将深度神经网络应用在生物视觉系统的计算建模中。深度神经网络多层的结构设计加上误差的反向传播训练,使得它可以拟合绝大多数函数。因此,深度神经网络在学习视觉刺激与神经元响应的映射关系并取得目前性能最好的模型同时,网络内部的单元甚至学习出生物视觉系统子单元的表达。本文将从视网膜等初级视觉皮层和高级视觉皮层(如,视觉皮层第4区(visual area 4,V4)和下颞叶皮层(inferior temporal,IT))分别介绍基于神经网络的视觉系统编码模型。主要内容包括:1)有关视觉系统模型的概念与定义;2)初级视觉系统的神经网络预测模型;3)任务驱动的高级视觉皮层编码模型。最后本文还将介绍最新有关无监督学习的神经编码...     

人工神经网络的逻辑模型

引入了统一建模语言(UML)的方法,建立了一种神经网络的面向对象模型,即神经网络的逻辑模型.在神经网络的静态结构中,类图描述了组成神经网络的基本元素及其相互关系,包括神经元、神经元集、输入层、中间层、输出层、神经元层、训练层和辅助层,并通过继承抽象神经网络类给出了具体的神经网络类.在神经网络的动态运行中,活动图把神经网络的活动状态分成外部激励和内部运行两组,展现了神经网络应用过程中的活动流程.     

一种非线性可自学习的联想记忆神经网络

醉庆生物神经突触特性的基础上,提出了非线性神经突触神经元的概念,并以此为根据构造了一种可自学习的联想记忆神经网络模型。这种模型可以按照Hebb规则进行学习,学习机制由网络本身完成。在此模型中,由于非线性权重的引入,使此神经网络模型能以简单的结构实现网络的自学习功能。文中对网络的记忆容量和此种网络在以特定的学习方式学习后与Hopfield网络的等效性方面进行了讨论。试验表明,此种网络模型结构是有效的。     

神经网络与神经计算机

脑科学和神经系统的研究已经有很长的历史。长期以来,人们一直梦想着通过对神经系统的研究,发明一种仿效人脑信息处理模式的智能式计算机。自从四十年代冯·诺曼发明基于串行符号处理的数字电子计算机以来,虽然获得了巨大的成功,但在诸如模式识别、人工智能等方面都碰到极大的困难,促使人们以更大的兴趣去研究并行处理模式为特征的神经计算学。八十年代初,在美国、日本和欧洲,都掀起一股神经网络理论和神经计算机的研究热潮。各个先进国家都相继给出巨大的投资,制定出强化研究计划、开展对脑功能和新型智能计算机的研究。并着重将神经网络原理应用于图象处理、模式识别、语音综合及智能机器人控制等领域。目前,有关神经网络的研究机构,遍及美国各大学、公司及国防、宇航的研究部门。1987年6月在美国召开第一届神经网络国际会议、并发起成立国际神经网络学会(INNS)。之后,以IBM 公司、Bell 研究所和日本的富士通、NEC 等大公司,纷纷研制各种神经芯片、相继推出各种软件、硬件产品。为神经计算机的实现,迈出了第一步。神经网络的主要特征是:大规模的并行处理和分布式的信息存贮,良好的自适应性、自组织性。并且具有很强的学习功能、联想功能和容错功能。通过神经网络的研究,将对探索更加完善的智能计算机系统和相应的人工智能技术,开辟新的途径。目前,国外神经网络的研究热潮仍方兴未艾。为了向读者系统地介绍有关神经网络和神经计算机的基本理论、学习算法和应用技术。特开辟这个专题讲座。本讲座共分八讲。第一讲:神经网络模型。第二讲:神经网络的学习算法。第三讲:神经器件。第四讲:神经计算机。第五讲:光神经计算机。第六讲:神经网络在视觉信息处理中的应用。第七讲:神经网络在模式识别中的应用。第八讲:神经网络在机器人控制中的应用。     

神经网络理论：学习,识别与计算的现代途径

神经网络是近年来掀起热潮的一个特别引人入胜的研究领域,它完全打破了学科的界限,对人工智能、计算机科学、脑神经科学、认知科学、电子学及物理学等学科的新发展都有重要影响。预计它的应用和发展不仅会推动神经动力系统理论本身,而且将影响新一代计算机的设计原理。本文介绍了神经网络的基本概念和主要特征,对该研究的历史与现状、各种神经网络模型与算法、神经网络计算机的基本原理及其VLSI实现、神经网络在各研究领域的应用和发展作了综述,最后指出了该领域研究的方向和有关课题,展望了它的发展前景。     

神经网络的基本结构和功能

鉴于目前蓬勃兴起的神经网络型计算机的研究,本文从神经元的几种基本模型和网络的结构形态上综述了人工神经网络的基本结构,分析了它的两个基本功能——模式变换和求解最优化问题的能力,展望了它的一些可能的应用。     

神经网络与神经计算机 第五讲 光神经计算机

<正> 光神经计算机的研究指的是利用光物理学和光技术,研究神经网络的基本原理,并探讨采用光学器件或光电混合器件实现神经网络硬件系统的方法。本讲先讨论神经网络和光物理学、光技术的关系,以及由此引出的光神经计算机的特征,然后介绍光神经计算机系统的基本结构,以及用光技术实现联想、学习等高级功能的基本原理和基本方法。最后简单介绍光神经计算机的发展前景。     

基于忆阻器的连续学习混沌神经网络

忆阻器具有独特的记忆功能和连续可变的电导状态,在人工智能与神经网络等研究领域具有巨大的应用优势.详细推导了忆阻器的电荷控制模型,将纳米忆阻器与具有智能信息处理能力的混沌神经网络相结合,提出了一种新型的基于忆阻器的连续学习混沌神经网络模型.利用忆阻器可直接实现网络中繁多的反馈与迭代,即完成外部输入对神经元及神经元之间相互作用的时空总和.提出的忆阻连续学习混沌神经网络可以实现对已知模式和未知模式的区分,并能对未知模式进行自动学习和记忆.给出的计算机仿真验证了方案的可行性.由于忆阻器具有纳米级尺寸和自动的记忆能力,该方案有望大大简化混沌神经网络结构.     

广义神经网络系统与广义BP算法

本文在传统的神经网络理论基础上,将传统的神经元拓广为广义神经元,描述了以广义神经元为基础的广义神经网络系统的组成原理,提出了适应于广义神经网络系统的一种广义BP算法。并给出了该算法的数学推导,最后简要地介绍了广义神经网络系统原理在汉字识别中的应用。     

多媒体技术研究:2015——类脑计算的研究进展与发展趋势

目的 类脑计算,是指仿真、模拟和借鉴大脑神经网络结构和信息处理过程的装置、模型和方法,其目标是制造类脑计算机和类脑智能。方法 类脑计算相关研究已经有20多年的历史,本文从模拟生物神经元和神经突触的神经形态器件、神经网络芯片、类脑计算模型与应用等方面对国内外研究进展和面临的挑战进行介绍,并对未来的发展趋势进行展望。结果 与经典人工智能符号主义、连接主义、行为主义以及机器学习的统计主义这些技术路线不同,类脑计算采取仿真主义：结构层次模仿脑（非冯·诺依曼体系结构）,器件层次逼近脑（模拟神经元和神经突触的神经形态器件）,智能层次超越脑（主要靠自主学习训练而不是人工编程）。结论 目前类脑计算离工业界实际应用还有较大差距,这也为研究者提供了重要研究方向与机遇。     

神经网络与神经计算机 第四讲 神经计算机

<正> 4-1 冯·诺曼计算机与神经计算机现在广泛使用的冯·诺曼型数字计算机的基本思想是,在中央处理单元CPU 的控制下,逐次执行指令序列。它的主要特征是串行处理和高速数值运算。但在模式识别、语音合成、人工智能等方面却进展缓慢。而神经网络由于具有高速并行处理,自组织和学习功能等许多优良特性,因而使得模仿生物大脑信息处理功能的神经计算机的研究,展示出十分诱人的前景。     

自构建小波神经网络的内模控制研究与应用

考虑到小波神经网络隐含层神经元的数目决定了整个网络的规模和性能,根据小波基函数的激励强度和衰减程度可以添加或者删除小波神经网络隐含层神经元,优化了小波神经网络隐含层结构,采用自构建小波神经网络辨识内模控制系统的正模型和逆模型,该模型的神经网络结构可根据性能要求动态调整,从而改进了神经网络内模控制技术,实验结果表明,提出的控制方法比传统方法在鲁棒性和抗扰性方面具有更好的性能表现,各项指标均优于传统控制方法.实现氧化铝熟料烧结工艺优化。     

基于模糊聚类的神经元识别方法

大脑是生物体内结构和功能最复杂的组织,其中包含上千亿个神经元。作为大脑构造的基本单位,神经元的结构和功能包含很多因素,其中神经元的几何形态特征就是一个重要方面。大脑中神经元的几何形态复杂多样,对其识别分类问题是一个难题。本文在模糊聚类的基础上根据神经元的几何形态建立了模糊集模型 ,并利用多数据库分类模型中的最优划分模型对模糊聚类分析法进行改进。将改进后的模糊聚类方法用于对神经元的识别分类,得到最优的分类结果。根据聚类的评价方法,与其他的聚类方法比较,证明了改进的模糊聚类方法能够得到更好的聚类效果。     

图像分类的深度卷积神经网络模型综述

图像分类是计算机视觉中的一项重要任务,传统的图像分类方法具有一定的局限性。随着人工智能技术的发展,深度学习技术越来越成熟,利用深度卷积神经网络对图像进行分类成为研究热点,图像分类的深度卷积神经网络结构越来越多样,其性能远远好于传统的图像分类方法。本文立足于图像分类的深度卷积神经网络模型结构,根据模型发展和模型优化的历程,将深度卷积神经网络分为经典深度卷积神经网络模型、注意力机制深度卷积神经网络模型、轻量级深度卷积神经网络模型和神经网络架构搜索模型等4类,并对各类深度卷积神经网络模型结构的构造方法和特点进行了全面综述,对各类分类模型的性能进行了对比与分析。虽然深度卷积神经网络模型的结构设计越来越精妙,模型优化的方法越来越强大,图像分类准确率在不断刷新的同时,模型的参数量也在逐渐降低,训练和推理速度不断加快。然而深度卷积神经网络模型仍有一定的局限性,本文给出了存在的问题和未来可能的研究方向,即深度卷积神经网络模型主要以有监督学习方式进行图像分类,受到数据集质量和规模的限制,无监督式学习和半监督学习方式的深度卷积神经网络模型将是未来的重点研究方向之一;深度卷积神经网络模型的速度和资源消耗仍不尽人意,应用于移动式设备具有一定的挑战性;模型的优化方法以及衡量模型优劣的度量方法有待深入研究;人工设计深度卷积神经网络结构耗时耗力,神经架构搜索方法将是未来深度卷积神经网络模型设计的发展方向。     

小波神经网络在两足步行机器人爬斜坡中的应用

针对传统的神经网络中神经元模型在结构和信息存 储能力上存在的不足,本文提出了一种基于广义小波基函数网络的神经元集聚模型．这种小 波神经网络不仅收敛速度快,非线性逼近能力更好,而且具有内部结构变尺度、自适应调整 和广义信息存储等智能化特点,更符合生物原型的实际情况．静态学习和准动态学习仿真实 验证明这种神经网络结构的有效性．     

多个神经振子群网络的相位动力学编码

利用随机相变动力学理论研究运动认知的神经网络动力学模型．给出了感觉神经元集群、中间神经元集群和运动皮层神经元集群在耦合条件下相互作用、相位编码和数密度随时间的演化．探讨了神经网络在自发运动条件下以及在刺激条件下的神经网络动力学响应．通过数值模拟证实了（1）Walter J．Freeman提出的皮层动力学响应不能够编码外刺激信息的猜想;（2）串行的神经网络系统的神经编码具有节律编码的性质;（3）在中枢神经系统的调控中,神经抑制有其重要的作用．