神经网络自适应学习系统

本文简要介绍人工神经网络自适应学习系统（ANNALS)的结构。在ANNALS的支撑下，既能自动获取网络参数，又可以方便自如地对各种作本数据进行聚类分析。     

模式识别的最大熵神经网络方法

文章提出了模式识别的最大熵方法,其基本思想是求出最大熵概率分布,再求出条件概率分布,进而作出二值分类。它的特点是能最大限度地利用已有信息做出最合理的推测。求解最大熵分布时,需要解复杂的约束优化问题,为此使用了神经网络,从而使该方法结合了神经网络的很多优点。该方法的突出优点是在小样本情况下仍能保持很好的识别率。     

基于一维卷积神经网络深度学习的工业过程故障检测

针对化工过程的非线性和动态性,以TE过程为背景,应用深度学习中的一维卷积神经网络算法对TE过程进行故障检测,解决了BP神经网络算法用于故障检测时测试识别率低的问题。用训练数据集分别对BP神经网络模型和一维卷积神经网络模型进行训练,将测试数据集输入已经训练好的神经网络,最后统计出了BP神经网络模型和卷积神经网络模型对故障的识别率。仿真结果表明BP神经网络和卷积神经网络对故障的检测具有较好的效果,但BP神经网络算法收敛速度慢,很容易就陷入局部最小值,从而会导致整体的检测性能下降,而卷积神经网络构建出的一维卷积模型能很好地解决存在的问题,通过比较充分体现了卷积神经网络在故障检测方面的优越性。     

非线性系统的神经网络学习控制

主要控制了一类非线性系统的神经网络学习控制问题。讨论了以迭代学习方式训练的神经网络学习控制器，在满足一定条件，可以实现一定时间内的系统输出跟踪。     

基于函数正交基展开的过程神经网络学习算法

过程神经网络的输入和连接权均可为时变函数,过程神经元增加了一个对于时间的聚合算子,使网络同时具有时空二维信息处理能力．该文在考虑过程神经网络对时间聚合运算的复杂性的基础上,提出了一种基于函数正交基展开的学习算法．在网络输入函数空间中选择一组适当的函数正交基,将输入函数和网络权函数都表示为该组正交基的展开形式,利用基函数的正交性．简化过程神经元对时间的聚合运算．应用表明,算法简化了过程神经网络的计算复杂度,提高了网络学习效率和对实际问题求解的适应性．以旋转机械故障诊断问题和油藏开发过程采收率的模拟为例验证了算法的有效性．     

自组织过程神经网络及其应用研究

针对与时间过程有关的模式分类问题，提出了一种自组织过程神经元网络模型．网络由输入层和竞争层组成，其输入和连接权可为与时间有关的函数，输入层结点与竞争层结点实行全互连接．网络提取输入函数所隐含的过程式模式特征，并对其进行自组织，在竞争层将分类结果表现出来．为简化计算，在输入空间中引入函数正交基，将输入函数和网络权函数表示为正交基的展开形式，利用基函数的正交性，使网络权函数的调整非时变化．给出了竞争学习和有教师示教两种学习算法，并以石油地质中沉积微相识别问题为例证明了模型和算法的有效性．     

最大-乘积模糊联想记忆的神经网络学习算法

在模糊系统中,从某种意义上说,乘积关系编码可以比最小关系编码保留更多的信息。提出了最大乘积模糊联想记忆的一种新的神经网络学习算法,并给出了严格的理论证明。该算法能够将多个模糊模式对可靠地编码存储到尽可能少的连接权矩阵中,从而大大地减少存储空间,而且容易实现,并举例验证了它的有效性。     

连续小波过程神经网络及其仿真研究

在小波分析和过程神经网络理论的基础上，提出了连续小波过程神经网络模型，其隐层为过程神经元，隐层激活函数采用小波函数．该网络结合了小波变换良好的时一频局域化性质及过程神经网络可以处理连续输入信号的特点，因而学习能力强，精度高．给出了小波过程神经网络学习算法，并以航空发动机滑油系统状态监测为例，分别利用传统BP网络和小波过程神经网络进行预测．结果表明，小波过程神经网络收敛速度快，精度高，优于BP网络的预测能力，同时也为航空发动机滑油系统状态监测问题提供了一种有效的方法．     

过程神经网络水华预测方法研究

水华是水体富营养化的表现,会导致水体透明度下降,溶解氧降低,产生藻毒素,给人类居住环境和人体健康造成很大损害,水华已成为我国水资源保护急需解决的一个重大问题。在深入研究水华形成机理的基础上,通过化工正交实验分析和粗糙集理论,确定温度、溶解氧、叶绿素、氮磷比、总氮和光照作为水华预测的指标,叶绿素作为表征水华产生的指标,提出1种过程神经网络的水华预测模型。该模型将输入函数在给定精度下展开为1组正交基的有限项级数形式,将网络权函数表示为同1组基函数的展开形式,利用基函数的正交性来简化过程神经元对时间聚合运算的复杂性,同时通过变速率学习算法和加入动量项以提高网络的收敛速度,减少训练时所产生的振荡误差等问题。通过实验室数据的仿真,得到预测精确度为83.4%,证明本方法的有效性,为水华的预测提供1种有效途径。     

一类反馈过程神经元网络模型及其学校算法

提出了一种基于权函数基展开的反馈过程神经元网络模型．该模型为三层结构,由输入层、过程神经元隐层和过程神经元输出层组成．输入层完成系统时变过程信号的输入及隐层过程神经元输出信号向系统的反馈;过程神经元隐层用于完成输入信号的空间加权聚合和激励运算,同时将输出信号传输到输出层并加权反馈到输入层;输出层完成隐层输出信号的空间加权聚集和对时间的聚合运算以及系统输出．文中给出了学习算法,并以旋转机械故障自动诊断问题为例验证了模型和算法的有效性．     

一种基于量子粒子群的过程神经元网络学习算法

针对过程神经元网络模型学习参数较多,正交基展开后的BP算法计算复杂、不易收敛等问题,提出了一种基于双链结构的量子粒子群学习算法.该算法用量子比特构成染色体,对于给定过程神经元网络模型,按权值参数的个数确定量子染色体的基因数并完成种群编码,通过量子旋转门和量子非门完成个体的更新与变异.算法中每条染色体携带两条基因链,提高了获得最优解的概率,扩展了对解空间的遍历,从而加速过程神经元网络的优化进程.将经过量子粒子群算法训练的过程神经元网络应用于Mackey-Glass混沌时间序列和太阳黑子预测,仿真结果表明该学习算法不仅收敛速度快,而且寻优能力强.     

Learning Algorithm and Retrieval Process for the Multiple Classes Random Neural Network Model

Gelenbe has modeled neural networks using an analogy with queuing theory. This model (called Random Neural Network) calculates the probability of activation of the neurons in the network. Recently, Fourneau and Gelenbe have proposed an extension of this model, called multiple classes random neural network model. The purpose of this paper is to describe the use of the multiple classes random neural network model to learn patterns having different colors. We propose a learning algorithm for the recognition of color patterns based upon non-linear equations of the multiple classes random neural network model using gradient descent of a quadratic error function. In addition, we propose a progressive retrieval process with adaptive threshold values. The experimental evaluation shows that the learning algorithm provides good results.     

一类用于连续过程逼近的过程神经元网络及其应用

针对实际系统的输入输出是与时间有关的连续过程,提出了一类用于连续过程逼近的过程神经元网络模型.模型利用神经网络所具有的非线性映射能力,实现系统输入输出之间的连续映射关系.考虑过程神经网络计算的复杂性,在输入空间中选择一组函数正交基,将输入函数和网络权函数表示为该组正交基的展开形式,利用基函数的正交性,简化过程神经元计算.文中给出了学习算法,并以油藏开发三次采油过程模.     

一种基于神经网络集成的规则学习算法

将神经网络集成与规则学习相结合，提出了一种基于神经网络集成的规则学习算法．该算法以神经网络集成作为规则学习的前端，利用其产生出规则学习所用的数据集，在此基础上进行规则学习．在UCl机器学习数据库上的实验结果表明，该算法可以产生泛化能力非常强的规则．     

竞争学习神经网络的译码功能研究

探讨了人工神经元网络竞争学习模型的纠错译码功能,通过对人工神经元网络竞争学习规则和平衡响应原理的分析,揭示了竞争学习的平衡响应与二值线性分组码的最大似然译码之间的等价关系。     

并行学习神经网络集成方法

该文分析了神经网络集成中成员神经网络的泛化误差、成员神经网络之间的差异度对神经网络集成泛化误差的影响,提出了一种并行学习神经网络集成方法;对参与集成的成员神经网络,给出了一种并行训练方法,不仅满足了成员网络本身的精度要求,还满足了它与其余成员网络的差异性要求;另外,给出了一种并行确定集成成员神经网络权重方法．实验结果表明,使用该文的成员神经网络训练方法、成员神经网络集成方法能够构建有效的神经网络集成系统．     

基于小波神经网络的加工过程自适应控制

把信息熵、小波分析和神经网络相结合,提出了基于小波神经网络的加工过程自适应控制系统及其自适应控制算法。提出并定义了广义熵方误差函数,在理论上证明了广义熵方误差函数的有效性。用广义熵方误差函数准则取代BP算法的均方误差准则,用自适应地搜索小波基函数和自适应地调整小波的尺度参数、平移参数和神经网络权值的方法对参数变化的切削力进行在线控制。仿真结果表明,该系统响应快,无超调,比传统的加工过程神经网络自适应控制具有更好的控制效果。     

一种基于半监督主动学习的动态贝叶斯网络算法

本文提出一种基于半监督主动学习的算法，用于解决在建立动态贝叶斯网络(DBN)分类模型时遇到的难以获得大量带有类标注的样本数据集的问题．半监督学习可以有效利用未标注样本数据来学习DBN分类模型，但是在迭代过程中易于加入错误的样本分类信息，并因而影响模型的准确性．在半监督学习中借鉴主动学习，可以自主选择有用的未标注样本来请求用户标注．把这些样本加入训练集之后，能够最大程度提高半监督学习对未标注样本分类的准确性．实验结果表明，该算法能够显著提高DBN学习器的效率和性能，并快速收敛于预定的分类精度．