神经网络结构动态优化设计的分析与展望

阐述了神经网络结构设计对神经网络性能的影响. 介绍了动态结构神经网络, 尤其是增长型和修剪型神经网络研究的发展过程, 分析了动态设计方法研究在计算能力、学习理论和网络的稳定性等方面取得的成果. 最后对神经网络动态设计的研究进行总结, 给出了神经网络结构动态设计研究的发展趋势.     

神经网络密码学研究综述

简述了传统密码学的重要性、研究现状和发展方向,针对神经网络密码学,归纳了该研究的几个主要方面:混沌神经网络密码学、神经网络可视密码学和神经网络密码协议,讨论了各个方面的研究类型、过程机理、影响因素、进展与现状,指出了目前研究中存在的关键问题和可能的改进方向.     

人工神经网络研究与发展综述

本文综述了神经网络理论发展的历史和现状,讨论了人工神经网络的两个主要研究方向:神经网络的VC维计算和神经网络的数据挖掘,也介绍了神经网络计算理论、方法、应用等不同层面的一些重要研究领域。     

基于神经网络的自适应控制研究综述

神经网络与自适应控制相结合的研究,已成为智能控制的一个新的分支。自适应具有强鲁棒性,神经网络则具有良好的自学习功能和良好的容错能力,神经网络自适应控制由于较好地融合了两者的优点而具有强大的优势。该文综述了近年来神经网络自适应控制的研究现状,阐述了神经网络模型参考自适应控制及神经网络自校正控制两种典型的控触方案,并对神经网络自适应控制的应用作了介绍。在此基础上,对神经网络自适应控制存在的主要问题,如稳定性、鲁棒性及收敛性等问题作了积极有益的探讨。最后,展望了神经网络自适应控制未来的发展趋势,并指出了其研究方向。     

非线性系统神经网络自适应控制的发展现状及展望

简要回顾了神经网络控制及其应用的发展历程,重点论述了人们在连续、离散时间非线性系统的神经网络以及神经模糊稳定自适应控制研究方面所取得的主要进展,探讨了神经网络自适应控制研究方面存在的主要问题及解决问题的基本途径.作为当前解决神经网络自适应控制问题的途径之一,介绍了近来人们对二阶模糊神经网络以及量子神经网络的研究.最后,总结并指出了这一领域下一步的发展方向和有待解决的新课题.     

神经网络密码学研究综述

简述了传统密码学的重要性、研究现状和发展方向，针对神经网络密码学，归纳了该研究的几个主要方面：混沌神经网络密码学、神经网络可视密码学和神经网络密码协议，讨论了各个方面的研究类型、过程机理、影响因素、进展与现状，指出了目前研究中存在的关键问题和可能的改进方向。     

离散时间反馈神经网络的渐近行为研究

Hopfield神经网络是一类应用非常成功的人工神经网络模型，它是研究这个反馈神经网络的基础．该文主要研究离散时间、连续状态的反馈神经网络，它是Hopfield神经网络的推广．众所周知，研究反馈神经网络的稳定性不仅被认为是神经网络最基本、最主要的问题之一，同时也是神经网络各种应用的基础．文中主要研究离散时间反馈神经网络的稳定性，给出了连接权矩阵非对称的并且输入-输出函数是一般的S-函数的新的渐近收敛性条件及相应的收敛性结论．所获结果不仅推广了一些已有的结论，而且为反馈神经网络的应用提供了一定的理论基础．     

粗集神经网络及其在智能信息处理领域的应用

通过对近10年发展起来的粗集神经网络集成技术的总结和归纳,可将粗集神经网络集成技术分为3种:粗集神经网络混合系统、粗边界神经网络和粗-颗粒神经网络.介绍了每种集成技术的研究现状,分析和阐述了其原理及特点.最后,总结了当前粗集神经网络集成技术中需关注的一些问题,并指出了进一步研究的方向.     

基于构造性神经网络的石油测井解释方法

为了克服传统的BP神经网络算法收敛速度慢、隐层数以及隐层节点数难以确定等缺点,研究了一种构造性神经网络学习算法——级联算法CCA及其在石油工程中的应用。采用该算法进行了储层参数预测的研究,通过与BP神经网络的研究结果进行比较,进一步体现出构造性神经网络的优越性。     

BAM神经网络模型形式与研究方法分析

双向联想记忆神经网络模型形式与结构多种多样,研究方法也千差万别。总结了在双向联想记忆神经网络的研究中对网络联接权重、时滞及信号传递函数等的不同要求,比较了在不同环境下双向联想记忆神经网络的种种模型的形式。最后,对双向联想记忆神经网络理论研究中常用的方法进行了分析,并探讨了进一步的研究方向。     

人工神经网络模型发展及应用综述

人工神经网络与其他学科领域联系日益紧密,人们通过对人工神经网络层结构的探索和改进来解决各个领域的问题。根据人工神经网络相关文献进行分析,综述了人工神经网络算法以及网络模型结构的发展史,根据神经网络的发展介绍了人工神经网络相关概念,其中主要涉及到多层感知器、反向传播神经网络、卷积神经网络以及递归神经网络,描述了卷积神经网络发展当中出现的部分卷积神经网络模型和递归神经网络中常用的相关网络结构,分别综述了各个人工神经网络算法在相关领域的应用情况,总结了人工神经网络的未来发展方向。     

基于自适应并联结构神经网络的交通流量预测

由于现有优化算法在全局优化方面的局限性,导致神经网络需要多次训练才能获得满意的结果。为了解决神经网络训练中的一致性问题,文章提出了一种自适应并联结构神经网络（Adaptive Parallel Structure Neural Network, APSNN）。APSNN由多个神经网络单元并联组成,在训练过程中,采用常规优化算法对各神经网络单元进行训练。神经网络单元的训练样本由上一级神经网络单元的训练残差构成,通过训练残差在各神经网络单元中的单向传递,实现训练残差的逐级减少。神经网络根据训练残差,决定是否进行神经网络单元级联和结构扩张,从而保证训练结果的一致性。文章对5种非线性函数进行了神经网络逼近测试。与BP神经网络相比较,APSNN在50次不同初始条件下,训练精度十分稳定,具有很好的一致性。为了实现对交通流量预测,文章将APSNN与BP神经网络和小波神经网络进行了对比研究,结果表明：APSNN的预测总体标准差均小于BP神经网络和小波神经网络,交通流量的预测偏差较BP神经网络和小波神经网络分别降低2.7%和9.7%。     

GA-BP和GA-RBF网络在结构损伤分析的比较

引出了当人工神经网络算法解决结构工程实践问题时,网络结构本身所面临缺陷。描述了人工神经网络和遗传算法的概念,以及二者的长处和关系,从理论和实例上说明了运用遗传算法优化和改进神经网络结构可行性,从而结合二者的长处解决工程实践问题。详细阐述了如何利用遗传算法优化或改进BP网络模型和RBF网络模型,以及如何利用遗传优化BP网络和遗传优化RBF网络模型分析结构损伤,从而比较遗传BP网络和RBF网络在结构损伤分析方面的性能。     

基于神经网络的PID自整定控制系统

文章介绍了一种应用神经网络技术建立的PID自整定控制系统,给出了系统结构,详细分析了BP神经网络和RBF神经网络的结构和学习算法。该系统采用3层BP神经网络,其输出为PID控制器的参数;通过变结构的RBF神经网络辨识控制对象,将得到的输出对输入的梯度信息提供给BP神经网络,BP神经网络根据该信息优化PID控制器参数。仿真结果表明,该系统对于参数扰动较大的非线性系统,其收敛速度快、动态响应能力强、稳定性好,且具有较强的鲁棒性和适应性。     

A New Multi-output Neural Model with Tunable Activation Function and its Applications

In this paper, a new multi-output neural model with tunable activation function (TAF) and its general form are presented. It combines both traditional neural model and TAF neural model. Recursive least squares algorithm is used to train a multilayer feedforward neural network with the new multi-output neural model with tunable activation function (MO-TAF). Simulation results show that the MO-TAF-enabled multi-layer feedforward neural network has better capability and performance than the traditional multilayer feedforward neural network and the feedforward neural network with tunable activation functions. In fact, it significantly simplifies the neural network architecture, improves its accuracy and speeds up the convergence rate.     

深度神经网络修复策略综述

随着智能信息时代的发展,深度神经网络在人类社会众多领域中的应用,尤其是在自动驾驶、军事国防等安全攸关系统中的部署,引起了学术界和工业界对神经网络模型可能表现出的错误行为的担忧.虽然神经网络验证和神经网络测试可以提供关于错误行为的定性或者定量结论,但这种事后分析并不能防止错误行为的发生,如何修复表现出错误行为的预训练神经网络模型依然是极具挑战性的问题.为此,深度神经网络修复这一领域应运而生,旨在消除有缺陷的神经网络产生的错误预测,使得神经网络满足特定的规约性质.目前为止,典型的神经网络修复范式有3种:重训练、无错误定位的微调和包含错误定位的微调.介绍深度神经网络的发展和神经网络修复的必要性;厘清相近概念;明确神经网络修复的挑战;详尽地调研目前已有的神经网络修复策略,并对内在联系与区别进行分析和比较;调研整理神经网络修复策略常用的评价指标和基准测试;展望未来神经网络修复领域研究中需要重点关注的可行方向.     

BP神经网络和Elman神经网络在模拟电路故障诊断中的应用

通过分析BP神经网络和Elman神经网络的基本结构和算法,研究了基于神经网络的模拟电路故障诊断方法,并通过仿真实验对比分析了BP神经网络和Elman神经网络的诊断能力。结果表明,BP神经网络的收敛速度相对较慢、训练时间长;Elman神经网络的结构参数调整简单、训练时间短、性能稳定,更适合存在容差、非线性等问题的模拟电路故障诊断。     

Medical image diagnosis of lung cancer by multi-layered GMDH-type neural network self-selecting functions

In this study, a revised Group Method of Data Handling (GMDH)-type neural network self-selecting functions is applied to the computer aided image diagnosis (CAD) of lung cancer. The GMDH-type neural network algorithm has an ability of self-selecting optimum neural network architecture from three neural network architectures, such as sigmoid function neural network, radial basis function neural network and polynomial neural network. The GMDH-type neural network also has abilities of self-selecting the number of layers, the number of neurons in hidden layers and useful input variables. This algorithm is applied to CAD of lung cancers, and it is shown that this algorithm is useful for the CAD, and is very easy to apply to practical complex problems because optimum neural network architecture is automatically organized.     

基于一维卷积神经网络深度学习的工业过程故障检测

针对化工过程的非线性和动态性,以TE过程为背景,应用深度学习中的一维卷积神经网络算法对TE过程进行故障检测,解决了BP神经网络算法用于故障检测时测试识别率低的问题。用训练数据集分别对BP神经网络模型和一维卷积神经网络模型进行训练,将测试数据集输入已经训练好的神经网络,最后统计出了BP神经网络模型和卷积神经网络模型对故障的识别率。仿真结果表明BP神经网络和卷积神经网络对故障的检测具有较好的效果,但BP神经网络算法收敛速度慢,很容易就陷入局部最小值,从而会导致整体的检测性能下降,而卷积神经网络构建出的一维卷积模型能很好地解决存在的问题,通过比较充分体现了卷积神经网络在故障检测方面的优越性。     

A reference model approach to stability analysis of neural networks

In this paper, a novel methodology called a reference model approach to stability analysis of neural networks is proposed. The core of the new approach is to study a neural network model with reference to other related models, so that different modeling approaches can be combinatively used and powerfully cross-fertilized. Focused on two representative neural network modeling approaches (the neuron state modeling approach and the local field modeling approach), we establish a rigorous theoretical basis on the feasibility and efficiency of the reference model approach. The new approach has been used to develop a series of new, generic stability theories for various neural network models. These results have been applied to several typical neural network systems including the Hopfield-type neural networks, the recurrent back-propagation neural networks, the BSB-type neural networks, the bound-constraints optimization neural networks, and the cellular neural networks. The results obtained unify, sharpen or generalize most of the existing stability assertions, and illustrate the feasibility and power of the new method.