基于神经网络的交互式自动获取知识的N—R方法

本文为解决知识系统构造过程中瓶颈问题－－知识获取，提出了一种基于神经网络ＮＮ的自动获取多级推理产生规则的Ｎ－４方法，该方法采用了特有的ＮＮ结构模型和相应的学习算法，使得ＮＮ在学习过程中动态确定隐层节点数的同时，也产生了样例集中没有定义的新概念，学习后的ＮＮ能用本文提出的转换算法转换成推理网络，最终方便地得到了产生式规则集。     

基于神经网络结构学习的知识求精方法

知识求精是知识获取中必不可少的步骤．已有的用于知识求精的ＫＢＡＮＮ（ｋｎｏｗ ｌｅｄｇｅ ｂａｓｅｄ ａｒｔｉｆｉｃｉａｌｎｅｕｒａｌｎｅｔｗ ｏｒｋ）方法,主要局限性是训练时不能改变网络的拓扑结构．文中提出了一种基于神经网络结构学习的知识求精方法,首先将一组规则集转化为初始神经网络,然后用训练样本和结构学习算法训练初始神经网络,并提取求精的规则知识．网络拓扑结构的改变是通过训练时采用基于动态增加隐含节点和网络删除的结构学习算法实现的．大量实例表明该方法是有效的     

基于神经网络的交互式自动获取知识的N－R方法

本文为解决知识系统构造过程中的瓶颈问题──知识获取，提出了一种基于神经网络ＮＮ（ｎｅｕｒａｌｎｅｔｗｏｒｋ）的自动获取多级推理产生式规则的Ｎ－Ｒ方法，该方法采用了特有的ＮＮ结构模型和相应的学习算法，使得ＮＮ在学习过程中动态确定隐层节点数的同时，也产生了样例集中没有定义的新概念，学习后的ＮＮ能用本文提出的转换算法转换成推理网络，最终方便地得到产生式规则集.     

基于BP神经网络的小麦病害诊断知识获取

为了从神经网络中获取易于理解的知识,以小麦病害诊断为例,研究了BP神经网络的规则抽取,提出一种基于结构分析的BP神经网络规则抽取方法.采用带惩罚项的交错熵误差函数作为误差函数,通过对训练好的神经网络进行剪枝、权重分析并设定阈值,从BP神经网络中抽取产生式规则.     

神经网络中的粒子权重计算

讨论了将粒子信息存入神经网络的机制，以加速网络训练，提高清晰度，提出了语言权重的GNN及语言算法规则。GNN比标准BP网络需要少训练时间来学习已矧问题，同时知识的表示更易于理解。     

基于自适应学习速率的改进型BP算法研究

从感知器的结构及学习规则无法执行异或问题出发,用神经网络中的BP网络来解决异或问题,消除了感知器的局限性,但BP算法在具体实现中常会出现一些问题,如：收敛速度缓慢且与其他参数存在较强的耦合关系,局部极小等。对此,从前馈神经网络的原理出发,提出了一种自适应学习速率因子方法,用于对BP算法的改进,并将改进后的算法用于二维XOR问题及多维XOR问题的学习中。仿真实验证明,改进后的算法可显著提高网络的学习速度,且学习过程具有良好的收敛性及较强的鲁棒性。     

基于递阶遗传算法模糊加权神经网络的模糊规则自动获取

针对模糊规则的自动获取一直是模糊系统的一个瓶颈问题，提出一种基于递阶结构的混合编码遗传算法与进化规划相结合的模糊加权神经网络学习新算法，利用该算法同时优化模糊加权神经网络的结构和参数，最后说明了从网络中提取模糊规则的方法，从而自动获得最优的模糊规则。分析和实验结果表明，本文方法在规则提取和分类准确性等方面比其他方法更好。     

基于进化式模糊神经网络的时间序列预测系统

文章介绍了一种基于进化式模糊神经网络时间预测系统，它是一种快速自适应的局部学习模型；进化式模糊神经网络是一个特殊类型的神经网络，它能通过进化其结构和参数来容纳新的数据。文章重点介绍了网络结构、学习方法及创建、修剪、聚合规则节点的算法；实验结果表明：模糊隶属函数的个数，规则的修剪和聚合等训练参数，与网络的行为和预测结果有很重要的关系。     

信用评级的简约神经网络算法

运用经济资源的“边际效用递减”原理,分析了信用评级知识的非线性特点,着眼于神经网络算法的结构、函数和收敛算法三部件逻辑独立性,分析了经典神经网络算法拓扑结构的复杂性引致的算法参数调整过度复杂问题,提出了简约神经网络的拓扑结构,证明了在全部结点函数线性且全部隐层结点函数过原点的条件下经典神经网络与简约神经网络具有等价性,设计了基于简约网络的算法,算法结果获得了较高的拟合精度。     

基于神经网络的知识获取

本文提出了用基于规则专家系统与神经网络的集成，该系统实现了从实例中自动获取知识的功能．在产生和控制不完全情况方面提高了专家系统的推理能力．它使用无导师学习算法的神经网络来获取正规数据，并用一个符号生成器把这些正规的数据变换成规则．生成规则和训练后的神经网络作为知识库嵌于专家系统中．在诊断阶段，为了诊断不明情况，可同时使用知识库和人类专家的知识，而且系统可以利用训练过的神经网络的综合能力进行诊断，并使不相符数据完整化．     

基于GA-LM-BP神经网络的锂离子电池预测研究

针对BP神经网络训练学习速度慢、容易陷入局部极小值的缺陷,利用LM算法融合高斯-牛顿法和梯度下降法优点的快速性,充分利用遗传算法全局随机搜索强的优势,构建了三层5-6-1型的GA-LM-BP神经网络结构,优化BP神经网络的初始权值和阀值,减少了BP神经网络陷入局部极小值的几率。通过对锂离子电池数据进行了实验,结果表明了该方法预测的有效性。     

基于小生境-遗传算法优化的新型BP模型

为解决传统BP神经网络模型易陷入局部极小点、网络结构不稳定、收敛速度慢等问题,提出了一个小生境遗传算法优化的BP神经网络模型。该网络模型借助BP神经网络的非线性映射和学习联想能力和小生境遗传算法的搜索能力,利用小生境遗传算法的选择、交叉、变异及小生境淘汰等操作,来对BP神经网络的初始权值和阈值进行优化,同时使用BP算法来训练该模型,从而有效地解决了网络初值不合理的问题,提高了网络收敛速度、稳定性。实验证明：与传统方法相比,该模型具有很强的可行性和有效性。     

Fast and improved backpropagation learning of multi-layer artificial neural network using adaptive activation function

In the conventional backpropagation (BP) learning algorithm used for the training of the connecting weights of the artificial neural network (ANN), a fixed slope−based sigmoidal activation function is used. This limitation leads to slower training of the network because only the weights of different layers are adjusted using the conventional BP algorithm. To accelerate the rate of convergence during the training phase of the ANN, in addition to updates of weights, the slope of the sigmoid function associated with artificial neuron can also be adjusted by using a newly developed learning rule. To achieve this objective, in this paper, new BP learning rules for slope adjustment of the activation function associated with the neurons have been derived. The combined rules both for connecting weights and slopes of sigmoid functions are then applied to the ANN structure to achieve faster training. In addition, two benchmark problems: classification and nonlinear system identification are solved using the trained ANN. The results of simulation-based experiments demonstrate that, in general, the proposed new BP learning rules for slope and weight adjustments of ANN provide superior convergence performance during the training phase as well as improved performance in terms of root mean square error and mean absolute deviation for classification and nonlinear system identification problems.     

一种基于Rough Sets和模糊神经网络的规则获取的方法

该文提出了一种基于RoughSets思想获取初始规则,并通过模糊神经网络优化,最后再进行简化获取模糊规则,及模糊系统参数学习的方法。并通过实例进行了自动列车运行系统仿真。文中还基于上述实例,将这种基于模糊神经网络的学习与控制方法与标准的BP网络和基本的模糊系统方法进行了比较,并总结了这种方法的特点。结论表明,该文所提出的模糊规则生成和模糊系统学习方法是行之有效的。     

PCA-改进RPROP方法的BP算法在音乐信号分类中的应用

针对标准的BP神经网络仅从预测误差负梯度方向修正权值和阈值,学习过程收敛缓慢,并且容易陷入局部最小值,导致泛化能力不足的问题,提出了一种基于学习经验变学习速率改进的RPROP方法作为BP神经网络权值和阈值更新方法,并与主成分分析法(Principal Component Analysis,PCA)相结合,形成了PCA-改进神经网络算法。同时,采用Matlab软件对四类音乐信号进行分类实验。实验结果表明,改进算法比标准算法的稳定识别率提高2.6%,当稳定识别率达到90%时,用时节省75%,表明该算法可以加快网络的收敛过程,提高泛化能力。     

基于改进白名单过滤的跨网入侵检测仿真

为了有效提升传统入侵检测方法的检测效率,提出基于改进白名单过滤的跨网入侵检测方法。首先,组建有效的数据存储结构,设定相应的白名单规则及配置对报文数据进行初次过滤;然后,采用神经网络对白名单规则进行完善,将训练学习结果输入到过滤器中,二次过滤不符合白名单规则的报文数据;提高跨网异常通信检测率。最后,以粒子群优化算法为基础,引入自适应变异过程优化BP神经网络训练参数,避免BP神经网络训练学习结果陷入局部最优,保证检测结果的有效性。实验结果表明,与传统方法相比,所提方法的检测效率有很大程度的提升。     

基于改进模糊神经网络的PID参数自整定

针对传统PID整定控制效果差且单纯神经网络整定存在参数学习和调整困难等问题,提出了一种基于改进模糊神经网络的PID参数整定方法。在该方法中,PID控制器的控制参数采用基于Mamdani模型的模糊神经网络进行自适应整定,模糊神经网络参数采用混沌遗传算法离线粗调和BP算法在线细调的方式进行学习和调整,仿真结果表明该整定策略动态响应快、误差控制精度高且网络中各节点及参数物理意义明确。最后分别从模糊规则数的变化及适应度函数的选取两方面提出两种优化方案,仿真结果表明增加模糊规则数或采用不同的适应度函数都有利于进一步减小控制误差。     

Prediction and identification using wavelet-based recurrent fuzzy neural networks

This paper presents a wavelet-based recurrent fuzzy neural network (WRFNN) for prediction and identification of nonlinear dynamic systems. The proposed WRFNN model combines the traditional Takagi-Sugeno-Kang (TSK) fuzzy model and the wavelet neural networks (WNN). This paper adopts the nonorthogonal and compactly supported functions as wavelet neural network bases. Temporal relations embedded in the network are caused by adding some feedback connections representing the memory units into the second layer of the feedforward wavelet-based fuzzy neural networks (WFNN). An online learning algorithm, which consists of structure learning and parameter learning, is also presented. The structure learning depends on the degree measure to obtain the number of fuzzy rules and wavelet functions. Meanwhile, the parameter learning is based on the gradient descent method for adjusting the shape of the membership function and the connection weights of WNN. Finally, computer simulations have demonstrated that the proposed WRFNN model requires fewer adjustable parameters and obtains a smaller rms error than other methods.     

Neural networks that learn from fuzzy if-then rules

An architecture for neural networks that can handle fuzzy input vectors is proposed, and learning algorithms that utilize fuzzy if-then rules as well as numerical data in neural network learning for classification problems and for fuzzy control problems are derived. The learning algorithms can be viewed as an extension of the backpropagation algorithm to the case of fuzzy input vectors and fuzzy target outputs. Using the proposed methods, linguistic knowledge from human experts represented by fuzzy if-then rules and numerical data from measuring instruments can be integrated into a single information processing system (classification system or fuzzy control system). It is shown that the scheme works well for simple examples     

改进PSO优化BP神经网络的混沌时间序列预测

为提高BP神经网络预测模型的预测准确性,提出了一种基于改进粒子群算法优化BP神经网络的混沌时间序列预测方法。引入自适应变异算子对陷入局部最优的粒子进行变异,改进了粒子群算法的寻优性能; 利用改进粒子群算法优化BP神经网络的权值和阈值,训练BP神经网络预测模型求得最优解。将该预测方法应用到几个典型的非线性系统的混沌时间序列进行有效性验证,结果表明了该方法对典型混沌时间序列具有更好的非线性拟合能力和更高的预测准确性。