前向网络学习算法：学习速率矩阵法

本文针对前向网络ＢＰ算法存在的收敛工慢，数值稳定性较差，网络学习困难等主要缺陷，提出用非线性优化理论中的ＢＦＧＳ方法的构造学习速率阵，以替代原来的学习速率常数，并且输入一组样本改变一次权值向量。从而使网络训练时收敛速度极快，数值稳定性好且算法易并行化。文中对ＬＲＭ，ＢＰ，改进ＢＰ算法的收敛性，数值稳定性，计算复杂度等进行了讨论。对异或（ＸＯＲ）问题和六位进制数对称性判别问题进行了仿真比较，结果表明     

基于BP神经网络的TRIZ理论冲突矩阵

使用Matlab ANN工具箱，将传统TRIZ理论的核心——冲突矩阵变换为一个以工程参数及其冲突为输入层，以冲突解决原理为输出层，并包括一个隐含层的三层BP人工神经网络模型。该模型基于具有较快收敛速度的改进BP算法——弹性反馈学习算法RPROP，利用已有的发明实例和问题解决方案作为学习样本，使模型的建立及修正更加容易，新问题的解决更具有针对性，为企业应用TRIZ提供一种较为简便的实用方法。根据问题的规模和计算需求确定了网络模型的详细参数，具体给出了由实例到样本的抽象过程。最终运行的结果显示了较好的收敛性和较快的收敛速度，证明了该方法的可行性。     

BP神经网络结点数选取的改进方法及其应用

提出一种改进的隐含层神经元个数的选取方法．该方法基于隐含层神经元输出之间的相关关系,估计隐含层结点数,把隐含层结点的改进算法用于物种选取的实例中,通过MATLAB编程实现,并与回归分析做出的结果进行比较．结果表明,该方法对建立BP神经网络结构有一定的借鉴作用．     

BP神经网络预测方法的改进及其在隧道长期沉降预测中的应用

对已有的BP神经网络预测方法做了进一步的改进,通过对比选取了最优的网络训练模式和传递函数;利用反复训练和统计学原理推导了适用于确定单个隐含层神经元个数的解析式,并提出了与其相适应的归一化方法、最优归一区间和最优隐层神经元个数的取值范围;指出当输入神经元大于3个时,采用具有双隐含层结构的BP神经网络进行预测的效果远好于单个隐含层结构.对隧道结构整体沉降进行了预测,效果满意,为合理选择后续施工工艺提供了依据.     

一种三层前向网络参数的解析计算方法

介绍了用解析法计算三层前向网络参数的方法，给出了一个三层前向网络准确记忆给定样本所需隐层节点个数的充分条件，也可用解析法计算的参数作为ＢＰ等算法的训练初值，仿真结果说明这种方法是有效的。     

温补晶振的热敏网络分析及参数计算

论述了温度补偿石英晶体振荡器的工作原理，对几种常见温度补偿网络进行试验分析，利用Ｎｅｗｔｏｎ等方法计算热敏网络参数并给出微机辅助设计。     

BP神经网络在MATLAB上的方便实现

ＢＰ神经网络已广泛应用于非线性建摸，函数逼近，模式分类等方面。但对解决具体问题而言其模型结构的确定，每层神经元个数的选择无现成的规律可供遵循，必需由实验确定。由于ＢＰ网络收敛速度慢，计算量大，无形中要增加实验编程工作量本文介绍了 目前较为流行的工程计算软件ＭＡＴＬＡＢ进行ＢＰ网络建立，训练，仿真的编程方法，并给出应用示例和应用注意事项。     

一种基于DCT边缘模式分类的神经网络图象编码方法

对神经网络应用于图象数据的压缩编码进行了研究和分析，提出了一种基于ＤＣＴ边缘模式分类的神经网络图象编码方法，分析了网络中隐蔽层节点数与网络的记忆能力之间的关系，在网络的学习训练过程中，采用了一种多层前向网络的快速学习算法，并对其计算进行了进一步简化。初步实验结果表明，采用该方法较好地保持了图象中的边缘信息。     

基于结构平衡理论和高阶互信息的符号网络表示学习算法

提出了一种基于结构平衡理论和高阶互信息的符号网络表示算法SNSH，通过反转符号网络中的正负关系生成负图，来挖掘符号网络中隐含的高阶互信息。该方法旨在通过加强的社会平衡理论来模拟符号网络的局部隐含特征，并通过节点局部嵌入、网络全局结构和节点特征属性三者之间的高阶互信息，得到更全面的符合符号网络特性的节点嵌入。     

人工神经网络在双向板弹性内力计算中的应用

将人工神经网络技术应用于结构内力分析，介绍了前馈型BP神经网络的模型及其算法，在分析双向板弹性内力时，建立了一个三层的BP网络，将该网络进行训练后计算四边简支双向板跨中弹性最大弯矩，在分析时，为了增强网络的推广能力，还以权值的修正量作为参考的收敛标准，同时，为了加快学习速率而不导致振荡，还采用了增加动量系数的方法来修改反传中的学习速率，BP网络的分析程序采用Matlab编制，计算结果表明人工神经网络在结构分析中具有良好的适用性。     

一种优化神经网络结构算法

给出了一种优化三层神经网络结构算法。首先以较大隐层节点数进行学习，然后根据隐层输出信息提取各节点之间的线性特征来优化隐层节点数。对隐层输出信息提取各节点之间的线性特征，给出了两种方法：一种是在ＢＰ神经网络迭代后用自适应线性单元来提取隐层输出各节点之间线性特征，另一种是在ＢＰ神经网络迭代时就尽量使隐层输出各节点之间呈线性，然后用上种方法来提取隐层输出各节点之间线性特征。实例验证，后一种比前一种能更好地优化ＢＰ神经网络结构。     

基于神经网络学习控制的图像挖掘算法

针对传统神经网络算法进行图像分类识别时收敛速度慢,学习过程中可能出现震荡甚至收敛于局部极小值的情况,提出了一种小波变换融合神经网络的图像分类识别方法.利用高斯小波基函数取代神经网络隐含层中的隐节点函数,采用小波神经网络参数初始化方法和改进的模拟退火算法自适应调整学习过程中的网络权值参数,从而解决了神经网络的学习效率低等情况.结果表明,本文方法对5类动物图片的正确分类识别率为84.0%,较传统神经网络和稀疏表示的正确分类识别率提高了4.2%和6.1%.     

驾驶员因素与交通事故率的关联性

驾驶员因素是导致交通事故发生的主要因素之一．综合考虑年龄、性别、累计驾驶时间、生理状况等多个驾驶员特征参数,通过问卷调查的方式,利用BP神经网络分析技术,建立具有不同隐含层、神经元个数、作用函数的神经网络结构,对驾驶员因素与交通事故二者之间的内在关联性进行研究,确定最优的神经网络结构对事故率进行预测．结果表明,采用BP神经网络对驾驶员交通事故率预测可行,同时明确了易发交通事故的驾驶员子组．     

Forecasting increasing rate of power consumption based on immune genetic algorithm combined with neural network

Considering the factors affecting the increasing rate of power consumption, the BP neural network structure and the neural network forecasting model of the increasing rate of power consumption were established. Immune genetic algorithm was applied to optimizing the weight from input layer to hidden layer, from hidden layer to output layer, and the threshold value of neuron nodes in hidden and output layers. Finally, training the related data of the increasing rate of power consumption from 1980 to 2000 in China, a nonlinear network model between the increasing rate of power consumption and influencing factors was obtained. The model was adopted to forecasting the increasing rate of power consumption from 2001 to 2005, and the average absolute error ratio of forecasting results is 13.521 8%. Compared with the ordinary neural network optimized by genetic algorithm, the results show that this method has better forecasting accuracy and stability for forecasting the increasing rate of power consumption.     

神经网络用于系统辨识的一种最小二乘法

讨论了用多层前向神经网络建立非线性系统模型的机理,然后通过对多层前向神经网络特点的分析,给出了一种基于线性最小二乘法的神经元网络训练方案。在该方案中,通过梯度法获取隐层神经元的输入,使用线性最小二乘法训练各神经元的权值和阈值。仿真结果表明该方案具有精度高、收敛速度快等特点。     

基于RBF -BP神经网络融合的医学数据分类研究

为改善传统的反向传播(BP)神经网络和径向基函数(RBF)神经网络的学习能力和分类性能的不足,提出一种融合RBF网络与BP网络的混合神经网络算法(HRBF -BP),并将其应用到医学数据分类问题中.在网络结构的实现上,将RBF隐藏层与BP隐藏层进行级联融合,即在连接BP网络输入层与隐藏层之间加入RBF核映射层; 在学习算法的实现上,先采用k-均值聚类算法来实现RBF核参数的估计,然后再使用基于随机梯度下降的BP算法实现级联BP网络的权值优化.将该算法与SGBP、KMRB、PFRBF等算法在不同的医学数据集上进行分类实验对比表明,该方法的网络训练精度以及测试精度均优于SGBP、KMRB、PFRBF算法; 因此,该方法对提高BP网络和RBF网络的学习能力和分类性能具有良好的参考价值.     

人工神经网络BP算法的改进及其应用

对传统的ＢＰ算法进行了改进,提出了ＢＰ神经网络动态全参数自调整学习算法,又将其编制成计算机程序,使得隐层节点和学习速率的选取全部动态实现,减少了人为因素的干预,改善了学习速率和网络的适应能力。计算结果表明：ＢＰ神经网络动态全参数自调整算法较传统的方法优越,训练后的网络模型不仅能准确地拟合训练值,而且能较精确地预测未来趋势。     

基于Spiking的RBF神经网络故障诊断算法

神经网络是一种不依赖模型的控制方法,其自身并不需要给定预先需要的有关先验知识和判断函数,因此能对变化的环境（包括扰动和噪声信号等等）具有良好的自适应性.RBF神经网络是具有单隐层的三层前馈网络,由输入到输出的映射是非线性的,而隐含层空间到输出空间的映射是线性的.其优点在于收敛速度快,具有唯一最佳逼近的特性,且不会陷入局部最小的问题.Spiking神经网络采用时间编码的方式来进行数据处理,更接近于实际生物神经系统.基于Spiking的RBF神经网络在预测精度和误差控制上有着显著的效果.     

模式神经元网络的聚类方法研究

为了更好地模拟人脑对事物的学习、认知过程,笔者提出了模式神经元网络的聚类规则和方法,从而完善了这种新型的神经网络模型。与现有的人工神经网络不同,模式神经元网络不需要反复迭代就能达到学习、识别、分类的效果。实验结果表明：与自适应共振理论相比,模式神经元网络的学习效率快,识别精度高,分类效果也比较好。