前馈式神经网络的最小二乘学习算法

通过对 Sigmoid 函数求逆,把非线性极值问题转化为线性方程组来处理,巧妙地避开了梯度,从而可以克服 BP 算法的一些缺点,提高了算法的收敛速度.同时采用最小二乘法来求解方程组,进一步提高了收敛速度.算法的计算过程为每次处理一个节点的所有前一层连接权,轮换处理,直到收敛到最小点.     

基于遗传LM算法的前馈神经网络优化训练

本文采用遗传学习算法和LM（Levenberg-Decquardt)算法相结合的混合算法来训练前馈人工神经网络(Feed Forward Network)，即先用遗传学习算法进行全局寻优，再用LM算法进行精确训练，使网络避免局部极小并加快网络的收敛速度。     

基于前馈式神经网络的化工设备维修决策

基于前馈式神经网络模型，提出了一种新的化工设备维修决策方法，根据设备的各种状态因素，判断出设备应用属维修等级，制定相应维修策略，数值模拟表明，此法具有高效性，准确性和智能性。     

一种高效二进前馈神经网络学习算法

为解决二进前馈神经网络(BFNN)缺乏高效实用学习算法的问题,提出一种新的融合自适应调节结构和权值的BFNN学习算法.该算法借鉴并改进了极限学习机(ELM)方法,可以高效地训练单隐层的BFNN来解决分类问题.为了满足网络的训练精度,算法可以自动增加隐层神经元个数和调节网络隐层及输出层神经元权值;同时为了提高网络的泛化精度,算法通过建立二进神经元敏感性作为度量隐层神经元重要性的尺度,自动地裁剪重要性小的神经元,并对裁剪损失的信息进行补偿.实验结果验证了该算法在处理离散分类问题时的可行性和有效性.     

前馈神经网络混合学习算法研究

提出了一种前馈神经网络混合学习算法。该算法综合考虑了影响神经网络性能的３个主要因素：权值、激励函数和拓扑结构。该算法以参数神经网络和结构学习为基础,并采用了学习速率矩阵。对双螺旋问题的仿真实验结果表明,该算法具有较快的收敛速度。     

提高前馈神经网络学习效率的学习算法探讨

简要分析了最速下降法（Ｓｔｅｅｐｅｓｔ Ｄｅｓｃｅｎｔ Ａｌｇｏｒｉｔｈｍ ,即ＳＤＡ 法）和正交校正共轭梯度法（ＣＧＭ－ＯＣ法）的优缺点,提出了一种进行多层前馈神经网络学习的新算法,即ＳＤ－ＣＧＭ－ＯＣ算法．该算法结合最速下降法与正交校正共轭梯度法的特点,在文中所述实际问题构造模型的基础上,论证了ＳＤ－ＣＧＭ－ＯＣ算法比传统的ＢＰ算法具有更高的学习效率和二次收敛率．实验结果验证了该学习算法的有效性．     

前馈神经网络BP算法瓶颈析

通过对前馈神经网络的广义δ规则进行分析，找到了ＢＰ算法收敛速度慢且易陷于局部最小的症结所在，在此基础上，提出了用正弦三角函数代替Ｓｉｇｍｏｉｄ函数作为隐层神经元特性函数的技术途径．模拟实验结果表明，新的特性函数使相同结构的神经网络具有更快的收敛速度．     

约束最小二乘问题的迭代算法

主要目的是研究约束最小二乘问题的某些基本性质和迭代算法。     

曲线数据压缩的总体最小二乘算法

在曲线数据压缩的Ramer-Douglas-Peucker (RDP)算法中,只有那些垂距大于限差的点得以保留,而原始曲线上所有其他点则会被删除,这就使得压缩后的数据在保留点和删除点处精度不一致．通过采用总体最小二乘法对原始数据进行分段拟合,提高了压缩数据的精度．实验结果表明,与RDP算法相比,该算法可以更好地逼近原始数据,特别是当给定限差较大时,相对RDP算法的精度改善更为明显．     

基于LS-SVM和BP神经网络组合模型的GPS高程拟合

提出了最小二乘支持向量机（LS-SVM）与BP神经网络的最优加权组合模型。通过实测数据对比分析了LS-SVM、BP神经网络、基于总体最小二乘算法（TLS）的二次多项式曲面拟合和最优加权组合模型的精度,结果表明最优加权组合模型的精度优于其他模型。     

前馈神经网络新型综合算法

为了实时解决前馈神经网络学习过程中可能遇到的小残量问题和大残量问题,引入QuasiNewton优化算法,并与GaussNewton法相结合,构建基于GaussNewton QuasiNewton法的前馈神经网络.根据每次迭代的结果判断属于大残量问题还是小残量问题,进而选择采取GaussNewton迭代步或QuasiNewton迭代步.与基于最速下降法的经典前馈神经网络以及与基于GaussNewton法的前馈神经网络的对比实验表明,所构造的基于Gauss Newton QuasiNewton法的前馈神经网络较好地解决了残量问题,具有良好的收敛性和稳定性.     

A new PQ disturbances identification method based on combining neural network with least square weighted fusion algorithm

Power quality (PQ) has been an important con-cern for utility, facility and consulting engineers in re-cent years. With the development of modern industrytechnology, especially thatof electronic and informationtechnology, the end-use equipment sensitive to PQdis-turbances are widely used in many areas. They requirenot only the conventional static PQ disturbances, suchas harmonics, voltage fluctuations, voltage deviation,frequency deviation and unbalance, but also the dy-namic PQ disturbance…     

BP神经网络Vogl快速算法的改进

针对 BP算法收敛速度慢的特点 ,提出了对 V ogl快速算法的改进方法 .实践证明此改进方法使BP算法的收敛速度得到了较大的改善     

BP网络的SPDS训练算法的鲁棒性

证明了作为BP网络的训练算法之一的SPDS算法在收敛的同时具有鲁棒性这一良好性质、实例也 证明了SPDS算法较之BP算法在鲁棒性问题上有较大进步．     

正交投影神经网络的BP和GS杂交学习算法

主要讨论具有单隐层的正交投影神经网络的权值和阈值的学习问题,提出了一种新的将BP算法和GS算法相结合的杂交学习算法,其中GS算法对隐层到输出层的权值和阈值进行学习,BP算法用于输入层到隐层权值的学习,并给出一种最佳的隐层节点数的选取方法．仿真实验表明,该杂交学习算法具有学习速度快且能获得全局最优解的特点,并可有效地对学习过程中出现的病态情况进行求解,具有良好的普适性。     

粗糙集模糊神经网络软件质量预测

以面向对象的软件度量为研究对象,首先采用SOM神经网络离散化度量元因子矩阵数据,接着对于得到的离散化的矩阵数据采用粗糙集理论的属性约简算法进行属性约简,然后根据约简得到规则构造模糊神经网络的网络结构,并采用BP算法对网络进行训练,最后通过仿真实验验证了该算法。     

一种快速有效的神经网络新算法

基于输出层函数为线性函数的层前馈神经网络,结合自适应步长和动量解耦的伪牛顿算法及迭代最小二乘法导出了一种混合算法。伪真证明该混合算法自适应能力强,计算量小,收敛速度快,是一种有效的工程实用算法。     

基于差分进化的BP神经网络在纱线质量预测中的应用

为了提高BP神经网络在纱线质量预测上的精度,采用差分进化算法训练BP神经网络,利用差分进化算法的全局寻优能力优化BP神经网络的权值和阈值,建立了反映纱线质量的重要指标——单纱强度和条干CV%的神经网络预测模型.对真实数据的测试表明该算法效果良好,提高了BP神经网络算法的预测精度,能够为企业的纱线质量预测提供有效支持.