基于粗糙集的神经网络结构优化方法

针对神经网络的结构存在冗余的问题,提出了一种利用粗糙集优化神经网络结构的方法。在保持神经网络处理能力的基础上,利用网络的隐层神经元与网络误差构造决策表并进行属性约简,删除冗余的隐层节点。实验证明,该方法可以简化神经网络结构和减少神经网络的训练时间。     

一种新的小波神经网络结构优化设计方法

针对基于框架的小波神经网络存在的网络冗余性较大的问题, 提出一种基于粗糙集理论的网络结构优化设计方法. 首先通过时频分析确定小波神经网络的初步构造; 在此基础上, 根据网络输出对隐层节点依赖度的大小去除冗余的隐层节点, 达到优化网络结构的目的, 仿真结果表明该方法是简单而有效的.     

基于循环自构形算法的神经网络结构优化

BP(back propagation)神经网络中隐层节点的个数过多将影响网络的泛化性能和效率,自构形学习算法通过考察网络隐层节点输出之间的相关性来删除和合并隐层节点.但自构形算法在节点的删除和合并时存在网络收敛不一致问题,因此,在自构形算法中引入随机度概念,在分治算法思想的基础上提出了循环自构形算法来优化网络结构.Matlab实验对比验证了循环自构形算法能从不同或相同的隐层节点数剪枝到一致的网络结构,并将网络结构优化至最精简.     

奇偶校验问题的二进神经网络学习算法

二进神经网络可以完备表达任意布尔函数,但对于孤立节点较多的奇偶校验问题却难以用简洁的网络结构实现。针对该问题,提出了一种实现奇偶校验等孤立节点较多的一类布尔函数的二进神经网络学习算法。该算法首先借助蚁群算法优化选择真节点及伪节点的访问顺序;其次结合几何学习算法,根据优化的节点访问顺序给出扩张分类超平面的步骤,从而减少隐层神经元的数目,同时给出了隐层神经元及输出元的表达形式;最后通过典型实例验证了该算法的有效性。     

神经网络传递函数的功能分析与仿真研究

从函数映射的角度,以三层前向神经网络为例,对神经网络的映射关系进行了分析,提出前向神经网络的映射关系可以视为一种广义级数展开,展开系数就是隐层与输出层的连接权,而传递函数的作用在于提供一个“母基”,它与输入到隐层间的连接权一起,构造了不同的展开函数。根据这一理论,着重对神经网络传递函数在映射中的作用进行了分析,指出如果灵活选择多个复合传递函数,可以使网络以更少的参数、更少的隐节点,完成从输入到输出的映射,从而提高神经网络的泛化能力。利用遗传优化对一个两类分类问题的训练仿真结果表明,采用混合传递函数,的确能够以更少的隐节点实现所需要的映射关系,网络结构的复杂度低,泛化能力也更好。该结果也进一步证实了神经网络映射关系的广义级数展开的正确性。     

确定RBF神经网络隐层节点数的最大矩阵元法

针对基于训练样本输入信息进行非监督聚类来确定RBF神经网络隐层节点数的方法存在利用信息不充分的缺陷,该文提出了一种新的确定RBF神经网络隐层节点数的方法。利用训练样本输入输出全部信息建立样本间的相似矩阵,然后采用最大矩阵元法来确定RBF神经网络隐层节点数。实验仿真表明,该方法是有效的。     

RBF神经网络的混合微粒群学习算法

在分析RBF神经网络的结构特点基础上, 定义一个布尔向量L作为网络的结构参数, 与原来RBF神经网络的隐节点参数集一起构成了新的RBF网络隐节点参数集{c,σ, L}, 并给出了一个新的RBF网络输入输出关系表达式;采用一种混合协同微粒群算法同时对RBF网络拓扑结构和隐层节点参数进行优化设计,并将输出线性参数集分离后采用最小二乘法进行优化设计,简化了优化空间,加速了算法的收敛速度.     

基于遗传算法的RBF神经网络的优化设计方法

该文提出了一种新的RBF神经网络的设计方法，采用遗传算法对RBF神经网络的隐层节点中心值进行进化优选，用自适应梯度下降法选择隐层节点高斯函数的宽度，用递推的最小二乘法训练RBF神经网络的权值，仿真结果证明了该方法的有效性。     

基于灰关联和灵敏度的BP网络隐含层结构优化

在优化BP神经网络隐含层结构时,采用灰关联剪枝法是每次删除灰关联度小于灰关联阈值的隐节点,该方法学习时间短,但由于灰关联阈值的选取具有一定的主观性,可能会导致误删节点或不能完全删除冗余节点;而采用灵敏度剪枝法是每次只删除灵敏度最小的一个隐节点,放学习时间较长;因此,提出一种基于灰关联——灵敏度的BP神经网络隐含层结构调整算法;首先在网络前期学习过程中,采用灰关联法对隐含层节点进行"粗删",直到剩余隐节点的灰关联度都大于动态灰关联闽值,然后在网络后期学习过程中,采用灵敏度剪枝法对隐含层节点进行"细删",直到删除后的学习误差增大,则保留该节点,并结束学习;文章将结构优化后的神经网络应用于风电功率预测,仿真结果表明,该方法在满足学习误差要求的同时,不仅精简了神经网络结构,而且避免了灰关联剪枝法中灰关联阈值精确选取困难所带来的问题。     

基于RBF神经网络的最经济控制研究

为有效解决系统的最经济控制问题,本文提出将系统的经济收益问题转换为对系统控制结构和参数的优化问题。首先提出将网络代价的概念植入径向基函数神经网络(RBF网络)结构的优化中,对神经网络的隐层激活函数和隐层节点数进行选择;再用改进的遗传算法实现RBF网络参数的优化,从而实现神经网络的最经济控制;最后通过实例验证,表明设计的算法与BP网络的最经济控制相对比,具有明显的优越性。     

基于模拟退火优化BP神经网络的PH值预测

为自动准确测定水质p H值,采用大量的具有代表性的p H值检测数据为样本,提出了一种基于模拟退火优化BP神经网络的p H值预测方法。利用模拟退火算法优化BP网络的权值,调整优化样本的选取和隐层神经元数,训练BP神经网络预测模型得到最优解。由测试样本对网络进行了预测试验,并与非线性回归的预测结果进行了对比。结果表明,该方法对水质p H值预测具有较好的非线性拟合能力和更高的预测准确性。     

基于布谷鸟搜索优化BP神经网络的网络安全态势评估方法

针对现有基于神经网络的网络安全态势评估方法效率低等问题,提出基于布谷鸟搜索（CS）优化反向传播（BP）神经网络（CSBPNN）的网络安全态势评估方法。首先,根据态势输入指标数和输出态势值确定BP神经网络（BPNN）的输入输出节点数,根据经验公式和试凑法计算出隐含层节点数;然后,随机初始化各层的连接权值和阈值,使用浮点数编码方式将权值与阈值编码成布谷鸟;最后,使用CS算法对权值和阈值进行优化,得到用于态势评估的CSBPNN模型并对其进行训练,将网络安全态势数据输入到CSBPNN模型中,获取网络的安全态势值。实验结果表明,与BPNN和遗传算法优化BP神经网络方法相比,基于CSBPNN的网络安全态势评估方法的迭代代数分别减少943和47且预测精度提高8.06个百分点和3.89个百分点,所提方法具有较快的收敛速度和较高的预测精度。     

免疫神经网络在固井质量预测中的应用研究

为了克服传统BP网络收敛速度慢,隐含层节点数不确定等缺点,将免疫算法与BP网络理论相结合,提出了应用免疫神经网络建立固井质量预测模型.在免疫神经网络算法实现中,增添了抗体浓度进行免疫调节,提高了群体的多样性.仿真结果表明,方法比BP网络建立的模型具有更短的训练时间和更高的预测精度,能够提高固井质量,实现固井质量的预测和跟踪分析,对固井中各种未知信息的预测有着较好的适用性,为固井质量预测提供了一种新方法.     

一种改进的RBF神经网络参数优化方法

提出了一种改进的RBF神经网络参数优化算法。通过资源分配网络算法确定隐含层节点个数,引入剪枝策略删除对网络贡献不大的节点,用改进的粒子群算法对RBF网络的中心、宽度、权值进行优化,使RBF网络不仅可以得到合适的结构,同时也可以得到合适的控制参数。将此算法用于连续搅拌釜反应器模型的预测,结果表明,此算法优化后的RBF网络结构小,并且具有较高的泛化能力。     

基于快速确定隐层神经元数的BP神经网络算法

根据多项式理论构造一种以正交多项式作为隐层神经元激活函数的PP神经网络模型。针对该网络提出一种算法,即一种隐层的激励函数为正交多项式及其神经元数目可快速确定的算法。首先通过数学证明从理论上验证了该算法的有效性。然后利用计算机对该算法进行仿真与校验,并与传统的PP算法进行比较。结果表明该算法不仅突破了传统PP神经网络的局限性,如收敛速率慢、最佳隐神经元数难确定等,而且能够达到更高的工作精度,从而从实验上验证了该算法的有效性。     

基于交变粒子群BP网络的电力系统短期负荷预测

短期负荷预测是电力系统正常运行的关键环节,合理的发电计划依靠准确的负荷预测,因此提出交变粒子群算法来优化BP网络模型以预测电力短期负荷。针对 依靠先前的经验 来确定BP神经网络的权值缺少理论依据的问题,采用交变粒子算法优化BP神经网络权值,以减少通过神经网络预测模型求解电力短期负荷预测带来的误差。实验证明,经过优化的BP神经网络预测模型比传统的BP神经网络预测模型的误差更小,更加接近实际电力负荷。     

基于GS-LSTM模型的铁路货运量预测

铁路货运量预测的准确性对铁路运输企业制定营销计划和营销决策来说是必要的,尤其是短期铁路货运量的影响至关重要。为了提高铁路货运量的预测精度,提出一种优化长短期记忆网络(Long-Short Term Memory,LSTM)参数的预测模型——GS-LSTM模型,通过利用网格搜索算法(Grid Search)对LSTM模型训练网络中最主要的参数(批量大小、隐含层神经单元个数和学习率)进行优化。基于2005年1月—2021年7月的铁路货运量月度数据,首先建立BP和LSTM模型对预测结果进行比较,LSTM模型比BP模型的MAPE降低1.55个百分点,然后分别对BP和LSTM模型的网络参数进行优化后再进行比较,优化后的2种模型比基础模型的预测效果均有提高,而且优化后的LSTM模型比BP模型的MAPE又进一步降低0.18个百分点。实验结果显示,优化后的LSTM模型预测效果更佳,泛化能力更好,具有很好的研究和使用价值。     

基于贝叶斯正则化BP人工神经网络的煤与瓦斯突出预测的研究

文章介绍了BP人工神经网络和贝叶斯正则化算法的原理,探讨了贝叶斯正则化BP人工神经网络模型的建立,通过改变隐含层神经元个数的实验建立了只含1个隐含层且隐含层仅需1个神经元的煤与瓦斯突出预测模型的最佳网络结构。对该网络采用煤与瓦斯突出的预测指标进行训练、检测的结果表明,该网络预测的煤与瓦斯突出的危险程度与实际情况完全吻合;对该网络输入层输入的煤与瓦斯突出的预测指标、对输出层输出的预测结果的权值进行分析的结果表明,煤层地质构造类型对煤与瓦斯突出的影响为最大。上述研究结果对煤与瓦斯突出的预测预防研究、提高煤与瓦斯突出预测的准确性具有一定的参考价值。     

改进BP3参数对网络识别能力影响的研究

分别从BP网络的学习步长,学习速率自适应调整算法的参数,动量法和自适应学习速率结合起来算法的参数3方面讨论了改进BP参数对网络识别能力的影响;在确定BP网络的隐含层节点个数的过程中提出了BP神经网络自适应学习算法,使得隐层节点的选取动态实现。仿真实验表明,该改进是可行的。     

改进的自适应遗传算法在人体行为识别中的应用

为提高传统自适应遗传算法优化的BP神经网络对人体行为的识别率,提出了一种改进的自适应遗传算法优化的BP神经网络预测方法.该算法使用新的动态变化的交叉和变异分布指数计算公式来优化传统的二进制交叉和多项式变异操作,根据种群集中和分散的剧烈程度自适应地增大或减小交叉和变异的概率,极大地弥补了传统的交叉和变异操作所造成的破坏优...