基于统计分析的分阶段进化神经网络方法

基于统计分析和分阶段进化，提出一种新的进化神经网络设计方法．本文方法 的进化过程分三个阶段：第一阶段，首先按训练样本统计特性设计较小规模的神经网络；第 二阶段，引入所有训练样本，在第一阶段的基础上，逐步扩展网络结构，新添加的神经元总 是单独训练并以抵消原网络的输出误差为其训练目标，直至训练网络达到误差要求．第三阶 段，利用统计方法，将网络中非线性变换作用相似的神经元合并，简化网络结构．本文方法 一方面减轻了进化算法的压力,另一方面指出了网络进化的方向使得进化网络的学习过程不 再是黑箱问题．计算机仿真实验表明，该方法是有效的．     

一种求解约束优化问题的进化算法及其工程应用

提出一种改进的用于求解约束优化问题的进化算法.该算法利用混沌方法初始化个体以保证其均匀分布在搜索空间中.在进化过程中,将种群分为可行子种群和不可行子种群,分别采用不同的交叉和变异操作,以平衡算法的全局和局部搜索能力.标准测试问题的实验结果表明了改进算法的有效性.最后将改进算法应用到两个工程优化设计问题中,得到了满意的结果.     

利用单形进化优化的BP神经网络学习算法

在BP神经网络训练算法中,针对权值的优化学习容易陷入局部极值点、收敛速度慢等问题,很多研究引入智能优化算法对其进行改进,但传统的智能优化算法通常有多个控制参数,若不能正确选取参数,或者没有适当选择初始点位置,则很难搜索到最优的神经网络权值。为了解决这些问题,提出一种基于单形进化的BP神经网络学习算法,它通过全随机搜索减少算法的控制参数,利用群体的多角色态保持粒子的多样性,避免算法陷入局部的极值点,减少了对初始值的依赖。在应用中,将该算法应用于神经网络的训练算法中,通过对UCI数据集和人脸图像的测试,实验结果表明,上校算法训练的神经网络有效提高了识别率与训练效率。     

神经网络主动学习的进化算法

1 引言近年来,神经网络的研究取得了很大进展,特别是,为了克服传统的BP学习算法的缺陷,即学习速度慢和人为给定的拓扑结构对特定学习任务的不适应性,而发展的自适应神经网络的增长策略,它通过不断地增长隐节点或子网来满足给定学习任务的复杂性要求。这种神经网络的增长算法不仅克服了人为指定的拓扑结构的困难,而且由于其结构过程所固有的模块化训练特性,也缓解了传统的BP算法训练速度慢的突出问题。由于神经网络训练程度很难把握,许多算法往往过分强调训练结果而牺牲泛化结果,致使网络的过拟合问题严重。为了克服过拟合问题,研究者们采用了多网络合作模型,由于多个网络的平均效应,可以避免单个     

利用人工鱼群算法优化前向神经网络

人工鱼群算法(AFSA)是一种最新提出的新型的寻优策略，文中尝试将人工鱼群算法用于三层前向神经网络的训练过程，建立了相应的优化模型，进行了实际的编程计算，并与加动量项的BP算法、演化算法以及模拟退火算法进行比较，结果表明AFSA具有鲁棒性强，全局收敛性好，以及对初值的不敏感性等特点。     

生产调度优化问题文化进化算法研究

许多生产调度优化问题属于NP-hard问题,其求解通常采用智能启发式算法。基于文化算法及文化进化思想设计的文化进化算法,通过上层文化空间的经验知识指导下层个体进化搜索的方向及步长,通过模拟人类社会文化进化的机制实现文化空间的进化与更新,最后将算法应用到置换Flow shop问题的求解,用Matlab编程仿真测试,结果表明此算法解决生产调度优化问题是可行的,而且其全局搜索性能优于一种改进的GA算法。     

约束优化进化算法

约束优化问题是科学和工程应用领域经常会遇到的一类数学规划问题.近年来,约束优化问题求解已成为进化计算研究的一个重要方向.从约束优化进化算法=约束处理技术+进化算法的研究框架出发,从约束处理技术和进化算法两个基本方面对约束优化进化算法的研究及进展进行了综述.此外,对约束优化进化算法中的一些重要问题进行了探讨.最后进行了各种算法的比较性总结,深入分析了目前约束优化进化算法中亟待解决的问题,并指出了值得进一步研究的方向.     

约束优化进化算法综述

约束优化进化算法主要研究如何利用进化计算方法求解约束优化问题,是进化计算领城的一个重要研究课题.约束优化问题求解存在约束区域离散、等式约束、非线性约束等挑战,其问题的本质是如何处理可行解与不可行解的关系才能使得算法更高效.本文首先介绍了约束优化问题的定义,然后系统地分析了目前存在的约束优化方法,同时基于约束处理机制将这些方法分为罚函数法、可行性法则、随机排序法、约束处理法、多目标优化法、混合法六类,并从约束处理方法的方面对约束优化进化算法的最新研究进展进行综述.最后,指出约束优化进化算法需进一步研究的方向与关键问题.     

基于进化算法的SFSN神经网络

提出一种基于进化算法的ＳＦＳＮｔＳａｍｐｌｉｎｇＦｒｅｑｕｃｈｅｙ０ｓｅｎｓｉｔｉｖｅ Ｎｅｔｗｏｒｋ）神经网络分类量化方法,该算法把并行全局寻代的进化算法ＥＰ（Ｅｖｏｌｕｔｉｏｎａｒｙ Ｐｒｕｇｒａｍｍｉｎｇ）融合进ＳＦＳＮ神经网络,使神经网络的结构优化与参数优化同时完成。即同时解决了最佳分类数与最佳矢量量化问题。实验结果证实了算法的有效性。     

解决高维优化问题的差分进化算法

针对高维优化问题难以解决并且优化耗费时间长的问题,提出了一种解决高维优化问题的差分进化算法。将协同进化思想引入到差分进化领域,采用一种由状态观测器和随机分组策略组成的协同进化方案。其中,状态观测器根据搜索状态反馈信息适时地调用随机分组策略重新分组;随机分组策略将高维优化问题分解为若干较低维的子问题,而后分别进化。该方案有效地增强了算法解决高维优化问题的搜索速度和搜索能力。经典型的实例测试,并与其他一流差分进化算法比较,实验结果表明:所提算法能有效地求解不同类型的高维优化问题,在搜索速度方面有明显提升,尤其对可分解的高维优化问题极具竞争力。     

新型模糊神经网络模型

分析了已有模糊神经网络模型结构与学习算法的特点,针对它们收敛速度慢、全局逼近能力差等不足,提出了一种新型的模糊神经网络模型,其在模糊化层实现了隶属函数的合成,且结构简单、推理层只有两个节点。实验结果表明该模型具有收敛速度快、全局逼近能力强的优点,具有一定的实用价值。     

基于反馈神经网络的稀疏信号恢复的优化算法

针对稀疏信号的重构问题,提出了一种基于反馈神经网络（RNN）的优化算法。首先,需要对信号进行稀疏表示,将数学模型化为优化问题;接着,基于l₀范数是非凸且不可微的函数,并且该优化问题是NP难的,因此在测量矩阵A满足有限等距性质（RIP）的前提下,提出等价优化问题;最后,通过建立相应的Hopfield反馈神经网络模型来解决等价的优化问题,从而实现稀疏信号的重构。实验结果表明,在不同观测次数m下,对比RNN算法和其他三种算法的相对误差,发现RNN算法相对误差小,且需要的观测数也少,能够高效地重构稀疏信号。     

基于文化量子粒子群的模糊神经网络参数优化

模糊神经网络参数学习是一个函数优化问题。针对已有优化方法收敛精度不高的缺点,提出基于文化量子粒子群算法的模糊神经网络参数优化,并将其应用于混沌时间序列预测。仿真实例结果证实了该算法的优越性。     

一种基于模糊BP神经网络的TDOA定位算法

提出了一种以TDOA量测作为网络输入,定位目标三维空间坐标估计值作为网络输出的模糊BP神经网络定位算法。描述了基于模糊神经网络进行定位的模型结构以及关于BP神经网络待调整参数的递归学习算法。通过仿真实验,分析了输入层节点数目和模糊If-then规则数目对定位精度的影响并将提出的算法与CRLB进行了比较。     

SA-HHGA优化RBF神经网络的方法及应用

提出一种利用模拟退火和混合递阶遗传算法优化RBF神经网络的方法。通过利用混合递阶遗传算法对RBF神经网络的拓扑结构、径向基中心和半径进行参数寻优,引入模拟退火算法对交叉和变异概率进行控制,采用最小二乘法确定网络的输出权值。将此方法应用于典型实例,并与其他四种方法进行对比,通过试验结果证明了该方法的准确率明显优于其他四种方法,方法的可行性和优越性得到验证。     

FPNN:优化的过程神经网络模型及其应用

利用既定条件下过程神经元与傅里叶神经元的等价性,提出一种优化的过程神经网络模型FPNN,并对等价性进行了证明。FPNN网络在保持了过程神经网络模型表达能力和预测准确率的同时,继承了FNN的优点,大大提高了模型的效率。     

优化网络入侵特征库的量子进化算法

针对网络入侵检测系统中入侵特征库的性能普遍较差的缺点,提出了一种优化网络入侵特征库的改进量子进化算法（IQEA）。采用特征向量表示染色体结构,借鉴小生境协同进化思想初始化种群,以个体的匹配程度设计适应度函数,使用动态更新和“优体交叉”策略进化种群。仿真实验表明,IQEA的寻优能力和收敛速度均优于量子进化算法和进化算法,经IQEA优化后的入侵特征库,检测能力强,并具有较好的自适应性。     

动态多路径选择的混合演化算法

动态路径诱导系统（DRGS）是智能运输系统（ITS）研究的一个重要内容,动态路径诱导算法要考虑到全局最优和实时性问题。因此建立了一种包含实时路网信息而且可以针对时间进行离散化处理的路网模型,同时提出了一种用改进的Ford最短路径算法来初始化种群的演化算法,并设计了一组特定的演化算子（选择、交叉、变异）,来求解动态路径诱导系统中的“多准最优路径”。最后,通过数值实验表明了此算法的可行性和有效性。     

基于免疫神经网络的航空设备故障预测研究

为解决武器装备全寿命周期费用高、经济可承受性差的难题,开展航空装备的故障预测技术研究。采用免疫算法改进隐含层激励函数得到免疫神经网络,用以进行装备特征参数的跟踪预测,结果表明免疫算法改进的神经网络可在故障前3小时实现预测,较BP网络性能有较大改善。     

融合成对编码方案及二维卷积神经网络的长短期会话推荐算法

虽然基于循环神经网络（RNN）的会话推荐算法可以有效地对会话中的长期依赖关系进行建模,并且可以结合注意力机制来刻画用户在会话中的主要目的,但它在进行会话建模的过程中无法绕过与用户主要目的不相关的物品,易受其影响以致降低推荐精度。针对上述问题,设计了成对编码方案来将原始输入序列嵌入向量转化为一个三维张量表示,使得非相邻的行为也能够产生联系。通过二维卷积神经网络（CNN）来处理该张量以捕获非相邻物品间的联系,并提出了引入用于会话推荐的二维卷积神经网络的神经注意力推荐机（COS-NARM）模型。该模型能有效跳过序列中与用户主要目的不相关的物品。实验结果表明,COS-NARM模型在DIGINETICA等多个真实数据集上的召回率和平均倒数排名（MRR）都得到了不同程度的提升,且优于NARM、GRU-4Rec+等所有基线模型。在上述研究的基础上,将欧氏距离引入COS-NARM模型,提出了OCOS-NARM模型。利用欧氏距离直接计算不同时刻兴趣间的相似度以减少模型的参数,降低模型的复杂度。实验结果表明,欧氏距离的引入不仅使得OCOS-NARM模型在DIGINETICA等多个真实数据集上的推荐效果得到了进一步的提升,而且使OCOS-NARM模型的训练时间相较COS-NARM模型缩短了14.84%,有效提高了模型的训练速度。