基于免疫遗传神经网络的CRM数据挖掘模型的设计与实现

客户分类是智能CR M系统的一个重要功能。该文提出使用前馈型神经网络构作一个CRM客户分类模型的思想,并用免疫遗传算法对其进行优化。在染色体设计上提出了三层结构的染色体,解决单层结构染色体中,短基因组实际变异机率过小的问题,促使子代种群有更好的“生物多样性”。最后通过实验证明模型有较好的客户类别识别率及优点。     

遗传前馈神经网络在函数逼近中的应用

人工神经网络具有高计算能力、泛化能力和非线性映射等特点,被成功应用于众多领域,但缺乏用于确定其网络拓扑结构、激活函数和训练方法的规则。该文提出利用遗传算法优化前馈神经网络的方法,将网络结构、激活函数和训练方法等编码作为个体,发现最优或次优解,针对特定问题设计较理想的前馈神经网络。介绍遗传算法的具体步骤,对非线性函数逼近进行实验,结果表明优化后前馈神经网络的性能优于由经验确定的前馈神经网络,验证了本文方法的有效性。     

二维直线电机平台的双神经网络前馈解耦控制

针对二维直线电机系统中的直线电机本身存在的非线性以及XY两轴之间互相影响产生的耦合对控制精度的影响,提出了一种基于前馈结构的双神经网络解耦控制方法.根据二维直线电机两轴间的耦合结构和前馈控制结构,对应搭建了双神经网络模型,设计一种双神经网络的解耦控制策略,以消除二维直线电机两轴间的非线性强耦合对系统控制精度的影响.仿真结果表明:提出的双神经网络前馈解耦控制方法的有效性,并在起始阶段的跟踪方面表现出良好的性能.     

Lagrange优化前馈神经网络盲多用户检测算法

提出了一种前馈神经网络盲多用户检测算法.该算法利用恒模准则构造了一个代价函数,给出了该算法的约束条件.利用增广Lagrange函数方法对带约束的代价函数进行优化求解,获得前馈神经网络网络权值和参数的迭代公式,从而实现了盲多用户检测.利用计算机对增广Lagrange函数优化的前馈神经网络盲多用户检测算法进行仿真.仿真结果表明,新算法具有较好的误码率及收敛特性等性能.     

基于量子位Bloch坐标的量子遗传算法及其应用

提出了一种基于量子位Bloch坐标的量子遗传算法. 该方法用量子位构成染色体; 用量子位的Bloch坐标构成染色体上的基因位; 用量子旋转门进行染色体上量子位的更新; 用量子非门进行染色体变异. 对于量子旋转门的转角大小及方向的确定, 提出了一种简易快捷的新方法; 对旋转和变异操作, 提出了基于量子位Bloch坐标的新算子. 该算法将量子位的3个Bloch 坐标都看作基因位, 每条染色体包含3条并列的基因链, 每条基因链代表1个优化解.在染色体数目相同时, 可加速优化进程. 以函数极值优化和神经网络权值优化为例, 仿真结果表明该方法在搜索能力和优化效率两个方面优于普通量子遗传算法和简单遗传算法.     

基于传感器阵列与前馈神经网络的气体辨识系统

将气体传感器阵列与前馈神经网络模式识别技术相结合形成气体辨识技术相结合形成气体辨识系统,通过实验比较了不同的传感器信号预处理方法、前馈神经网络的结构和参数对气体辨识系统性能的影响,研究结果具有一定的工程应用价值。     

基于伪并行混合遗传算法的神经网络优化

在分析并行多物种遗传算法应用于神经网络拓扑结构的设计和学习之后,提出一种伪并行遗传（PPGA-MBP）混合算法,结合改进的BP算法对多层前馈神经网络的拓扑结构进行优化。算法编码采用基于实数的层次混合方式,允许两个不同结构的网络个体交叉生成有效子个体。利用该算法对N-Parity问题进行了实验仿真,并对算法中评价函数各部分系数和种群规模对算法的影响进行了分析。实验证明取得了明显的优化效果,提高了神经网络的自适应能力和泛化能力,具有全局快速收敛的性能。     

神经网络在基因序列预测中的应用研究

人类基因组计划的开展随之产生了巨量的基因组信息,区分DNA序列上的外显子和内含子成为基因工程中对基因进行识别和鉴定关键环节之一[1].如何建立良好的系统模型将基因组数据进行有效地存储、分析和挖掘,仍是难题.本文着重研究将多层前馈神经网络应用于基因序列的预测分析中,成功从基因序列上识别出剪接位点,进而区分内舍子和外显子边界.使用MATLAB神经网络工具箱和图形用户界面开发技术,对UCI机器学习数据库中的基因数据集采用二进制数字编码,完成样本选取;创建优化算法的BP神经网络和GRNN神经网络并加以训练、仿真和测试.     

用改进的非监督学习方法加速前馈神经网络的训练

本语文对非学习方法和前馈神经网络的结构进行了一些简单的改进,用改进后的结构和学习方法寝化前馈神经网络的权值,使前馈神经网络的训练速度和逼近精度显著提高。最后本语文通过仿真实例验证了该方法。     

前馈网络的结构优化及其训练样本的选择

前馈网络已广泛地应用于解决各种分类问题。但是,对于某一具体问题,人们为了获得最佳的网络结构和最佳的学习效果,不得不采用穷举法,从而使得前馈网络的结构优化及其最佳训练样本的选择随着问题规模的变大变得越来越困难,有时甚至不可能。本文试图通过对前馈网络的结构及其隐含层中隐含神经元的分析,提出前馈网络结构优化的标准。在此基础上讨论神经网络结构和产生最佳学习效果的最佳训练样本选择的关系,从而为前馈网络用于解决实际分类问题时所遇到的网络结构优化和最佳训练样本的选择提供一个有效的方法。     

混合粒子群优化算法优化前向神经网络结构和参数

提出了综合利用粒子群优化算法（PSO）和离散粒子群优化算法（D-PSO）同时优化前向神经网络结构和参数的新方法。该算法使用离散粒子群优化算法优化神经网络连接结构,用多维空间中0或1取值的粒子来描述所有可能的神经网络连接,同时使用粒子群优化算法优化神经网络权值。将经过该算法训练的神经网络应用于故障诊断,能够有效消除冗余连接结构对网络诊断能力的影响。仿真试验的结果表明,相比遗传算法等其他算法,该算法能够有效改善神经网络结构和参数的优化效率,提高故障模式识别的准确率。     

Tuning the structure and parameters of a neural network by using hybrid Taguchi-genetic algorithm

In this paper, a hybrid Taguchi-genetic algorithm (HTGA) is applied to solve the problem of tuning both network structure and parameters of a feedforward neural network. The HTGA approach is a method of combining the traditional genetic algorithm (TGA), which has a powerful global exploration capability, with the Taguchi method, which can exploit the optimum offspring. The Taguchi method is inserted between crossover and mutation operations of a TGA. Then, the systematic reasoning ability of the Taguchi method is incorporated in the crossover operations to select the better genes to achieve crossover, and consequently enhance the genetic algorithms. Therefore, the HTGA approach can be more robust, statistically sound, and quickly convergent. First, the authors evaluate the performance of the presented HTGA approach by studying some global numerical optimization problems. Then, the presented HTGA approach is effectively applied to solve three examples on forecasting the sunspot numbers, tuning the associative memory, and solving the XOR problem. The numbers of hidden nodes and the links of the feedforward neural network are chosen by increasing them from small numbers until the learning performance is good enough. As a result, a partially connected feedforward neural network can be obtained after tuning. This implies that the cost of implementation of the neural network can be reduced. In these studied problems of tuning both network structure and parameters of a feedforward neural network, there are many parameters and numerous local optima so that these studied problems are challenging enough for evaluating the performances of any proposed GA-based approaches. The computational experiments show that the presented HTGA approach can obtain better results than the existing method reported recently in the literature.     

A parallel genetic/neural network learning algorithm for MIMDshared memory machines

A new algorithm is presented for training of multilayer feedforward neural networks by integrating a genetic algorithm with an adaptive conjugate gradient neural network learning algorithm. The parallel hybrid learning algorithm has been implemented in C on an MIMD shared memory machine (Cray Y-MP8/864 supercomputer). It has been applied to two different domains, engineering design and image recognition. The performance of the algorithm has been evaluated by applying it to three examples. The superior convergence property of the parallel hybrid neural network learning algorithm presented in this paper is demonstrated.     

基于DMDE算法的前向神经网络设计

针对神经网络结构与参数并行优化问题,提出一种基于动态多群体差分进化算法的前向神经网络设计方法。采用分层递阶结构原理构造算法个体,根据控制基因信息将个体分成不同的动态群体。通过对个体进行重构,实现进化过程中个体信息的充分交换与共享。设计基于群体适应度的控制基因更新方法来优化网络拓扑结构,克服结构优化的盲目与低效问题。将所设计的神经网络应用于大包线飞行控制律参数拟合中。仿真结果表明,该算法能快速有效地确定神经网络的结构和权值,所优化的网络在调参控制中具有较好的泛化能力。     

Design of highly effective multilayer feedforward neural network by using genetic algorithm

This paper presents a highly effective and precise neural network method for choosing the activation functions (AFs) and tuning the learning parameters (LPs) of a multilayer feedforward neural network by using a genetic algorithm (GA). The performance of the neural network mainly depends on the learning algorithms and the network structure. The backpropagation learning algorithm is used for tuning the network connection weights, and the LPs are obtained by the GA to provide both fast and reliable learning. Also, the AFs of each neuron in the network are automatically chosen by a GA. The present study consists of 10 different functions to accomplish a better convergence of the desired input–output mapping. Test studies are performed to solve a set of two-dimensional regression problems for the proposed genetic-based neural network (GNN) and conventional neural network having sigmoid AFs and constant learning parameters. The proposed GNN has also been tested by applying it to three real problems in the fields of environment, medicine, and economics. Obtained results prove that the proposed GNN is more effective and reliable when compared with the classical neural network structure.     

基于互补遗传算子的前馈神经网络三阶段学习方法

论文提出了一种新的基于互补遗传算子的前馈神经网络三阶段学习方法。该方法把神经网络的学习过程分为三个阶段。第一阶段为结构辨识阶段,采用遗传算法进行神经网络隐层节点数目的选择和初始参数的设定,并基于发现的遗传算子的互补效应设计高效互补遗传算子。第二阶段为参数辨识阶段,采用效率较高的神经网络算法如L-M算法进行神经网络参数的进一步学习。第三阶段为剪枝阶段,通过获得最小结构的神经网络以提高其泛化能力。在整个学习过程中,学习过程的可控性以及神经网络的逼近精度、复杂度和泛化能力之间得到了满意平衡。仿真试验结果证明了该方法的有效性。     

一种新型的动态递归神经网络及其全自动设计算法

本文基于非线形自回归滑动平均模型NARMA模 型和前馈神经网络建模的思想,提出一种输入层与输出层神经元递归的动态递归神经网络; 基于进化计算中遗传算法和进化策略与自寻优BP算法的不同结合方式,提出两种动态递归神 经网络全自动高效设计算法,实现了网络结构、权重和自反馈增益同时优化学习,实例应用 表明所提网络结构及其设计算法的有效性．     

基于改进遗传算法的小波神经网络控制器的研究

小波神经网络是一种引入小波分析理论的前馈型神经网络,其与遗传算法的结合可以得到一种拥有良好全局优化搜索和良好局部时频特性的学习训练途径。本文提出了一种基于改进遗传算法的小波神经网络控制器,此方法可以克服基本遗传算法收敛速度慢,容易陷入＂早熟＂收敛,计算稳定性不好等一系列问题,进一步提高了小波神经网络控制器的性能。最后通过二级倒立摆仿真和实物控制,证明了控制器的有效性。     

BP算法分析与改进

在人工神经网络中,BP神经网络是一种应用广泛的多层前馈神经网络。分析了BP算法的基本原理,指出了BP算法具有收敛速度慢、易陷入局部极小点等缺陷以及这些缺陷产生的根源。针对这些缺陷,通过在标准BP算法中引入变步长法、加动量项法、遗传算法、模拟退火算法等几种方法来优化BP算法。实验结果表明,这些方法有效地提高了BP算法的收敛性,避免陷入局部最小点。     

一种改进的自适应混合神经网络盲分离算法

传统的前馈神经网络盲源分离算法由于步长固定存在许多缺点,而基于Sigmoid函数的自适应步长算法虽然能够克服固定步长算法的缺陷,但其稳态性能较差。针对这个问题,提出一种改进的自适应步长算法,该算法可灵活地控制步长因子函数的形状,在近零点处变化较Sigmoid函数更加缓慢,性能更加优越;同时针对前馈神经网络的不足,在前馈神经网络结构中引入递归结构,利用改进的自适应步长算法控制学习速率。仿真分析表明该算法具有更快的分离速度和更加优越的分离效果。