前馈式神经网络的最小二乘学习算法

通过对Sigmoid函数求逆，把非线性极值问题转化为线性方程组来处理，巧妙地避开了梯度，从而可以克服BP算法的一些缺点，提高了算法的收敛速度．同时采用最小二乘法来求解方程组，进一步提高了收敛速度．算法的计算过程为每次处理一个节点的所有前一层连接权，轮换处理，直到收敛到最小点．     

改进的梯度投影法

采用Ｋａｒｍａｒｋａｒ在文献［１］中所使用的变换技术，提出了梯度投影法的一个改进形式．它可以克服原始梯度算法的某些缺点，加速算法收敛．对此算法给予了详尽的描述并得到了若干重要的收敛性结果．最后还给出了计算实例．     

基于改进PSO算法的自适应均衡算法

传统的自适应均衡算法存在收敛速度慢,稳定性差、均衡效果不理想等缺点,从而使自适应均衡器在高速光纤通信系统中的应用受到限制.具有梯度搜索因子的Grads-PSO算法,结合了传统数值优化方法在计算速度和计算精度上的优势,将梯度法引入粒子群算法中.在梯度搜索因子的指导下,PSO算法的运算过程显得更加有规则,从而提高了算法的收敛速度和运算精度.因此,本文提出将改进PSO算法用作自适应均衡器均衡算法.通过仿真实验表明,改进PSO算法具有收敛速度快,计算精度高的优点,将其作为自适应均衡器的控制算法可收到很好的均衡效果,优于传统的控制算法.     

共轭梯度法和最速下降法的混合算法

将共轭梯度法与最速下降法有机地结合起来,构造了一种共轭梯度法和最速下降法的混合算法,并证明了该算法的全局收敛,混合算法既提高了共轭梯度算法的收敛速度,又解决了目标函数“性态不优”时,最速下降法难以求解的问题。同时也可以看到共轭梯度法与最速下降法仅仅是混合算法的特例。     

极大熵原理与互补问题的一种迭代算法

把基于信息理论的极大熵原理应用到互补问题的一种等价的不动点格式中，构造了一种光滑的迭代算法，给出了迭代算法收敛的充要条件，对于对称单调的互补问题，给出了收敛的充分条件，扩充了原来的梯度投影法要求严格单调的限制，得出了与外梯度投影法类似的收敛性条件，最后，给出了数值算例，包括标准互补问题都题和随机生成的教师，并给出了该光滑控代算法与外梯度投影法的数值比较。     

前馈式神经网络的最小二乘学习算法

通过对 Sigmoid 函数求逆,把非线性极值问题转化为线性方程组来处理,巧妙地避开了梯度,从而可以克服 BP 算法的一些缺点,提高了算法的收敛速度.同时采用最小二乘法来求解方程组,进一步提高了收敛速度.算法的计算过程为每次处理一个节点的所有前一层连接权,轮换处理,直到收敛到最小点.     

一种新型的混沌BP混合学习算法

将一种新的快速BP(FBP)算法和混沌优化相结合，提出了混沌BP算法(CBP算法)．FBP算法吸收了误差函数的非线性信息，大大加快了BP算法的收敛速度，但它仍然采用梯度下降法，不可避免地存在局部极小的缺陷．混沌动力学具有遍历性、随机性的特点．能在一定范围内按其自身规律不重复地遍历所有状态，将混沌优化搜索引入FBP算法中，形成一种新型的混沌BP算法．它既能较快地局部收敛，又能全局收敛，避免了陷入局部极小的可能性．CBP算法为多层前馈网络的全局性收敛学习提供了一种有效的方法．     

基于步长优化和共轭梯度法的改进BP算法

本文针对传统ＢＰ算法存在的两个常见问题进行了讨论，提出了基于步长优化和共轭梯度法的改进ＢＰ算法。新的算法避免了目前由人为经验确定迭代步长的缺陷，并能有效克服局部极小值。这样可使网络加快收敛，稳定性变好。     

Lipschitz函数全局优化的区间算法

利用广义梯度讨论了目标函数是Lipschitz连续的非光滑优化问题的区间算法,给出了求二维函数广义梯度的区间算法,提出了利用广义梯度估计Lipschitz常数的方法.定理和数值算例表明,通过随算法的进行而不断修正Lipschitz常数,算法的收敛速度得到了一定的提高.     

基于改进BP神经网络的税收收入预测模型

针对税收收入预测的特点，提出了一种综合共轭梯度和自适应变步长的改进BP算法，并利用改进的BP算法建立了税收收入预测模型，通过与传统回归分析预测方法结果的比较，证明了该算法收敛速度快，学习精度高，而且有效避免了常规BP算法得局部极小值问题。     

基于人工神经网络的负荷预报模型

针对基于ＢＰ（ＢａｃｋＰｒｏｐａｇａｔｉｏｎ）学习算法存在的问题,提出了变步幅最速下降和共轭梯度的混合算法来训练人工神经网络,并建立负荷预报人工神经网络模型．为了提高预测精度,对预报权值进行在线修正．实例证明,混合算法在全局收敛特性和收敛速度上要好于基本ＢＰ算法,所建立的预报模型能达到令人满意的精度．     

跨大气层飞行器空间转移轨道优化设计

基于跨大气层飞行器的特点和运行应用的任务需求，分析了飞行器可能进行的空间变轨与机动飞行。针对共面有限推力时间最短轨道转移问题，建立了优化模型。采用一阶梯度算法结合共轭梯度算法的方法求解了终时不固定的最优控制问题。仿真分析表明，这种组合算法综合利用了2种算法的优点，对于此类两点边值问题的求解有很强的收敛性。     

Effective prediction of DEA model by neural network

In this paper,a fast neural network model for the forecasting of effective points by DEA model is proposed,which is based on the SPDS training algorithm.The SPDS training algorithm overcomes the drawbacks of slow convergent speed and partially minimum result for BP algorithm.Its training speed is much faster and its forecasting precision is much better than those of BP algorithm.By numeric examples,it is showed that adopting the neural network model in the forecasting of effective points by DEA model is valid.     

激发极化测井的三维有限差分模拟

三维柱坐标系下,使用有限差分法模拟激发极化测井,由稳定电流场构造的差分方程,其系数矩阵非对称正定,直接使用共轭梯度法求解各节点电位,计算结果不收敛,这就需要对系数矩阵进行修改。针对这一问题,本文推导出对系数矩阵作预对称的预对称子D和不完全LU分解的L矩阵和U矩阵的构造,采用预对称结合预条件共轭梯度法实现差分模拟程序。通过对比实例模型计算结果与解析式计算结果,验证了差分模拟程序的可行性、有效性。实例结果表明,预对称结合预条件共轭梯度法,不仅使得计算结果收敛,而且大大提高了差分程序的运行速度。     

改进的共轭梯度法及其收敛性

共轭梯度法是求解大规模无约束优化问题的一种有效方法。针对算法的优劣主要依赖于步长因子和搜索方向的特点，结合共轭梯度法的共轭性质，提出一种改进的可以控制步长因子的共轭梯度算法。在建立算法的几个重要引理和全局收敛性定理后分别给出了证明。最后对算法进行了数值实验，实验结果表明算法具有良好的收敛性和有效性。     

改进的共轭梯度法及其收敛性

共轭梯度法是求解大规模无约束优化问题的一种有效方法。针对算法的优劣主要依赖于步长 因子和搜索方向的特点,结合共轭梯度法的共轭性质,提出一种改进的可以控制步长因子的共轭梯度算 法。在建立算法的几个重要引理和全局收敛性定理后分别给出了证明。最后对算法进行了数值实验,实 验结果表明算法具有良好的收敛性和有效性。     

一种改进的BP网络快速算法

BP神经网络已广泛应用于许多领域,但标准BP算法收敛速度很慢.为了提高标准BP算法的收敛速度,提出一种基于LM数值优化算法,以双极性S型压缩函数为转移函数的改进BP算法.分析了双极性S型函数及LM算法与BP神经网络具体结合实现的方法,并给出了算法步骤.通过实例证明,改进后算法的收敛速度比其它BP算法快.     

判决反馈式均衡器梯度算法的改进——误差极性控制变步长算法

在判决反馈式均衡器梯度算法的基础上,本文提出了误差极性控制变步长的算法.介绍了两种计算机模拟所得出的结果,指出了新算法既保留了原算法的优点,又提高了收敛速度和稳定性,论证了新算法是一种较为简便可行的方案.     

一种求解非线性方程组的混沌优化算法

针对非线性方程组的求解问题提出一种混合算法,将方程组转换成一个优化问题。利用优化问题的非线性共轭梯度法与混沌优化方法相结合,提出了一种新的混合优化算法。该算法能使非线性共轭梯度法跳出局部最优,最终获得全局最优。算法的收敛性也进行了证明,数值结果表明该算法是有效的。