地球物理资料非线性反演方法讲座(六)共轭梯度法

概要地介绍了在非启发式非线性反演方法——共轭梯度法的原理、算法、优点,以及它的局限性,和改进型算法：一种全局收敛的随机共轭梯度法。最后通过一个例子来说明共轭梯度法及其改进型算法的优缺点。     

修正HS共轭梯度法的全局收敛性

针对PRP方法对一般的非凸函数在强Wolfe线性搜索条件下不收敛这一不足,给出了一种新的共轭梯度算法.在强Wolfe线性搜索下,所给公式满足充分下降条件,并在适当条件下证明了算法的全局收敛性.     

基于EBE技术三维电磁场的并行计算

阐述了用有限元法求解三维电磁场问题时，基于单元接单元即ＥＢＥ（ｅｌｅｍｅｎｔ－ｂｙ－ｅｌｅｍｅｎｔ）技术的并行共轭梯度法（ＣＧ）和并行对角预处理共轭梯度法（ＤＣＧ）方法。我们在四个处理器的晶体计算机（Ｔｒａｎｓｐｕｔｅｒ系统）上实现了这两种算法，取得了相对于处理器个数几乎线性的加速比。由于不需存储整体系数矩阵，在很大程度上节省了内存，大大提高了用微机求解电磁场问题的能力．     

求解一类二次规划问题的LAZ法

将ＡＢＳ方法与Ｚａｎｇｗｉｌｌ方法相结合，构造出一种有限步收敛的求解具有线性约束的二次规划问题的共轭方向法－ＬＡＺ法。     

基于人工神经网络的负荷预报模型

针对基于ＢＰ（ＢａｃｋＰｒｏｐａｇａｔｉｏｎ）学习算法存在的问题,提出了变步幅最速下降和共轭梯度的混合算法来训练人工神经网络,并建立负荷预报人工神经网络模型．为了提高预测精度,对预报权值进行在线修正．实例证明,混合算法在全局收敛特性和收敛速度上要好于基本ＢＰ算法,所建立的预报模型能达到令人满意的精度．     

复对称系数阵的大型,稀疏线性方程组的IC—CBCG解法

导出了具有对称系数阵的大型，稀疏线性方程组的非完全Ｃｈｏｌｅｓｋｙ分解－复双共轭梯法的计算公式，。给出了有关复对称矩阵Ｃｈｏｌｅｓｋｙ分解的明确阐述，并且分析，比较了两种不同的非完全分解预条件方案。     

相关DY共轭梯度法的全局收敛性

针对无约束优化问题的一类重要算法——共轭梯度法,提出一种相关DY共轭梯度法,由此得到新的确定βk公式,并在强Wolfe条件下证明了该算法的全局收敛性.结合修正的DY共轭梯度法,得到相关修正DY共轭梯度法,确定另一个βk公式,同时证明在强Wolfe条件下,该算法是全局收敛的.通过拓展共轭梯度法相关性的有关内容,进一步验证了共轭梯度法中FR公式与DY公式之间的某种特殊的联系.     

Duffing方程摄动解的计算机延伸

本文采用ＰＬＫ方法和逐次迭代过程推导Ｄｕｆｆｉｎｇ方程摄动解的迭代通式。并通过计算机延伸，求得了８２项摄动级数解，进而以Ｄｏｍｂ－Ｓｙｋｅｓ图为工具，分析该摄动级数的解析性质，发现对这种摄动小参数ε的幂级数来说，频率给数的收敛半径为１，而响应级数是一致收敛的，收敛半径也为１．这表明，通过摄动解的计算机延伸，可求得强非线性振动问题的解。     

共轭梯度法和最速下降法的混合算法

将共轭梯度法与最速下降法有机地结合起来,构造了一种共轭梯度法和最速下降法的混合算法,并证明了该算法的全局收敛,混合算法既提高了共轭梯度算法的收敛速度,又解决了目标函数“性态不优”时,最速下降法难以求解的问题。同时也可以看到共轭梯度法与最速下降法仅仅是混合算法的特例。     

基于ＧＰＵ的ＳＳＯＲ稀疏近似逆预条件研究

由于ＳＳＯＲ预条件共轭梯度算法中预条件方程求解需要前推和回代,导致算法迁移到ＧＰＵ 平台上并行效率不高．为此,基于诺依曼多项式分解技术,提出了一种ＧＰＵ 加速的ＳＳＯＲ稀疏近 似逆预条件子（ＧＳＳＯＲＳＡＩ）．它不仅保持了原线性系统系数矩阵的稀疏和对称正定特性,而且预条 件方程求解仅需一次稀疏矩阵矢量乘运算,避免了前推和回代过程．实验结果表明：在ＮＶＩＤＩＡ Ｔｅｓｌａ　Ｃ２０５０ＧＰＵ 上,对比使用Ｐｙｔｈｏｎ在单个ＣＰＵ 上ＳＳＯＲ 稀疏近似逆预条件子实现方法, ＧＳＳＯＲＳＡＩ平均快将近１００倍;应用到并行的ＰＣＧ算法中,相比无预条件的ＣＧ算法,平均提高了 算法的３倍的收敛速度     

SBR法处理屠宰废水的试验研究

介绍了应用ＳＢＲ法处理屠宰废水的试验研究,考察了ＣＯＤ、ＢＯＤ５、ＳＳ、ＴＮ的去除效果和主要影响因素,确定了运行程序及工艺参数。在优化条件下稳定运行的处理效果为：运行周期１２ｈ;ＢＯＤ５、ＣＯＤ和ＴＮ的去除率分别为９０％、８５％和８０％以上,ＳＶＩ始终低于１２００ｍｇ／Ｌ,菌胶团密实,和性能好,为解决中小型屠宰厂废水处理提供了一有效途径。     

加压SBR法处理淀粉废水的研究

用加压 ＳＢＲ法处理淀粉工业废水,进水ＣＯＤ_（ｃｒ）浓度为 ３ ５００～４２００ｍｇ／Ｌ, ＨＲＴ为 ８～１２ ｈ,Ｆｖ为 ４～８ ＫｇＣＯＤ／ｍ~３·ｄ,ＣＯＤ_（ｃｒ）去除率达９４％～９６．７％,出水ＣＯＤ_（ｃｒ）＜１５０ｍｇ／Ｌ,与普通ＳＢＲ法相比该方法生化反应 速度快,更耐负荷冲击．     

正项级数敛散性的一种判别法

给出一种判别正项级数收敛或发散的方法,它优于通常所用的达朗贝尔（Ｄ′Ａｌｅｍｂｅｒｔ）判别法。     

一个HS和DY公式合成的新共轭梯度算法

提出一个基于HS和DY方法的新共轭梯度法展公式,证明了该方法在σ∈（0,1/3）的SWP搜索下全局收敛,数值试验表明该方法具有良好的数值结果。     

在AutoCAD for Windows上进行电信号处理

在ＡｕｔｏＣＡＤｆｏｒＷｉｎｄｏｗｓ平台上同时进行图形数据和非图形信息的处理是专业ＣＡＤ开发者经常遇到的课题。ＡｕｔｏＣＡＤ提供的ＡＤＳ和ＡｕｔｏＣＡＤ良好的开放性和扩展性为此创造了条件。叙述了在ＡｕｔｏＣＡＤｆｏｒＷｉｎｄｏｗｓ平台上,开发能处理电信号的专业ＣＡＤ系统中的三个技术问题：ＡｕｔｏＣＡＤ窗口过程的功能扩充、屏幕坐标系统的建立和电气数据的存储及管理。文中以实例叙述了解决上述问题的方法。     

提高前馈神经网络学习效率的学习算法探讨

简要分析了最速下降法（Ｓｔｅｅｐｅｓｔ Ｄｅｓｃｅｎｔ Ａｌｇｏｒｉｔｈｍ ,即ＳＤＡ 法）和正交校正共轭梯度法（ＣＧＭ－ＯＣ法）的优缺点,提出了一种进行多层前馈神经网络学习的新算法,即ＳＤ－ＣＧＭ－ＯＣ算法．该算法结合最速下降法与正交校正共轭梯度法的特点,在文中所述实际问题构造模型的基础上,论证了ＳＤ－ＣＧＭ－ＯＣ算法比传统的ＢＰ算法具有更高的学习效率和二次收敛率．实验结果验证了该学习算法的有效性．     

分组法进行二重组织计算机辅助设计的数学模型

介绍了用经纬纱“分组”进行二重组织ＣＡＤ设计的原理和方法，由二重组织的构成条件导出判别表，里组织是否合适的判别条件，提出了适于ＣＡＤ设计的经纬纱“分组”的新方法，并由此导出了二重组织ＣＡＤ设计的数学模型。     

一类无约束优化问题的的共轭梯度法

共轭梯度法是求解非线性优化问题的一种重要方法，尤其适用于大规模优化问题的求解。提出一个新的非线性共轭梯度公式，采用该公式和Wolfe非精确线搜索的方法，使之全局收敛。经数值实验验证该算法是有效的。     

图像恢复中的一种新预处理算子

在图像恢复实际模型的预条件共轭梯度法中 ,提出了一种新的预处理算子 .将新的预处理算子应用于原来的系统 ,证明了其条件数得到大大的改善 .实验结果表明 ,新的预处理算子具有很大优越性 ,比传统的预处理算子具有更快的收敛速度     

一类充分下降的混合PRP-LS共轭梯度法

针对无约束优化问题,提出一类充分下降的混合共轭梯度法.该算法在每次迭代过程中均可得到充分下降的搜索方向.在适当条件下,证明了算法的全局收敛性和R-收敛速率.数值结果表明该算法是可行、有效的.