改进的并行广义共轭残差算法

针对大型非对称稀疏线性方程组的求解,通过利用广义共轭残差（GCR）算法的固有性质,消除GCR算法的内积计算数据相关性,给出一种改进的广义共轭残差（IGCR）算法。IGCR算法与GCR算法有相同的收敛性,在基于MPI的分布式存储并行机群上进行并行计算时,同步开销次数减少为GCR算法的一半。数值计算结果与理论分析表明,IGCR算法的性能优干GCR算法。     

大规模稀疏线性方程组的GMRES-GPU快速求解算法

重开始广义极小残量法(GMRES)是求解大规模线性方程组的常用算法之一,具有收敛速度快、稳定性好等优点.文中基于CUDA将GMRES算法在GPU上进行并行算法实现,尤其针对稀疏矩阵矢量乘法运算,通过合并访问和共享内存策略相结合的手段使得算法效率大幅度提升.对于大规模数据集,在GeForce GTX 260上的运行结果相对于Intel Core 2 Quad CPU Q9400@2.66GHz得到了平均40余倍的加速效果,相对于Intel Core i7 CPU 920@2.67 GHz也可得到平均20余倍的加速效果.     

并行GCR(k)算法在多尺度预报模式中的应用

针对多尺度预报模式离散得到的非对称稀疏线性方程组的求解,通过利用GCR(k)算法的固有性质,消除GCR(k)算法的内积计算数据相关性,给出了一种改进的GCR(R)(IGCR(k))算法.同GCR(k)算法对比,IGCR(k)算法与GCR(k)算法有相同的收敛性,在基于MPI的分布式存储并行机群上进行并行计算时,同步开销次数减少为GCR(k)算法的一半.数值计算结果与理论分析表明改进的GCR(k)算法的性能要优于GCR(k)算法.     

广义共轭余差法的通信避免算法

广义共轭余差法是一种用于求解非对称线性方程组的有效算法。为减少算法中的全局通信,首创性地提出了“通信避免的广义共轭余差法”,避免了迭代过程中的全局通信,使算法中的全局通信总次数降低了一个数量级,同时减少了约50%的计算量（计算量的具体减少比例与计算规模相关）。大规模测试中（最大16?384进程）,新算法最高达到了原算法3倍的运算速率。进一步分析表明,新算法在各种并行规模下的运算速率和可扩展性都优于原算法。在较小并行规模下,新算法的优势主要来源于计算量的减少。在较大并行规模下,新算法的优势主要来源于全局通信量的减少。     

图像恢复的正则化Gmres方法

在处理具有线性的、空间位移不变的成像系统所成的图像恢复问题时,提出了一种基于Krylov向量完全正交化的正则化Gmres方法。该算法考虑了图像恢复中的不适定性及计算时的复杂性两个方面,将正则化算法与广义极小残余算法相结合,通过正则化方法将模型离散后的积分方程转化为一适定问题,然后利用广义极小残余算法得到结果。在数值模拟时,对不同的方法进行了对比分析,结果表明所选的方法能够明显改善图像恢复的质量。     

基于GPU-CUDA的共轭斜量法实现及性能对比

偏微分方程数值解法(包括有限差分法、有限元法)以及大量的数学物理方程数值解法最终都会演变成求解大型线性方程组。因此,探讨快速、稳定、精确的大型线性方程组解法一直是数值计算领域不断深入研究的课题且具有特别重要的意义。在迭代法中,共轭斜量法(又称共轭梯度法)被公认为最好的方法之一。但是,该方法最大缺点是仅适用于线性方程组系数矩阵为对称正定矩阵的情况,而且常规的CPU算法实现非常耗时。为此,通过将线性方程组系数矩阵作转换成对称矩阵后实施基于GPU-CUDA的快速共轭斜量法来解决一般性大型线性方程组的求解问题。试验结果表明:在求解效率方面,基于GPU-CUDA的共轭斜量法运行效率高,当线性方程组阶数超过3000时,其加速比将超过14;在解的精确性与求解过程的稳定性方面,与高斯列主元消去法相当。基于GPU-CUDA的快速共轭斜量法是求解一般性大型线性方程组快速而非常有效的方法。     

一类广义Riccati矩阵方程对称解的双迭代算法

研究了一类广义系统控制理论导出的Riccati矩阵方程对称解的数值计算方法．运用牛顿算法将Riccati矩阵方程的对称解问题转化为线性矩阵方程的对称解或者对称最小二乘解问题,采用修正共轭梯度法解决导出的线性矩阵方程的对称解问题,可建立求Riccati矩阵方程对称解的双迭代算法．数值算例表明,双迭代算法是有效的．     

求矩阵方程AXB=C的双对称最小二乘解的迭代算法

基于求解线性代数方程组的共轭梯度法的思想,通过特殊的变形与近似处理,建立了求矩阵方程AXB=C的双对称最小二乘解的迭代算法,并证明了迭代算法的收敛性.不考虑舍入误差时,迭代算法能够在有限步计算之后得到矩阵方程的双对称最小二乘解;选取特殊的初始矩阵时,还能够求得矩阵方程的极小范数双对称最小二乘解.同时,也能够给出指定矩阵的最佳逼近双对称矩阵.算例表明,迭代算法是有效的.     

改进的广义预测算法在过热气温控制中的应用

针对传统广义预测控制算法（GPC）的计算量大这一缺陷,结合隐式广义预测算法（IGPC）和基于柔化矩阵的广义预测算法,通过辨识参数和输入增量引入柔化系数矩阵进行约束的方法对原算法进行改进,算法只精确计算当前时刻的控制作用而对未来时刻的控制序列进行离线近似计算.该算法简单,不必求解丢番图（Diophantine）方程和矩阵求逆,减小了在线计算量,确保了系统的快速性,并能够将输入很好地控制在约束范围之内,并具有良好的控制性能.同时隐式广义预测算法对模型的阶次、参数的变化都有较好的鲁棒性,能适应电厂过热汽温的控制.     

α方法在非完整力学系统数值积分中的应用

将源于直接积分方法的广义-α法和d—RATTLE法应用到非完整力学系统动力学方程数值积分中,直接求解指标-2的微分一代数方程（DAEs）,这两种方法的质量矩阵可以是常量,也可以与广义坐标相关．最后,文中通过一个非完整力学系统：Snakeboard模型,对这两种方法进行了验证,并且与DASSL算法包的结果进行了比较．     

A projection method for solving nonsymmetric linear systems on multiprocessors

We consider the iterative solution of large sparse linear systems of equations arising from elliptic and parabolic partial differential equations in two or three space dimensions. Specifically, we focus our attention on nonsymmetric systems of equations whose eigenvalues lie on both sides of the imaginary axis, or whose symmetric part is not positive definite. This system of equation is solved using a block Kaczmarz projection method with conjugate gradient acceleration. The algorithm has been designed with special emphasis on its suitability for multiprocessors. In the first part of the paper, we study the numerical properties of the algorithm and compare its performance with other algorithms such as the conjugate gradient method on the normal equations, and conjugate gradient-like schemes such as ORTHOMIN(k), GCR(k) and GMRES(k). We also study the effect of using various preconditioners with these methods. In the second part of the paper, we describe the implementation of our algorithm on the CRAY X-MP/48 multiprocessor, and study its behavior as the number of processors is increased.     

Parallelizable restarted iterative methods for nonsymmetric linear systems. part I: Theory

Large sparse nonsymmetric problems of the form A u = b are frequently solved using restarted conjugate gradient-type algorithms such as the popular GCR and GMRES algorithms. In this study we define a new class of algorithms which generate the same iterates as the standard GMRES algorithm but require as little as half of the computational expense. This performance improvement is obtained by using short economical three-term recurrences to replace the long recurrence used by GMRES. The new algorithms are shown to have good numerical properties in typical cases, and the new algorithms may be easily modified to be as numerically safe as standard GMRES. Numerical experiments with these algorithms are given in Part II, in which we demonstrate the improved performance of the new schemes on different computer architectures.     

模糊图像恢复的投影重开始共轭梯度法

针对点扩散函数为线性位移不变的图像恢复问题提出了一种重开始的投影共轭梯度法．该方法结合正则化技术,分两层迭代,采用阻尼Morozov偏差原则作为停机准则,在运算中利用快速傅立叶变换减少计算复杂度．并对二维遥感灰度图像和彩色图像分别进行数值实验,验证了该方法可以有效的再现原始图像,证明了算法的有效性．     

两种混合共轭梯度法的全局收敛性

基于利用修正HS方法提高算法效率和利用DY方法保证算法的全局收敛性等思想,分别在不同条件下提出两种新的混合共轭梯度法求解大规模无约束优化问题.在一般Wlolfe线搜索下不需给定下降条件,证明了两个算法的全局收敛性,数值实验表明所提出算法的有效性,特别对于某些大规模无约束优化问题,数值表现较好.     

最优鉴别特征的抽取及图像识别

利用Fisher鉴别准则函数即为广义Rayleigh商这一特点,首先分析了广义Rayleigh商的极值性质,指出以共轭正交的约束条件代替Foley-Sammon正交条件的合理性。然后利用广义特征方程存在共轭性正交的特征向量这一结论,巧妙地解决了该共轭正交条件下最优鉴别矢量集的求解问题。从理论上分析了该最优鉴别矢量集较经典的Foley-Sammon最优鉴别矢量集以及Fisher线性鉴别法的优越性。另外,进一步讨论了在小样本情况下,类内散布矩阵奇异时鉴别矢量集的求解问题,并给出了简单易行的算法。最后,在CENPARMI手写体阿拉伯数字库和ORL标准人脸库上的试验结果证实了算法的有效性和稳定性。     

用于CS的广义稀疏度自适应匹配追踪算法

压缩感知理论的基本思想是原始信号在某一变换域是稀疏的或者是可压缩的,并将奈奎斯特采样定理中的采样过程和压缩过程合二为一。稀疏度自适应匹配追踪（SAMP）算法能够实现稀疏度未知情况下的重构,而广义正交匹配追踪算法每次迭代时选择多个原子,提高了算法的收敛速度。基于上述两种重构算法的优势,提出了广义稀疏度自适应匹配追踪（Generalized Sparse Adaptive Matching Pursuit,gSAMP）算法。针对重构图像的峰值信噪比、重构时间、相对误差等客观评价指标,以及主观视觉上对所提算法与传统的贪婪算法进行对比。在压缩比固定为0.5时,gSAMP算法的重构效果优于传统的MP、OMP、ROMP、SAMP以及gOMP贪婪类重构算法的效果。     

一种求解高维约束优化问题的γ-PSO算法

PSO算法是一种随机搜索的群体智能算法,在求解高维约束优化问题,尤其是在约束条件较多时,PSO算法易陷入局部极值且收敛速度慢。针对上述问题,对PSO算法进行了改进,提出了γ-PSO算法,把PSO算法的随机数由(0,1)扩展到(-1,1),这样加大了粒子飞行速度和飞行方向的多样性,从而使PSO算法具有摆脱局部极值的能力。对γ-PSO算法进行了求解高维约束优化问题的实验,实验结果表明γ-PSO算法能收敛到全局最优值,收敛性能明显优于其他改进的PSO算法和其他优化算法。     

一种基于OFDM的信息安全算法

寻找大量的正交矩阵,一方面用来降低OFDM（正交频分复用）信号的峰均功率比,一方面作为密钥使用,是基于OFDM的信息安全算法的重点。经证明用生成多相正交矩阵的方法,可将单一的用来降低OFDM信号峰均功率比的正交矩阵,变换为数量远大于[N!×NN]个的正交矩阵,具有了作为密钥的功能。计算机仿真表明,变换后的正交矩阵与原矩阵在降低OFDM信号峰均功率比的性能上类似,可用于信息安全算法中。     

最小残差法加速局部加权LSSVM求解及其应用

局部加权最小二乘支持向量机回归模型（LocalWeighted Least Squares Support Vector Machines,LW-LSSVM）是一种在线学习模型,该类模型需要根据训练样本权重的调整不断重新进行训练.高效稳定的学习算法是LW-LSSVM模型取得成功应用的关键.分别采用最小残差法（MINRE）、共轭梯度法（CG）、零空间法和Cholesky分解算法求解WL-LSSVM模型.基准数据库上的数值实验表明最小残差法的计算时间最短,具有良好的数值稳定性.随后,应用基于MINRES的WL-LSSVM建立了高炉铁水硅含量的在线预测模型,仿真实验表明与LSSVM相比LW-LSSVM模型具有更高的预报精度和自适应性.