基于预条件共轭梯度法的混凝土层析成像

根据常规图像重建的共轭梯度迭代算法,提出一种预条件共轭梯度法。用一种新的预条件子M来改善系数矩阵的条件数,结合一般的共轭梯度法,导出预条件共轭梯度法。实验结果表明,预条件共轭梯度算法比共轭梯度算法具有更好的CT重建效果和消噪能力,可提高计算的精度和图像的重建质量。     

大规模最小二乘奇异值分解的并行处理方法

大规模最小二乘问题求解中,直接进行奇异值分解会产生巨大的内存需求以及漫长的计算时间。为解决该问题,提出了一种基于迭代的并行处理方法。该方法利用奇异值分解降维的特性,通过迭代不断减小矩阵规模,直到可以直接使用奇异值分解求解。在迭代过程中,将矩阵分解为许多足够小的子矩阵,并行处理其奇异值分解过程,从而提升运行速度。实验结果表明,该方法即使是串行处理,也使得大规模最小二乘奇异值分解的时间成本及空间成本大大降低;而并行处理在双机条件下加速比接近200％。     

基于共轭梯度的极速学习机

极速学习机(ELM)由于具有较快的训练速度和较好的泛化能力而被广泛的应用到很多的领域,然而在计算数据样例个数较大的情况下,它的训练速度就会下降,甚至会出现程序报错,因此提出在ELM模型中用改进的共轭梯度算法代替广义逆的计算方法。实验结果表明,与求逆矩阵的ELM算法相比,在同等泛化精度的条件下,共轭梯度ELM有着更快的训练速度。通过研究发现:基于共轭梯度的极速学习机算法不需要计算一个大型矩阵的广义逆,而大部分广义逆的计算依赖于矩阵的奇异值分解(SVD),但这种奇异值分解对于阶数很高的矩阵具有很低的效率;因为已经证明共轭梯度算法可通过有限步迭代找到其解,所以基于共轭剃度的极速学习机有着较高的训练速度,而且也比较适用于处理大数据。     

一种多视图分层重构算法研究

本文介绍了基于奇异值分解的射影重构算法的一般框架,以测量矩阵的秩为4作为约束,以仿射投影逼近透视投影,利用共轭梯度法估计射影深度,通过奇异值分解实现射影重构.利用共轭梯度法确定Kruppa方程中的未知比例因子,然后利用所确定的比例因子线性求解Kruppa方程,进而标定摄像机内参数.在摄像机内参数已知的情况下,求解一个满足欧氏重构条件的非奇异矩阵,然后通过此矩阵将射影重构变换为欧氏重构.实验结果表明所给出的算法是行之有效的.     

基于核估计的超定混合共轭盲信号分离方法

当混合信号的个数多于源信号时,盲源分离模型中的混合矩阵被描述为一个超定矩阵,因此不能直接通过估计逆矩阵的方法来得到分离矩阵。针对该线性超定混合情况提出了一种基于共轭梯度的盲源分离方法。该方法基于最小互信息准则,通过对行满秩分离矩阵的奇异值分解而引入了超定盲源分离的代价函数。利用共轭梯度优化算法推导出了迭代计算分离矩阵的更新公式。在每次迭代计算中,利用随机变量概率密度估计的核函数法在线估计分离信号的评价函数。避免了诸多传统盲分离算法中只能凭经验选取特定的非线性函数来代替评价函数的问题。仿真结果验证了所提算法的有效性。     

多视三角化的迭代算法

多视三角化是在给定测量点对应和摄像机投影矩阵的情况下,求解相应的空间点的过程.由于测量点存在测量误差,所以只能求解在某种准则下的最优空间点.文中提出一种新的优化准则:在空间平面矩阵最小奇异值为0的约束下最小化估计点到测量点的L2-范数距离.在此基础上,采用该准则约束的Sampson近似得到一种简单的迭代求解方法;通过空间平面矩阵最小奇异值单调递减的条件和共轭梯度方法得到另一种收敛性更好的迭代算法.实验结果表明,这2种迭代算法不仅迭代次数及运算时间明显少于黄金标准算法,而且能得到基本相同的计算精度.     

不完全乔莱斯基分解预优共轭梯度的模型

在超分辨率影像重建中，基于最大后验估计(MAP)框架的重建方法具有较大的优势，应用非常广泛。然而，常用的迭代求解方法如最速下降法、共轭梯度法等收敛速度慢、处理时间长，经常难以满足实际处理的需要。该文在MAP框架的基础上，提出了基于不完全乔莱斯基分解预优共轭梯度的模型求解方法，即在迭代求解过程中利用不完全乔莱斯基分解构造预优矩阵，降低系数矩阵的条件数，从而提高收敛速度，节省处理时间。实验结果证明，该方法是有效的、可行的。     

对称Toeplitz线性方程组的基于余弦变换的最佳预优矩阵

利用第四类离散余弦变换矩阵构造出求解对称Toeplitz线性方程组的最佳预优矩阵,构造该预优矩阵所需的运算量为O(n).理论和数值实验显示,利用本文中所构造的预优矩阵求解对称Toeplitz线性方程组所需的迭代次数与现有的其它类型预优矩阵差不多,但预优矩阵的构造要更简单.     

迭代张量高阶奇异值分解的图像恢复方法

为了有效地对图像缺失数据进行恢复, 提出一种迭代张量高阶奇异值分解（HOSVD）图像缺失数据恢复方法。该方法首先利用拉格朗日乘子方法将张量核范数目标函数进行子问题分解操作, 简化了求解过程, 然后迭代地采用张量高阶奇异值分解阈值方法进行子问题求解, 最终得到恢复后的图像缺失数据。将矩阵奇异值阈值算法进行扩展而得的HOSVD阈值方法充分利用了图像内部和图像与图像之间的多重约束关系, 大大提高了恢复精度。模拟实验和真实图像实验结果显示该方法具有良好的缺失数据的恢复性能。     

毫米波大规模MIMO系统中基于PAST算法的低复杂度混合预编码

在毫米波大规模MIMO系统中,一般采用混合模拟和数字预编码替代全数字预编码来减少射频链和能量消耗.然而,在计算最优无约束混合预编码时,奇异值分解(SVD)具有较高的复杂度.因此,提出了一种基于投影近似子空间跟踪(PAST)的低复杂度混合预编码算法.该算法在计算每个子速率的最优无约束混合预编码时,利用PAST算法估计需要的右奇异矩阵部分主要列向量,从而避免了高复杂度的SVD过程.仿真结果表明,不论是在全连接、混合连接还是在子连接系统结构中,该算法在频谱效率上都接近基于SVD的混合预编码,并且随着发送天线数的增加,提出的算法的复杂度和耗时远低于基于SVD的混合预编码.同时该算法的系统误码率较小,具有较好的可靠性.     

一种基于正则化参数自适应选择的快速近似求逆的图像恢复新算法

本文根据正则化恢复中正则化参数应具有的性质,提出了一种基于正则化参数自适选择方案的新的空域迭代恢复算法。     

基于二阶加权差分的湍流退化图像快速复原

针对航天飞行器成像系统大气湍流扰动条件下退化图像的快速复原需求,对二维卷积理论进行了探讨,构造了移位算子。提出了基于二维卷积理论和移位算子的复杂背景图像大气湍流退化图像的相邻帧快速复原算法,该算法主要将基于二阶的加权差分极小作为空间相关性约束应用在湍流退化图像的复原校正过程中,自定义几个二阶加权差分项,推导了二阶加权差分算子矩阵快速构造的理论方法。在此基础上,将点扩展函数的非线性估计转化为基于递归迭代的线性方程快速求解,为大气湍流干扰所引起的退化图像的复原校正提供了一种快速的有效方法。实际场景大气湍流退化图像的复原校正实验结果表明,该方法对湍流退化图像的复原效果好,且算法稳定,速度较快。     

Inversion of the generalized Fibonacci matrix by convolution

A convolution formula containing the generalized Fibonacci numbers and applications of this formula are investigated. Starting from the convolution formula, we derive combinatorial identities involving generalized and usual Fibonacci numbers, as well as the Lucas numbers. The inversion of a lower triangular matrix and the generalized inversion of strictly lower triangular Toeplitz matrix whose non-zero elements are generalized Fibonacci numbers are considered.     

A parallel linear solver for multilevel Toeplitz systems with possibly several right-hand sides

A Toeplitz matrix has constant diagonals; a multilevel Toeplitz matrix is defined recursively with respect to the levels by replacing the matrix elements with Toeplitz blocks. Multilevel Toeplitz linear systems appear in a wide range of applications in science and engineering. This paper discusses an MPI implementation for solving such a linear system by using the conjugate gradient algorithm. The implementation techniques can be generalized to other iterative Krylov methods besides conjugate gradient. These techniques include the use of an arbitrary dimensional process grid for handling the multilevel Toeplitz structure, a communication-hiding approach for performing matrix–vector multiplications, the incorporation of multilevel circulant preconditioning for accelerating convergence, an efficient orthogonalization manager for detecting linear dependence in block iterations, and an algorithmic rearrangement to eliminate all-reduce synchronizations. The combined use of these techniques leads to a scalable solver for large multilevel Toeplitz systems, possibly with several right-hand sides. We show experimental results on matrices of size up to the order of one billion with nearly perfect scaling by using up to 1024 MPI processes. We also demonstrate an application of the solver in parameter estimation for analyzing large-scale climate data.     

DCT- and DST-based splitting methods for Toeplitz systems

New splitting iterative methods for Toeplitz systems are proposed by means of recently developed matrix splittings based on discrete sine and cosine transforms due to Kailath and Olshevsky [Displacement structure approach to discrete-trigonometric transform-based preconditioners of G. Strang type and of T. Chan type, SIAM J. Matrix Anal. Appl. 26 (2005), pp. 706–734]. Theoretical analysis shows that new splitting iterative methods converge to the unique solution of a symmetric Toeplitz linear system. Moreover, an upper bound of the contraction factor of our new splitting iterations is derived. Numerical examples are reported to illustrate the effectiveness of new splitting iterative methods.     

Trigonometric transform splitting methods for real symmetric Toeplitz systems

In this paper we study efficient iterative methods for real symmetric Toeplitz systems based on the trigonometric transformation splitting (TTS) of the real symmetric Toeplitz matrix $A$. Theoretical analyses show that if the generating function $f$ of the $n\times n$ Toeplitz matrix $A$ is a real positive even function, then the TTS iterative methods converge to the unique solution of the linear system of equations for sufficient large $n$. Moreover, we derive an upper bound of the contraction factor of the TTS iteration which is dependent solely on the spectra of the two TTS matrices involved.Different from the CSCS iterative method in Ng (2003) in which all operations counts concern complex operations when the DFTs are employed, even if the Toeplitz matrix $A$ is real and symmetric, our method only involves real arithmetics when the DCTs and DSTs are used. The numerical experiments show that our method works better than CSCS iterative method and much better than the positive definite and skew-symmetric splitting (PSS) iterative method in Bai et al. (2005) and the symmetric Gauss–Seidel (SGS) iterative method.     

一种基于非均匀采样的图象重建方法

利用分块Toeplitz矩阵和分块循环矩阵的性质,对非均匀采样图象提出了一种重建方法。该方法可以直接利用离散傅立叶变换,不需要迭代,并且可以实时进行。仿真结果表明该算法是有效的。     

Toeplitz矩阵在图像恢复中的应用

从某种意义来说,图像退化的过程可以等价为传输函数和噪声对原始图像矩阵进行线性变换,因而此像恢复过程可以等价于在了解传输函数的基础上,尝试由最小二乘给出解答。当传输函数可分离时,该问题可进一步转化为Toeplitz矩阵的求逆。通过仿真实验,验证了该方法的有效性并给出了算法的数值稳定性分析。     

基于差分算子边缘约束先验的图像盲复原算法

为了有效克服图像在复原过程的边缘退化、振铃效应等影响,使空间域的边缘先验信息能够灵活的添加到图像复原算法中,依据差分算子描述检测边缘的特性,将数字摄影测量学中的拉普拉斯算子、Robert梯度算子、方向差分算子作为一种新的边缘约束先验引入到图像复原过程中,同时使用Toeplitz矩阵实现图像在空间域解卷积的过程,提出了一种以差分算子为边缘约束先验的空域图像复原算法。模拟数据的实验结果体现了更多的细节信息,相关评价指标表明了该算法的有效性。     

Toward a Fundamental Theory of Optimal Feature Selection: Part II-Implementation and Computational Complexit

Certain algorithms and their computational complexity are examined for use in a VLSI implementation of the real-time pattern classifier described in Part I of this work. The most computationally intensive processing is found in the classifier training mode wherein subsets of the largest and smallest eigenvalues and associated eigenvectors of the input data covariance pair must be computed. It is shown that if the matrix of interest is centrosymmetric and the method for eigensystem decomposition is operator-based, the problem architecture assumes a parallel form. Such a matrix structure is found in a wide variety of pattern recognition and speech and signal processing applications. Each of the parallel channels requires only two specialized matrix-arithmetic modules. These modules may be implemented as linear arrays of processing elements having at most O(N) elements where N is the input data vector dimension. The computations may be done in O(N) time steps. This compares favorably to O(N3) operations for a conventional, or general, rotation-based eigensystem solver and even the O(2N2) operations using an approach incorporating the fast Levinson algorithm for a matrix of Toeplitz structure since the underlying matrix in this work does not possess a Toeplitz structure. Some examples are provided on the convergence of a conventional iterative approach and a novel two-stage iterative method for eigensystem decomposition.