一种并行结构化支持向量机次梯度投影算法

支持向量机的次梯度投影算法是解决支持向量机优化求解问题的一种简单有效的迭代算法。该算法通过梯度下降和投影两个步骤的多轮迭代,找到两类最大间隔的分类面。针对该算法忽略了对寻找分类面同样有指导意义的样本分布信息这一问题,在分类器设计中融入结构信息,并且采用MapReduce并行计算框架,提出了一种并行结构化支持向量机的次梯度投影算法,该算法能够充分利用集群的计算和存储能力,适用于海量数据的优化问题。在NASA的两个软件模块缺陷度量数据集CM1和PC1上的实验结果表明,该算法能够加快收敛速度,提高分类性能,有效地解决海量数据的优化求解问题。     

线性插值投影次梯度方法的最优个体收敛速率

投影次梯度算法(projected subgradient method, PSM)是求解非光滑约束优化问题最简单的一阶梯度方法,目前只是对所有迭代进行加权平均的输出方式得到最优收敛速率,其个体收敛速率问题甚至作为open问题被提及.最近,Nesterov和Shikhman在对偶平均方法(dual averaging method, DAM)的迭代中嵌入一种线性插值操作,得到一种拟单调的求解非光滑问题的次梯度方法,并证明了在一般凸情形下具有个体最优收敛速率,但其讨论仅限于对偶平均方法.通过使用相同技巧,提出了一种嵌入线性插值操作的投影次梯度方法,与线性插值对偶平均方法不同的是,所提方法还对投影次梯度方法本身进行了适当的修改以确保个体收敛性.同时证明了该方法在一般凸情形下可以获得个体最优收敛速率,并进一步将所获结论推广至随机方法情形.实验验证了理论分析的正确性以及所提算法在保持实时稳定性方面的良好性能.     

多智能体系统的多步近似次梯度随机投影优化算法

基于切换网络下带有随机时延和随机通讯噪声的多智能体系统模型,提出分布式多步近似次梯度随机投影算法,并对算法的收敛性进行分析.首先,利用网络扩维的方法将含随机时延的通讯网络转化为无时延网络;其次,提出近似次梯度概念,并设计多步近似次梯度随机批量投影算法,批量随机投影可以避免在实际问题中整体约束集合不易获得而导致投影算子不...     

模糊时间窗VRP的动态规划和禁忌搜索混合算法

为优化具有模糊时间窗的车辆路径问题,以物流配送成本和顾客平均满意度为目标,建立了多目标数学规划模型。基于Pareto占优的理论给出了求解多目标优化问题的并行多目标禁忌搜索算法,算法中嵌入同时优化顾客满意度的动态规划方法,运用阶段划分,把原问题分解为关于紧路径的优化子问题。对模糊时间窗为线性分段函数形式和非线性凹函数形式的隶属度函数,分别提出了次梯度有限迭代算法和次梯度中值迭代算法来优化顾客的最优开始服务时间。通过Solomon的标准算例,与次梯度投影算法的比较验证了动态规划方法优化服务水平的有效性,与主流的NSGA-II算法的对比实验表明了该研究提出的多目标禁忌搜索算法的优越性。     

利用模糊次梯度算法求解拉格朗日松弛对偶问题

针对利用次梯度算法处理拉格朗日松弛对偶问题时，计算过程容易出现振荡，求解效率较低的问题，首先提出了一种基于模糊理论的次梯度算法，利用隶属度函数给出迭代过程中所有次梯度的合适权重，并将它们线性加权得到新的迭代方向；其次证明了算法的收敛性；最后通过仿真实验验证了该方法的有效性．     

定步长压缩感知锥束CT重建算法

针对锥束CT成像系统中投影数据不完全的图像重建问题,提出了一种定步长压缩感知锥束CT重建算法。首先将锥束CT重建问题归结为投影数据均方误差作为数据保真项、全变分作为正则项的无约束优化问题,分析目标函数的Lipschitz连续性;然后近似计算Lipschitz常数,求出梯度下降步长,利用梯度下降法进行重建;最后对CT投影数据采用联合代数重建算法更新重建图像。在每次迭代过程中调整梯度下降步长,提高重建算法的收敛速度。Shepp-Logan模型的无噪声实验结果表明,该算法的重建图像信噪比分别比联合代数重建算法、自适应最速下降-凸集投影算法、BB梯度投影算法的重建图像信噪比高出13.7728dB、12.8205dB、7.3580dB。仿真试验表明该重建算法提高了收敛速度,同时减少了重建图像的相对误差,极大提高了用少量投影数据重建的图像质量。     

定步长压缩感知锥束CT重建算法

针对锥束CT成像系统中投影数据不完全的图像重建问题,提出了一种定步长压缩感知锥束CT重建算法。首先将锥束CT重建问题归结为投影数据均方误差作为数据保真项、全变分作为正则项的无约束优化问题,分析目标函数的Lipschitz连续性;然后近似计算Lipschitz常数,求出梯度下降步长,利用梯度下降法进行重建;最后对CT投影数据采用联合代数重建算法更新重建图像。在每次迭代过程中调整梯度下降步长,提高重建算法的收敛速度。Shepp-Logan模型的无噪声实验结果表明,该算法的重建图像信噪比分别比联合代数重建算法、自适应最速下降-凸集投影算法、BB梯度投影算法的重建图像信噪比高出13.7728 dB、12.8205 dB、7.3580 dB。仿真试验表明该重建算法提高了收敛速度,同时减少了重建图像的相对误差,极大提高了用少量投影数据重建的图像质量。     

自适应步长非局部全变分约束迭代图像重建算法

针对计算机断层成像（CT）系统中,全变分（TV）迭代约束模型易于产生阶梯效应以及不能很好地保存图像中精细结构的问题,提出一种自适应步长的非局部全变分（NLTV）约束迭代重建算法。考虑到NLTV模型能较好保存和恢复图像细节以及纹理的特点,首先将CT模型当成在满足投影数据的保真项的解集中寻找满足特定正则项即NLTV最小化的解约束优化模型;然后,使用代数重建（ART）算法和分离布雷格曼（SB）来确保重建结果满足数据保真项和正则化项的约束;最后,以自适应最速下降-投影到凸集（ASD-POCS）算法作为基础迭代框架来重建图像。实验结果表明,在不含噪声的稀疏重建条件下,提出的算法使用30个角度的投影数据已经可以重建出理想的结果。在含噪稀疏数据重建实验中,该算法在30次迭代时已得到接近最终收敛的结果,且均方根误差（RMSE）是ASD-POCS算法的2.5倍。该重建算法能在稀疏投影数据下重建出精确的结果图像,同时改善了TV迭代模型的细节重建能力,且对噪声有一定的抑制作用。     

梯度有偏情形非光滑问题NAG的个体收敛性

随机优化方法已经成为处理大规模正则化和深度学习优化问题的首选方法,其收敛速率的获得通常都建立在目标函数梯度无偏估计的基础上,但对机器学习问题来说,很多现象都导致了梯度有偏情况的出现.与梯度无偏情形不同的是,著名的Nesterov加速算法NAG(Nesterov accelerated gradient)会逐步累积每次迭代中的梯度偏差,从而导致不能获得最优的收敛速率甚至收敛性都无法保证.近期的研究结果表明,NAG方法也是求解非光滑问题投影次梯度关于个体收敛的加速算法,但次梯度有偏对其影响的研究未见报道.针对非光滑优化问题,证明了在次梯度偏差有界的情况下,NAG能够获得稳定的个体收敛界,而当次梯度偏差按照一定速率衰减时,NAG仍然可获得最优的个体收敛速率.作为应用,得到了一种无需精确计算投影的投影次梯度方法,可以在保持收敛性的同时较快地达到稳定学习的精度.实验验证了理论分析的正确性及非精确方法的性能.     

基于L1与TV正则化的改进图像重建算法

针对不完全投影数据图像重建中出现伪影和噪点的问题,提出了L1与TV同时进行正则化的图像重建模型。基于该重建模型,通过将Bregman迭代和TV软阈值滤波相结合,进一步提出了一种图像重建算法。该算法首先将投影数据通过优化的Bregman迭代算法进行初步重建,然后使用TV软阈值滤波对改造的全变分模型进行二次重建,最后判断是否满足设定的收敛阈值,若满足则结束重建,输出重建图像,否则重复进行上述两步操作,直至迭代完成。实验采用不添加噪声的Shepp-Logan模型与添加噪声的Abdomen模型来验证算法的有效性,证明了所提出的算法在视觉上均优于ART,LSQR,LSQT-STF,BTV等典型的图像重建算法,同时通过多项评价指标对比表明所提出的算法有明显优势。实验结果表明,所提算法在图像重建中能够有效去除条形伪影并保护图像细节,同时具有良好的抗噪性。     

基于改进Landweber算法的静电传感器研究

由于静电层析成像信息量少且本身为严重病态导致图像重建分辨率很低,为了提高图像重建质量,提出了一种改进的Landweber图像重建算法.采用线性反投影(LBP)算法重构的图像作为Landweber 迭代算法的初始值,再以Landweber算法重构最终图像.仿真实验表明:采用改进的Landweber迭代算法较之单独使用LBP算法和Landweber算法有较好的成像效果,可提高成像精度,较准确地判断管道内电荷的分布情况.     

An Extragradient Algorithm for Monotone Variational Inequalities

A new iterative algorithm is proposed for solving the variational inequality problem with a monotone and Lipschitz continuous mapping in a Hilbert space. The algorithm is based on the following two well-known methods: the Popov algorithm and so-called subgradient extragradient algorithm. An advantage of the algorithm is the computation of only one value of the inequality mapping and one projection onto the admissible set per one iteration. The weak convergence of sequences generated by the proposed algorithm is proved.     

A (/spl mu/ + /spl lambda/) evolutionary algorithm for reconstruction of SPECT data

Algorithms used to reconstruct single photon emission computed tomography (SPECT) data are based on one of two principles: filtered back projection or iterative methods. In this paper, an evolution strategy (ES) was applied to reconstruct transaxial slices of SPECT data. Evolutionary algorithms are stochastic global search methods that have been used successfully for many kinds of optimization problems. The newly developed reconstruction algorithm consisting of /spl mu/ parents and /spl lambda/ children uses a random principle to readjust the voxel values, whereas other iterative reconstruction methods use the difference between measured and simulated projection data. The (/spl mu/ + /spl lambda/)-ES was validated against a test image, a heart, and a Jaszczak phantom. The resulting transaxial slices show an improvement in image quality, in comparison to both the filtered back projection method and a standard iterative reconstruction algorithm.     

一类广义的乘积型迭代算法

文中利用Ｂｒｅｇｍａｎ函数构造的Ｄ偏差函数定义放射ＣＴ图像重建的投影数据与图象经数值投影得到的数据之间的偏差，由此构造了广义乘积型迭代式，发现ＥＣＴ中的ＭＬ－ＥＭ，ＩＳＲＡ等算法都是本迭代式的特例，最后，将其中几种典型情况用于单光子放射ＣＴ（ＳＰＥＣＴ）图象重建。得到了优于ＭＬ－ＥＭ，ＩＳＲＡ算法的结果。     

改进的多光谱遥感影像超分辨率重构算法

针对现有遥感影像重构算法数据资源有限、配准精度低等问题,结合遥感影像的光谱特征,提出一种改进的多光谱遥感影像超分辨率重构算法。提取场景结构特征作为重构的正则化约束条件,保持重构结果中的高频信息。利用波段间的交叉相关,获得场景的结构特征信息。通过迭代反投影算法对单波段影像进行重构,将其合成为全色高分辨率遥感影像。仿真实验结果表明,该算法的重构效果较优。     

Perturbation‐resilient block‐iterative projection methods with application to image reconstruction from projections

A block‐iterative projection algorithm for solving the consistent convex feasibility problem in a finite‐dimensional Euclidean space that is resilient to bounded and summable perturbations (in the sense that convergence to a feasible point is retained even if such perturbations are introduced in each iterative step of the algorithm) is proposed. This resilience can be used to steer the iterative process towards a feasible point that is superior in the sense of some functional on the points in the Euclidean space having a small value. The potential usefulness of this is illustrated in image reconstruction from projections, using both total variation and negative entropy as the functional.     

影响ART算法重建CT图像的因素浅析

CT的基本原理是由投影重建图像,关于重建算法,提出了许多算法,其大致可以分为两大类:一类称为解析法,一类是迭代法。其中在常用的迭代重建算法即代数重建技术[1,2](Algebraic Reconstruction Technique简称为ART)ART算法中,很多因素影响图像重建的质量和效果,本文进行了一些参数仿真分析,成像效果比较。     

结合梯度投影稀疏重构和复数小波的图像重构

压缩感知主要包括随机投影和重构两部分。针对迭代收缩算法收敛速度较慢,普通二维小波变换缺少方向性表示的缺点,利用置乱离散余弦变换（PDCT）实现随机投影,重构时采用梯度投影算法,在简化计算的基础上,通过迭代的方式完善图像在双树复数小波域的变换系数,最后经反变换后得到重构图像。在同一重构算法下,比较了利用双树复数小波变换和双正交小波变换的重构结果,结果表明前者重构后的图像在细节和平滑度上优于后者,在峰值信噪比（PSNR）上平均高出约1.5 dB;同一稀疏域中,梯度投影算法的收敛速度优于迭代收缩算法;相同稀疏域和重构算法下,PDCT与结构随机矩阵相比在PSNR上略高。