基于双分支融合的反馈迭代金字塔去模糊和超分辨率算法

针对低分辨率模糊图像实施超分辨率重建后出现大量伪影和边缘纹理不清晰问题,提出了一种双分支融合的反馈迭代金字塔算法.首先采用不同的分支模块分别提取低分辨率模糊图像中潜在的去模糊特征和超分辨率特征信息;然后采用自适应融合机制将两种不同性质的特征进行信息匹配,使网络在去模糊和超分辨率重建模块中更加关注模糊区域;其次使用迭代金字塔重建模块将低分辨率模糊图像渐进重建为逼近真实分布的超分辨率清晰图像;最后重建图像通过分支反馈模块生成清晰低分辨率图像,构建反馈监督.在GOPRO数据集中与现有算法的对比实验结果表明,所提算法能够生成纹理细节更加清晰的超分辨率图像.     

基于生成对抗网络的Sentinel-2遥感图像超分辨率分析

为了将开放访问的Sentinel-2卫星遥感图像的分辨率提升至商业卫星的水平,提出基于生成对抗网络（GAN）的超分辨率分析方法 KN-SRGAN,该方法仅使用开放数据提供的图像,不须高分辨率监督图像,通过核估计和噪声注入构造高-低分辨率图像对训练数据集,构建带有感知特征提取器的GAN,实现卫星图像×4倍的超分辨率分析。与残差通道注意力网络（RCAN）、强化深度残差网络（EDSR）、强化超分辨率生成对抗网络（ESRGAN）、退化核超分辨率生成对抗网络（DKN-SR-GAN）等最新方法比较,KN-SRGAN的生成图在直观视觉效果上具有更清晰的细节以及更好的感知效果,无参考图像质量评估指标的定量对比也证明了KN-SRGAN的有效性。     

基于权重量化与信息压缩的车载图像超分辨率重建

针对智能驾驶领域中需要在内存受限的情况下得到高质量的超分辨率图像的问题,提出一种基于权重八位二进制量化的车载图像超分辨率重建算法。首先,基于八位二进制量化卷积设计信息压缩模块,减少内部冗余,增强网络内信息流动,提高重建速率;然后,整个网络由一个特征提取模块、多个堆叠的信息压缩模块和一个图像重建模块构成,并利用插值后超分辨率空间的信息与低分辨率空间重建后的图像融合,在不增加模型复杂度的基础上,提高网络表达能力;最后,算法中整个网络结构基于对抗生成网络（GAN）框架进行训练,使得到的图片有更好主观视觉效果。实验结果表明,所提算法的车载图像重建结果的峰值信噪比（PSNR）比基于GAN的超分辨率重建（SRGAN）算法提高了0.22 dB,同时其生成模型大小缩小为LapSRN的39%,重建速度提高为LapSRN的7.57倍。     

基于多级跳跃残差组的运动人像去模糊网络

为解决复原后的运动模糊人像图像的轮廓模糊、细节丢失等问题，提出了基于多级跳跃残差组生成对抗网络（GAN）的运动人像去模糊方法。首先，改进残差块以构造多级跳跃残差组模块，并改进PatchGAN的结构以使GAN能够更好地结合各层的图像特征；其次，使用多损失融合的方法优化网络，从而增强重建后图像的真实纹理；最后，采用端到端的模式将运动模糊的人像图像进行盲去模糊操作，并输出清晰的人像图像。在CelebA数据集上的实验结果表明，相较于DeblurGAN(DeblurGAN)、尺度循环网络（SRN）和MSRAN(Multi-ScaleRecurrentAttention Network)等基于卷积神经网络（CNN）的方法，所提方法的峰值信噪比（PSNR）和结构相似度（SSIM）分别至少提高了0.46 dB和0.05；同时，所提方法的模型参数更少，修复速度更快，且复原后的人像图像具有更多的纹理细节。     

基于自注意力生成对抗网络的图像超分辨率重建

针对如何恢复重建后超分辨率图像的纹理细节问题,提出基于自注意力生成对抗网络的图像超分辨率重建模型(SRAGAN).在SRAGAN中,基于自注意力机制和残差模块相结合的生成器用于将低分辨率图像变换为超分辨率图像,基于深度卷积网络构成的判别器试图区分重建后的超分辨率图像和真实超分辨率图像间的差异.在损失函数构造方面,一方面利用Charbonnier内容损失函数来提高图像的重建精度,另一方面使用预训练VGG网络激活前的特征值来计算感知损失以实现超分辨率图像的精确纹理细节重构.实验结果表明,SRAGAN在峰值信噪比和结构相似度分数上均优于当前流行算法,能够重构出更为真实和具有清晰纹理的图像.     

基于生成对抗网络的梯度引导太阳斑点图像去模糊方法

针对云南天文台拍摄的高度模糊的太阳斑点图像采用现有深度学习算法恢复难度大、高频信息难以重建等问题,提出了一种基于生成对抗网络（GAN）与梯度信息联合的去模糊方法来重建太阳斑点图,并很好地恢复出图像的高频信息。该方法由一个生成器与两个鉴别器构成：首先,生成器采用特征金字塔网络（FPN）框架来获取图像多尺度特征,再将这些特征分层次输入梯度分支以梯度图的形式捕获更小的局部特征;然后,联合梯度分支结果与FPN结果共同重建出具有高频信息的太阳斑点图像;其次,在常规对抗鉴别器的基础上,增加了一个鉴别器用于保证由梯度分支产生的梯度图更加真实;最后,引入一个包括像素内容损失、感知损失和对抗损失的联合训练损失来引导模型进行太阳斑点图像高分辨率重建。实验结果表明,进行图像预处理后的所提方法与现有的深度学习去模糊方法相比,高频信息恢复能力更强,峰值信噪比（PSNR）和结构相似性（SSIM）指标均有显著提高,分别达到27.801 0 dB与0.851 0,能够满足太阳观测图像高分辨率重建的需要。     

基于多粒度特征生成对抗网络的跨分辨率行人重识别

现有基于生成对抗网络（GAN）的超分辨率（SR）重建方法用于跨分辨率行人重识别（ReID）时,重建图像在纹理结构内容的恢复和特征一致性保持方面均存在不足。针对上述问题,提出基于多粒度信息生成网络的跨分辨率行人ReID方法。首先,在生成器的多层网络上均引入自注意力机制,聚焦多粒度稳定的结构关联区域,重点恢复低分辨率（LR）行人图像的纹理结构信息;同时,在生成器后增加一个识别器,在训练过程中最小化生成图像与真实图像在不同粒度特征上的损失,提升生成图像与真实图像在特征上的一致性。然后,联合自注意力生成器和识别器,与判别器交替优化,在内容和特征上改进生成图像。最后,联合改进的GAN和行人ReID网络交替训练优化网络的模型参数,直至模型收敛。在多个跨分辨率行人数据集上的实验结果表明,所提算法的累计匹配曲线（CMC）在其首选识别率（rank?1）上的准确率较现有同类算法平均提升10个百分点,在提升SR图像内容一致性和特征表达一致性方面均表现更优。     

结合GAN和风格迁移的太阳斑点图重建方法

在云南天文台拍摄的模糊太阳斑点图的超分辨率重建过程中,采用现有深度学习算法存在高频信息难以恢复、重建图不够清晰等问题,为此,提出一种结合GAN(生成对抗网络)和风格迁移网络的太阳斑点图超分辨率重建方法STYLE-NICE-GAN。首先,利用GAN获取低分辨率太阳斑点图到Level1+高分辨率太阳斑点图的映射关系,重建太阳斑点图的全局轮廓和部分细节;其次,使用风格迁移网络,对GAN的重建结果进行二次重建,在保留局部细节、高频信息和不影响后续分析的同时,提高图像的整体对比度和清晰度。实验结果表明,与现有深度学习超分辨率重建算法相比,该方法具有重建图像清晰度更高、高频信息恢复能力更强的优点,重建结果在两个有参考评价指标PSNR、SSIM和三个无参考评价指标BRISQUE、NIQE、PIQE上的评价均占有优势。     

基于简单通道注意力机制的单图像超分辨率重建算法

现有的单图像超分辨率重建算法一般存在重建图像过于失真或将低分辨率图像噪点放大的问题，针对上述两个问题，提出一种基于简单通道注意力机制的生成对抗网络(SCAGAN)模型。采用随机高阶退化模型缓解重建图像过于失真的问题；加入简单通道注意力机制模块到残差密集块中作为模型的生成器网络模块，解决重建图像将低分辨率图像重建后噪点会放大的问题。实验数据表明，与现有的超分辨率算法相比，该算法有效降低了重建图像过于失真与将低分辨率图像噪点放大的问题，重建出的图像更加真实自然。     

图像超分辨率重建算法综述

图像超分辨率重建旨在从低分辨率图像恢复出高分辨率清晰图像。阐述了典型图像超分辨率重建方法的思想,从上采样位置和上采样方法、学习策略、损失函数等维度,对典型和最新的基于深度学习的图像超分辨率重建算法进行了评述,分析了最新的发展现状,并对未来发展趋势进行了展望。     

用于单幅模糊图像超分辨的Transformer融合网络

目的 以卷积神经网络为代表的深度学习方法已经在单帧图像超分辨领域取得了丰硕成果,这些方法大多假设低分辨图像不存在模糊效应。然而,由于相机抖动、物体运动等原因,真实场景下的低分辨率图像通常会伴随着模糊现象。因此,为了解决模糊图像的超分辨问题,提出了一种新颖的Transformer融合网络。方法 首先使用去模糊模块和细节纹理特征提取模块分别提取清晰边缘轮廓特征和细节纹理特征。然后,通过多头自注意力机制计算特征图任一局部信息对于全局信息的响应,从而使Transformer融合模块对边缘特征和纹理特征进行全局语义级的特征融合。最后,通过一个高清图像重建模块将融合特征恢复成高分辨率图像。结果 实验在2个公开数据集上与最新的9种方法进行了比较,在GOPRO数据集上进行2倍、4倍、8倍超分辨重建,相比于性能第2的模型GFN(gated fusion network),峰值信噪比(peak signal-to-noive ratio,PSNR)分别提高了0.12 dB、0.18 dB、0.07 dB;在Kohler数据集上进行2倍、4倍、8倍超分辨重建,相比于性能第2的模型GFN,PSNR值分别提高了0.17 dB、0.28 dB、0.16 dB。同时也在GOPRO数据集上进行了对比实验以验证Transformer融合网络的有效性。对比实验结果表明,提出的网络明显提升了对模糊图像超分辨重建的效果。结论 本文所提出的用于模糊图像超分辨的Transformer融合网络,具有优异的长程依赖关系和全局信息捕捉能力,其通过多头自注意力层计算特征图任一局部信息在全局信息上的响应,实现了对去模糊特征和细节纹理特征在全局语义层次的深度融合,从而提升了对模糊图像进行超分辨重建的效果。     

基于结构重参数化的太阳斑点图像弱监督去模糊方法

针对云南天文台拍摄的模糊太阳斑点图像使用有监督学习模型进行重建时容易产生伪像、训练时间长、重建结果过分依赖参考图像等问题,提出一种基于结构重参数化与多分支模块相结合的弱监督去模糊方法重建太阳斑点图。首先,结合单尺度与多尺度网络设计去模糊模型,在模型中构造多分支模块提取不同尺度的特征,增强细节信息,减少伪像生成;其次,对每个分支结构进行重参数化,使得结构参数的重用贯穿整个特征提取过程,节省计算时间;之后,将去模糊模型分别嵌入退化学习与逆退化学习的弱监督训练中,先对模糊图像进行等级划分,利用退化模型分别学习不同等级的退化,构成对应等级的配对数据集,再使用去模糊模型对数据集进行逆退化,实现太阳斑点图的重建。实验结果表明,该方法与现有深度学习去模糊方法相比,模型训练效率更高,对参考图像的依赖较小,能够满足太阳斑点图像高分辨率重建要求。     

基于模糊模式感知模块的场景文本图像超分辨率算法

现有的场景文本识别器容易受到模糊文本图像的困扰, 导致在实际应用中性能较差. 因此近年来研究人员提出了多种场景文本图像超分辨率模型作为场景文本识别的预处理器, 以提高输入图像的质量. 然而, 用于场景文本图像超分辨率任务的真实世界训练样本很难收集; 此外, 现有的场景文本图像超分辨率模型只学习将低分辨率(LR)文本图像转换为高分辨率(HR)文本图像, 而忽略了从HR到LR图像的模糊模式. 本文提出了模糊模式感知模块, 该模块从现有的真实世界HR-LR文本图像对中学习模糊模式, 并将其转移到其他HR图像中, 以生成具有不同退化程度的LR图像. 本文所提出的模糊模式感知模块可以为场景文本图像超分辨率模型生成大量的HR-LR图像对, 以弥补训练数据的不足, 从而显著提高性能. 实验结果表明, 当配备提出的模糊模式感知模块时, 场景文本图像超分辨率方法的性能可以进一步提高, 例如, SOTA方法TG在使用CRNN文本识别器进行评估时, 识别准确率提高了5.8%.     

融合参考图像的人脸超分辨率重构方法

基于深度学习的图像超分辨率重构方法对低分辨率人脸图像进行超分辨率重构时,通常存在重构图像模糊和重构图像与真实图像差异较大等问题.基于此问题,文中提出融合参考图像的人脸超分辨率重构方法,可以实现对低分辨率人脸图像的有效重构.参考图像特征提取子网提取参考图像的多尺度特征,保留人脸神态和重点部位的细节特征信息,去除人脸轮廓和面部表情等冗余信息.基于提取的参考图像多尺度特征,逐级超分主网络对低分辨率人脸图像特征进行逐次填充,最终重构生成高分辨率的人脸图像.在数据集上的实验表明,文中方法可以实现对低分辨率人脸图像的有效重构,具有良好的鲁棒性.     

暗像素先验的模糊图像盲复原方法

图像的盲去模糊问题是一个长期的且具有挑战性的逆问题。能否找到正确的图像先验是能否复原出高质量清晰图像的关键。因此,为了能够复原出高质量的清晰图像,找到了一种新的且有效的图像先验--图像中的暗像素先验,并提出了一种基于暗像素先验的模糊图像盲复原方法。该方法是基于模糊图像的内在本质特性所提出的,模糊图像中的暗像素是非稀疏的。在模糊过程中,清晰图像中的暗像素会因为与它周围的亮像素进行加权平衡,而导致模糊图像中暗像素的像素值增加,从而导致模糊图像中暗像素的稀疏性降低。因此,利用模糊图像中暗像素的这种非稀疏特性,能够有效区分模糊图像和清晰图像,从而实现模糊图像的盲复原。但是,基于暗像素的先验会导致一种非凸和非线性的最优化问题,为了能够有效地求解提出的模型,引入了一种最小化操作的线性近似来实现提出模型的最优化求解。大量的实验证明了该方法与近几年一些极具代表性的模糊图像盲复原方法相比,具有更好的性能。     

多监督损失函数光滑化图像超分辨率重建

目的 将低分辨率（low-resolution,LR）图像映射到高分辨率（high-resolution,HR）图像是典型的不适定恢复问题,即输出的HR图像和输入的LR图像之间的映射是多对一的,这意味着仅通过增加网络深度来确定HR图像与LR图像之间的特定映射关系是非常困难的。针对该问题,本文提出一种基于多监督光滑化损失函数的图像超分辨率方法。方法 该方法主体由LR图像上采样通道和HR图像下采样通道两部分组成。各通道分为两个阶段,每个阶段均包括浅层特征提取模块、基于迭代采样错误反馈机制的采样模块、全局特征融合模块和图像重建模块。将LR图像上采样通道第1阶段结果与HR图像下采样通道第1阶段结果对比,然后将HR原图像和HR图像下采样通道第2阶段结果作为约束构成多监督,使映射函数空间尽可能精确,并将多监督损失函数光滑化保证梯度在全局范围内传递。结果 在基准测试集Set5、Set14、BSD100（Berkeley segmentation dataset）、Urban100（urban scenes dataset）、Manga109（109 manga volumes dataset）数据集上进行测试,并与Bicubic、SRCNN （super-resolution convolutional neural network）、FSRCNN （fast super-resolution convolutional neural network）、LapSRN （Laplacian pyramid super-resolution network）、VDSR （very deep super-resolution convolutional networks）、DBPN （deep back-projection networks for super-resolution）和DRN （dual regression networks）等方法的实验结果进行对比。当放大因子为4时,本文算法的峰值信噪比分别为32.29 dB、28.85 dB、27.61 dB、26.16 dB和30.87 dB;在重建图像的可视化分析方面,本文算法相较于对比算法具有更加丰富的纹理和清晰的轮廓。结论 实验结果表明,基于多监督光滑化损失函数方法的图像重建结果与其他超分辨率主流算法相比,在重建图像质量和高频细节处理方面均有所提高。     

基于辐照度的运动模糊图像去模糊

目的 已有的图像运动去模糊研究没有考虑模糊实际上发生在辐照度图像中的问题,也缺少自动检测成块饱和像素的方法。针对这两个问题,提出基于辐照度的运动模糊图像去模糊方法。方法 提出能量累积形成模糊的运动过程与摄像机响应函数相结合的摄像机响应函数求解方法,以及基于块的饱和像素自动检测算法并在此基础上,对辐照度图去除运动模糊和亮度还原,实现清晰原图恢复。结果 对单幅图像的定性去模糊取得了比直接去模糊等前人方法更小的振铃,较好的噪声抑制和清晰图像还原效果;采用信噪比的定量对比也取得较前人方法更高的数值。结论 基于辐照度的方法对图像运动去模糊效率有提升作用。     

Local motion deblurring using an effective image prior based on both the first- and second-order gradients

Local motion deblurring is a highly challenging problem as both the blurred region and the blur kernel are unknown. Most existing methods for local deblurring require a specialized hardware, an alpha matte, or user annotation of the blurred region. In this paper, an automatic method is proposed for local motion deblurring in which a segmentation step is performed to extract the blurred region. Then, for blind deblurring, i.e., simultaneously estimating both the blur kernel and the latent image, an optimization problem in the form of maximum-a-posteriori (MAP) is introduced. An effective image prior is used in the MAP based on both the first- and second-order gradients of the image. This prior assists to well reconstruct salient edges, providing reliable edge information for kernel estimation, in the intermediate latent image. We examined the proposed method for both global and local deblurring. The efficiency of the proposed method for global deblurring is demonstrated by performing several quantitative and qualitative comparisons with the state-of-the-art methods, on both a benchmark image dataset and real-world motion blurred images. In addition, in order to demonstrate the efficiency in local motion deblurring, the proposed method is examined to deblur some real-world locally linear motion blurred images. The qualitative results show the efficiency of the proposed method for local deblurring at various blur levels.