基于聚类的单帧图像超分辨率重建方法

为解决单幅图像的超分辨重建问题,提出一种基于聚类的单帧图像超分辨率重建方法.从高分辨率样本图像中学习一个结构聚类型的高分辨率字典,利用迭代收缩算法优化目标方程,求得高分辨率图像的表示系数,使用学习到的高分辨率字典对低分辨率图像进行重构.实验结果表明,与总变分方法、软切割方法和稀疏表示方法相比,该方法的单帧图像超分辨率重建效果较好.     

基于深度学习特征字典的单帧图像超分辨率重建

在基于字典的单帧图像超分辨率重建算法中,依赖人工浅层特征设计的字典表达图像特征能力有限。为此,提出基于深度学习特征字典的超分辨重建方法。该算法首先利用深度网络进行高、低分辨率训练样本图像深层次特征学习;然后,在稀疏字典超分辨框架下联合训练特征字典;最后,输入单帧低分辨率图像并利用该字典实现超分辨率重建。理论分析表明,引入深度网络提取图像深层次特征并用于字典训练,对低分辨率图像的高频信息补充更加有利。实验证明,与双三次插值以及基于一般人工特征字典的超分辨重建算法相比,本文算法的主观视觉和客观评价指标均高于对比算法。     

基于机器学习的遥感图像超分辨综述

综述了基于机器学习的遥感图像超分辨重建技术的研究和发展。基于机器学习的遥感图像超分辨率重建技术通过学习低分辨图像与高分辨图像之间映射的关系,提升遥感图像的空间分辨率,从而有助于遥感图像的视觉分析。根据数据表达方法的不同将基于机器学习的遥感图像超分辨方法分为两类,包括基于字典学习的方法和基于深度学习的方法;简述了各类方法针对的问题,分析其设计思路和实现原理;对各类方法的优缺点和性能指标进行了对比分析;总结了遥感图像超分辨面临的问题和难点,并对未来发展的趋势进行了展望。     

图像超分辨重建算法综述

图像超分辨重建是一种提升图像分辨率的图像处理技术,而超分辨问题是一个难解的欠定问题,近些年来研究人员主要采用基于学习的方法,从大量数据中学习图像先验信息,以实现对解空间的约束。本文介绍了近20年来主流的图像超分辨重建算法,主要分为基于传统特征的方法和基于深度学习的方法。对于传统的超分辨重建算法,阐述了基于邻域嵌入的方法、基于稀疏表示的方法以及基于局部线性回归的方法。对于基于深度学习的超分辨重建算法,详细总结了网络模型结构设计、上采样方式、损失函数形式以及复杂条件下的算法设计4个方面。此外,本文简要分析了超分辨重建技术在视频超分辨、遥感图像超分辨以及在视觉高层任务方面的应用。最后,本文展望了图像超分辨重建技术的未来发展方向。     

基于深度残差反投影注意力网络的图像超分辨率

针对多数单帧图像超分辨率(single image super-resolution,SISR)重建方法存在的特征信息发掘不充分、特征图各通道之间的相互依赖关系难以确定以及重建高分辨率(high resolution,HR)图像时存在重构误差等问题,提出了基于深度残差反投影注意力网络的图像超分辨率(SR)算法。即利用残差学习的思想缓解训练难度和充分发掘图像的特征信息,并使用反投影学习机制学习高低分辨图像之间的相互依赖关系,此外引入了注意力机制动态分配各特征图以不同的注意力资源从而发掘更多的高频信息和学习特征图各通道之间的依赖关系。实验结果表明了所提方法相比于多数单帧图像超分辨率方法,不仅在客观指标方面得到了显著的提升,而且重建的预测图像也具有更加丰富的纹理信息。     

基于聚类和回归的超分辨率方法

基于实例的超分辨算法在超分辨重建技术中得到了广泛的应用,如邻域嵌入算法。这个算法的理论基础建立在流形假设上,而流形假设往往并不是成立。为了避免流形假设,提出了基于聚类和回归的超分辨率方法。由于图像的信息较为复杂,因此首先将图像样本块进行聚类。然后,在高分辨图像块与低分辨图像块中学习局部回归函数。最后应用回归函数进行超分辨重建。将仿真实验结果与其他算法进行比较,证明了该算法的可行性和有效性。     

基于低秩矩阵恢复和联合学习的图像超分辨率重建

文中提出一种新的基于低秩矩阵恢复和联合学习的单帧图像超分辨率重建方法.首先根据相似性将训练样本块分成若干个子集合,使用低秩矩阵恢复方法学习每个子集合的潜在结构.然后使用联合学习方法同时训练出两个投影矩阵,将原始高、低分辨率图像块特征的低秩分量映射到一个统一空间中,最后在该统一空间中完成基于邻域嵌入的图像超分辨率重建.实验结果显示文中方法在数量指标和视觉效果上都优于目前几种典型的图像超分辨率重建方法.     

基于倒易晶胞特征增强的图像超分辨算法

为提高单幅降质图像的分辨率,利用倒易晶胞模型改进了基于样例学习的超分辨算法。首先,在Freeman样例学习超分辨理论框架下,结合倒易晶胞滤波模型增强低分辨率图像特征;然后,将特征增强的低分辨图像与高分辨率图像进行细节对应关系训练;最后,利用训练好的对应关系实现低分辨图像的超分辨重建。该算法削弱了样例学习算法训练阶段"一对多"的病态问题,有效减小了高、低分辨率图像特征空间内在"维度差"。实验结果表明,与双三次插值、邻域嵌入、样例学习超分辨算法相比,该算法在超分辨重建图像主观视觉质量和峰值信噪比(PSNR)客观评价指标中均优于比较算法。     

数字图像超分辨率重建技术综述

图像超分辨率重建的目的是通过一幅或多幅低分辨率降质图像来估计一幅视觉效果较好的高分辨率图像.它从传统的图像恢复与重建技术而来,利用图像之间的信息互补来获得比单幅图像更多的细节.超分辨率技术主要分为两大类:基于重建的超分辨率技术和基于学习的超分辨率技术.基于重建的超分辨率技术按照特定的退化模型,通过输入的图像来估计高分辨率图像.基于学习的超分辨率技术从训练样本中获取先验知识,对输入图像的信息进行补充,可以获得比基于重建的算法更好的效果.对超分辨技术的算法作了系统的介绍,并指出图像的配准、退化模型的建立、盲估计问题、学习模型的建立、学习算法等仍是图像超分辨率技术中存在的主要问题,也是进一步研究的方向.     

单幅图像超分辨重建的深度学习方法综述

图像超分辨重建（Super-Resolution,SR）是指利用信号处理和机器学习等方法,从单幅或者多幅低分辨率图像（Low Resolution,LR）中重建对应的高分辨率图像（High Resolution,HR）的技术。由于多幅LR图像之间亚像素位移的不可预知性,单幅图像超分辨重建（Single Image Super-Resolution,SISR）逐渐成为超分辨研究的主要方向。近年来,深度学习方法得到迅速发展,并广泛应用到图像处理领域。因此,针对单幅图像超分辨重建所使用的深度学习相关算法和网络模型进行系统的总结。介绍图像超分辨问题的设置和评价指标;讨论和比较单幅图像超分辨重建的深度学习算法,主要从网络结构设计、损失函数和上采样方式三方面进行论述;介绍常用的标准数据集,并选用基于不同网络模型的几种典型算法进行实验对比分析;展望图像超分辨技术未来的研究趋势和发展方向。     

Real-world single image super-resolution: A brief review

Single image super-resolution (SISR), which aims to reconstruct a high-resolution (HR) image from a low-resolution (LR) observation, has been an active research topic in the area of image processing in recent decades. Particularly, deep learning-based super-resolution (SR) approaches have drawn much attention and have greatly improved the reconstruction performance on synthetic data. However, recent studies show that simulation results on synthetic data usually overestimate the capacity to super-resolve real-world images. In this context, more and more researchers devote themselves to develop SR approaches for realistic images. This article aims to make a comprehensive review on real-world single image super-resolution (RSISR). More specifically, this review covers the critical publicly available datasets and assessment metrics for RSISR, and four major categories of RSISR methods, namely the degradation modeling-based RSISR, image pairs-based RSISR, domain translation-based RSISR, and self-learning-based RSISR. Comparisons are also made among representative RSISR methods on benchmark datasets, in terms of both reconstruction quality and computational efficiency. Besides, we discuss challenges and promising research topics on RSISR.     

高光谱图像超分辨率重建技术研究进展

不同于传统图像（如灰度图像、RGB图像等）专注于保存目标场景的空间信息,高光谱图像蕴含丰富的空—谱信息,不仅可以保存目标的空间信息,还可以保存具有高可辨性的光谱信息。因此高光谱图像广泛应用于多种计算机视觉和遥感图像任务中,如目标检测、场景分类和目标追踪等。然而,在高光谱图像获取以及重建过程中仍然存在许多问题与瓶颈。如传统高光谱成像仪器在成像过程中通常会引入噪声,且获得的图像往往具有较低的空间分辨率,极大地影响了高光谱图像的质量,对后续数据分析任务造成了极大的困难。近年来,高光谱图像超分辨率重建技术研究得到了极大的发展,现有超分辨率重建方法可以大致分为两类,一类为空间超分辨率重建方法,可以通过直接提升高光谱图像的空间分辨率来获得高质量高光谱图像;另一类为光谱超分辨率重建方法,可以通过提升高空间分辨率图像的光谱分辨率来生成高质量高光谱图像。本文从高光谱图像超分辨率重建领域的新设计、新方法和应用场景出发,通过综合国内外前沿文献来梳理该领域的主要发展,重点论述高光谱图像超分辨率重建领域的发展现状、前沿动态、热点问题及趋势。     

2023年第1期目次

超分辨率(SR)是一类重要的数字图像处理技术,其根据一个观测者得到的低分辨率(LR)图像重 建并输出一个相应的高分辨率(HR)图像,从而提高现代数字图像的分辨率。SR 在数字图像压缩与传输、医学 成像、遥感成像、视频感知与监控等学科中的研究与应用价值巨大。随着深度学习的快速发展,结合最新的深 度学习方法,可以为 SR 问题提供创新性的解决方案。首先回顾 SR 的背景意义、发展过程以及将深度学习应 用于 SR 的技术价值。其次简要介绍传统 SR 算法的基本方法、分类和优缺点;按照不同的实现技术和网络类 型对基于深度学习的 SR 方法进行了分类介绍,重点分析对比了卷积神经网络(CNN)、残差网络(ResNet)和生成 对抗网络(GAN)在 SR 中的应用。然后介绍主要评价指标和解决策略,并对不同的 SR 算法在标准数据集中的 性能表现进行对比。最后总结基于深度学习的 SR 算法,并对未来发展趋势进行展望。     

低分辨人脸识别综述

全面综述了低分辨（Low-Resolution,LR）人脸识别技术的研究进展,并对相关亟需解决的关键问题进行了讨论。对LR人脸识别系统的概念、待解决问题、系统结构、已有不同识别方法进行了分类阐述。根据高、低分辨率人脸图像空间特征维度的不匹配问题,分别对基于重构超分辨（Super-Resolution,SR）图像和基于公共特征子空间两类LR人脸识别方法进行了详细介绍。对每类方法按照不同的实现过程,进一步划分为三种不同的类型分别介绍,并对每类方法模型的主要思想和核心问题进行了分析和讨论。简单介绍了九种标准人脸数据库,从识别性能、平均运行时间和多人脸库实验结果比较等方面对每类代表性方法进行了分析。对LR人脸识别技术在未来发展中需要解决的难点问题给予了展望。     

Single image super-resolution based on space structure learning

In this paper, the learning-based single image super-resolution (SR) is regarded as a problem of space structure learning. We propose a new SR method that identifies a space from the low-resolution (LR) image space that best preserves the structure of the high-resolution (HR) image space. The inference between the two structure-consistent spaces proves to be accurate and predicts HR image patches with higher quality. An effective iterative algorithm is also proposed to find the near-optimal solution to the model, which can be easily implemented in parallel computing. Extensive experiments are performed to show the effectiveness of the proposed algorithm.     

递归式多阶特征融合图像超分辨率算法

目的 近年来,卷积神经网络在解决图像超分辨率的问题上取得了巨大成功,不同结构的网络模型相继被提出。通过学习,这些网络模型对输入图像的特征进行抽象、组合,进而建立了从低分辨率的输入图像到高分辨率的目标图像的有效非线性映射。在该过程中,无论是图像的低阶像素级特征,还是高阶各层抽象特征,都对像素间相关性的挖掘起了重要作用,影响着目标高分辨图像的性能。而目前典型的超分辨率网络模型,如SRCNN（super-resolution convolutional neural network）、VDSR（very deep convolutional networks for super-resolution）、LapSRN（Laplacian pyramid super-resolution networks）等,都未充分利用这些多层次的特征。方法 提出一种充分融合网络多阶特征的图像超分辨率算法：该模型基于递归神经网络,由相同的单元串联构成,单元间参数共享;在每个单元内部,从低阶到高阶的逐级特征被级联、融合,以获得更丰富的信息来强化网络的学习能力;在训练中,采用基于残差的策略,单元内使用局部残差学习,整体网络使用全局残差学习,以加快训练速度。结果 所提出的网络模型在通用4个测试集上,针对分辨率放大2倍、3倍、4倍的情况,与深层超分辨率网络VDSR相比,平均分别能够获得0.24 dB、0.23 dB、0.19 dB的增益。结论 实验结果表明,所提出的递归式多阶特征融合图像超分辨率算法,有效提升了性能,特别是在细节非常丰富的Urban100数据集上,该算法对细节的处理效果尤为明显,图像的客观质量与主观质量都得到显著改善。     

结合深度学习的单幅遥感图像超分辨率重建

目的 克服传统遥感图像超分辨率重建方法依赖同一场景多时相图像序列且需预先配准等缺点,解决学习法中训练效率低和过拟合问题,同时削弱插值操作后的块效应,增强单幅遥感图像超分辨率重建效果。方法 首先构造基于四层卷积的深度神经网络结构,并在结构中前三层卷积后添加参数修正线性单元层和局部响应归一化层进行优化,经过训练得到遥感图像超分辨率重建模型,其次,对多波段遥感图像的亮度空间进行双三次插值,然后使用该模型对插值结果进行重建,并在亮度空间重建结果指导下,使用联合双边滤波来提升其色度空间边缘细节。结果 应用该方法对实验遥感图像进行2倍、3倍、4倍重建时在无参考指标上均优于对比方法,平均清晰度提升约2.5个单位,同时取得了较好的全参考评价结果,在2倍重建时峰值信噪比较传统插值法提升了约2 dB,且平均训练效率较其他学习法提升3倍以上,所得遥感图像重建结果在目视效果上更加细致、自然。结论 实验结果表明,本文设计的网络抗过拟合能力强、训练效率高,重建时针对单幅遥感图像,无需依赖图像序列且不受波段影响,重建结果细节表现较好,具有较强的普适性。     

Single image super-resolution: a comprehensive review and recent insight

Super-resolution (SR) is a long-standing problem in image processing and computer vision and has attracted great attention from researchers over the decades. The main concept of SR is to reconstruct images from low-resolution (LR) to high-resolution (HR).It is an ongoing process in image technology, through up-sampling, de-blurring, and de-noising. Convolution neural network (CNN) has been widely used to enhance the resolution of images in recent years. Several alternative methods use deep learning to improve the progress of image super-resolution based on CNN. Here, we review the recent findings of single image super-resolution using deep learning with an emphasis on distillation knowledge used to enhance image super-resolution., it is also to highlight the potential applications of image super-resolution in security monitoring, medical diagnosis, microscopy image processing, satellite remote sensing, communication transmission, the digital multimedia industry and video enhancement. Finally, we present the challenges and assess future trends in super-resolution based on deep learning.