无参考图像质量评价研究进展

图像质量评价一直是图像处理和计算机视觉领域的一个基础问题,图像质量评价模型也广泛应用于图像/视频编码、超分辨率重建和图像/视频视觉质量增强等相关领域。图像质量评价主要包括全参考图像质量评价、半参考图像质量评价和无参考图像质量评价。全参考图像质量评价和半参考图像质量评价分别指预测图像质量时参考信息完全可用和部分可用,而无参考图像质量评价是指预测图像质量时参考信息不可用。虽然全参考和半参考图像质量评价模型较为可靠,但在计算过程中必须依赖参考信息,使得应用场景极为受限。无参考图像质量评价模型因不需要依赖参考信息而有较强的适用性,一直都是图像质量评价领域研究的热点。本文主要概述2012—2020年国内外公开发表的无参考图像质量评价模型,根据模型训练过程中是否需要用到主观分数,将无参考图像质量评价模型分为有监督学习和无监督学习的无参考图像质量评价模型。同时,每类模型分成基于传统机器学习算法的模型和基于深度学习算法的模型。对基于传统机器学习算法的模型,重点介绍相应的特征提取策略及思想;对基于深度学习算法的模型,重点介绍设计思路。此外,本文介绍了图像质量评价在新媒体数据中的研究工作及图像质量评价的应用。最后对介绍的无参考图像质量评价模型进行总结,并指出未来可能的发展方向。     

跨失真表征的特征聚合无参考图像质量评价

针对现有的基于深度学习的无参考图像质量评价模型容易过拟合，并且对真实失真场景中的未知失真类型难辨识问题，提出一个跨失真表征的特征聚合无参考图像质量评价框架。采用与模型无关的元学习优化算法，学习跨不同失真类型的特征表达，缓解模型过拟合影响；将元学习算法与注意力机制、图神经网络相结合，设计特征聚合模块学习每种失真类型的显著性特征；设计图表示模块学习每种失真类型共有的失真信息，削弱图像内容变化对质量预测的影响。实验结果表明，所提算法在预测真实失真图像质量时能够充分挖掘失真图像的高级语义信息，有效解决真实失真场景下失真图像内容变化、未知失真类型复杂的问题，具有较强的推理和泛化能力。     

自适应融合局部和全局特征的图像质量评价

无参考图像质量评价通过算法来量化图像质量的失真程度。有效建立失真位置与周围空间的依赖关系能提高质量预测的准确性,但目前基于卷积神经网络的无参考图像质量评价方法,仅通过传统的卷积对局部失真区域进行特征提取,无法有效地获取全局的失真关系,容易弱化对失真扭曲等特征表示。因此,提出了一种基于自适应融合局部和全局特征的图像质量评价算法。在待评价图像上进行特征提取时,自适应地构建围绕每个空间位置的长距离空间和通道间的依赖关系,通过全局失真关系来增强局部特征信息的表征能力;增强图像的细节信息,并在不同尺度的特征层上自适应地融合局部和全局失真信息,整合更加丰富的失真特性,进而提高特征的判别性;再将多个尺度上的不同失真信息进行融合获得最终的质量评价得分,这种融合可以避免图像浅层信息的损失。为验证模型的有效性,在真实失真和合成失真数据集上进行实验对比分析,结果表明,在真实失真数据集LIVEC上SROCC达到0.867,对图像质量的预测更符合人类对质量的感知。     

基于显著性深层特征的无参考图像质量评价算法

针对通用型无参考图像质量评价（NR-IQA）算法,提出一种基于伪参考图像显著性深层特征的评价算法。首先,在失真图像的基础上,利用微调的ConSinGAN模型生成相应的伪参考图像作为失真图像的补偿信息,弥补NRIQA算法缺少真实参考信息的不足;然后,提取伪参考图像的显著性信息,将伪参考显著性图像与失真图像输入到VGG16网络中提取深层特征;最后,融合二者的深层特征并将其映射到由全连接层组成的回归网络中,从而产生与人类视觉一致的质量预测。为了验证算法的有效性,在四个大型公开的图像数据集TID2013、TID2008、CSIQ与LIVE上进行实验,结果显示所提算法在TID2013数据集上的斯皮尔曼秩相关系数（SROCC）比H-IQA算法提升了5个百分点,比RankIQA算法提升了14个百分点,针对单一失真类型也具有稳定的性能。实验结果表明,所提算法总体表现优于现有主流全参考图像质量评价（FR-IQA）和NR-IQA算法,与人类主观感知表现一致。     

基于显著性深层特征的无参考图像质量评价算法

针对通用型无参考图像质量评价（NR-IQA）算法,提出一种基于伪参考图像显著性深层特征的评价算法。首先,在失真图像的基础上,利用微调的ConSinGAN模型生成相应的伪参考图像作为失真图像的补偿信息,弥补NRIQA算法缺少真实参考信息的不足;然后,提取伪参考图像的显著性信息,将伪参考显著性图像与失真图像输入到VGG16网络中提取深层特征;最后,融合二者的深层特征并将其映射到由全连接层组成的回归网络中,从而产生与人类视觉一致的质量预测。为了验证算法的有效性,在四个大型公开的图像数据集TID2013、TID2008、CSIQ与LIVE上进行实验,结果显示所提算法在TID2013数据集上的斯皮尔曼秩相关系数（SROCC）比H-IQA算法提升了5个百分点,比RankIQA算法提升了14个百分点,针对单一失真类型也具有稳定的性能。实验结果表明,所提算法总体表现优于现有主流全参考图像质量评价（FR-IQA）和NR-IQA算法,与人类主观感知表现一致。     

基于空域特征的无参考图像质量评价算法

针对现有无参考图像质量评价算法通用性差,且存在高计算复杂度的问题,提出一种基于图像空域统计特征的无参考图像质量评价算法。该算法引入图像对数统计特性,通过度量失真图像与自然图像统计特征之间的偏差,实现无参考图像质量评价。仿真测试结果表明,与现有无参考技术相比,提出算法简单有效,适用于多种失真类型,且与人类主观感知具有较好一致性。     

基于概率矩阵分解的多失真图像质量评估算法

图像质量评价(Image Quality Assessment, IQA)是视觉感知模型研究的重要分支,使用IQA算法自动化地评估图像质量有广阔的应用前景。基于概率矩阵分解(Probability Matrix Factorization)提出一种多失真图像质量评价算法,主要贡献有:提出一种图像质量评价的新思路,即利用PMF方法从失真图像估计参考图像,把失真图像和估计参考图像之间的信息损失作为图像质量的度量;构建新颖的特征向量描述这种信息损失;使用支持向量回归(Support Vector Regression, SVR)完成图像质量模型的训练。提出的算法在多个公开的图像质量评价数据库上超过了经典方法,实验结果证明该方法与人的主观质量评价具有更好的一致性。     

基于梯度相关性分解的无参考图像质量评价方法

目前大部分无参考型的图像质量评价方法都是基于图像的几何特征进行描述的,但是这种方法对于图像的边界要求较为严格,并且在实际应用中的图像的失真类型是未知的。针对这一缺点,提出一种基于梯度相关性分解的无参考图像质量评价(DGS)方法,该方法提取图像的梯度,对其进行奇异值分解作为图像的主要结构信息,以此对图像的质量进行评价。实验结果表明,DGS模型比通用的简单有效的峰值信噪比(或均方误差)模型更符合人眼视觉系统特性,能在无参考的情况下更好地评价图像质量,并与图像的主观评价值达到更准确的一致性。     

基于变差函数全局纹理增强的结构相似度图像质量评价

为解决结构相似度算法的图像质量评价缺陷,提出了一种基于变差函数全局纹理增强的结构相似度图像质量评价。该方法首先利用改进的对数变差函数模型提取原图像和失真图像在水平0°、垂直90°和对角45°、135°四个方向的纹理信息特征,然后分别求出对应的纹理增强图像,最后改进SSIM中的结构信息来确定纹理区域的明显失真,计算得到整幅图像的VSSIM值。目前大多数的全参考评价方法不能对数据库中的所有失真类型进行评价,只能对某一类固定的失真类型来评价。本方法对LIVE数据库中的五种失真类型都适用,仿真实验表明,该算法对五种不同失真类型的评价结果具有一定的合理性,并且与主观评价数据库较为一致,其性能也优于其他质量评价模型。     

基于生成感知差异的无参考图像质量评价模型

人眼视觉系统中的视觉感知差异是图像质量评价过程中的重要组成部分,通过感知失真图像与原始图像之间的视觉差异,可对图像的失真程度进行判断,然而在无参考图像质量评价中无法获取原始未失真的图像,且缺乏对失真图像的视觉感知差异。通过对深度学习中的生成对抗网络进行分析,提出一种基于生成视觉感知差异的无参考图像质量评价模型。利用生成对抗网络产生与失真图像相对应的视觉感知差异图像,并将其与失真图像输入质量评价网络以进一步学习图像的失真信息,从而达到评估图像质量的目的。在TID2008和TID2013数据库上的实验结果表明,与CNN、SOM、CORNIA等模型相比,该模型能够使失真图像质量预测准确度提升1个百分点以上,且对不同种类失真也表现出良好的预测性能。     

信息量加权的梯度显著度图像质量评价

目的：针对信息量加权结构化图像质量评价算法(Information Content Weighted SSIM, IW-SSIM)对图像局部失真度量能力的不足,提出了一种被称为信息量加权的梯度显著度图像质量评价改进算法(Information Content Weighted Gradient Salience SSIM, IW-GS-SSIM)。方法：该算法首先根据人眼视觉系统响应亮度刺激的韦伯定律,仅在空域内利用一次滤波快速计算出当前像素点与背景之间的对比度并将其非线性映射为该像素点的视觉显著度。然后,将视觉显著度与梯度特征结合后获得了一种新的被称为梯度显著度局部失真度量(GS-SSIM)并将其替换IW-SSIM算法中的SSIM局部结构化度量。结果：在六大公开基准数据库上完成的大量对比实验表明：对于图像的各种噪声和模糊等类型失真,GS-SSIM较SSIM局部失真度量具有更高的评价准确率。与IW-SSIM算法和其它被广泛引用的图像质量评价算法相比,改进算法评价结果总体上与主观评价结果具有更高的一致性。结论：视觉显著度与梯度特征相结合后所构成的结构化度量能够有效提高经典SSIM结构化度量对图像局部失真度量的准确性,未来可以考虑将人类视觉系统(HVS)的其它特性融入到图像质量评价算法中,以进一步提高算法的准确性。     

基于边缘相似度的全参考图像质量评价算法

客观图像质量评价(IQA)方法旨在利用计算模型自动实现与主观感知一致的图像质量评估,是当前计算机视觉领域和图像处理领域的研究热点.由于图像的边缘信息对理解图像语义信息至关重要,提出一种基于边缘信息的图像质量客观评价方法.通过比较参考图像和失真图像的多方向边缘强度、边缘强度对比度及亮度信息等特征的相似性,实现图像质量的客观评价.利用国外的LIVE2、TID2008及CSIQ等多个图形数据库计算结果证明,本算法能实现对多种失真类型的图像的质量预测,并且在预测准确性、鲁棒性和主观评价一致性方面与当前大多数方法相比都有明显优势.     

考虑双目竞争视觉现象的非对称失真立体图像质量评价方法

目的 现有方法存在特征提取时间过长、非对称失真图像预测准确性不高的问题,同时少有工作对非对称失真与对称失真立体图像的分类进行研究,为此提出了基于双目竞争的非对称失真立体图像质量评价方法。方法 依据双目竞争的视觉现象,利用非对称失真立体图像两个视点的图像质量衰减程度的不同,生成单目图像特征的融合系数,融合从左右视点图像中提取的灰度空间特征与HSV （hue-saturation-value）彩色空间特征。同时,量化两个视点图像在结构、信息量和质量衰减程度等多方面的差异,获得双目差异特征。并且将双目融合特征与双目差异特征级联为一个描述能力更强的立体图像质量感知特征向量,训练基于支持向量回归的特征—质量映射模型。此外,还利用双目差异特征训练基于支持向量分类模型的对称失真与非对称失真立体图像分类模型。结果 本文提出的质量预测模型在4个数据库上的SROCC （Spearman rank order correlation coefficient）和PLCC （Pearson linear correlation coefficient）均达到0.95以上,在3个非对称失真数据库上的均方根误差（root of mean square error,RMSE）取值均优于对比算法。在LIVE-II（LIVE 3D image quality database phase II）、IVC-I（Waterloo-IVC 3D image qualityassessment database phase I）和IVC-II （Waterloo-IVC 3D image quality assessment database phase II）这3个非对称失真立体图像测试数据库上的失真类型分类测试中,对称失真立体图像的分类准确率分别为89.91%、94.76%和98.97%,非对称失真立体图像的分类准确率分别为95.46%,92.64%和96.22%。结论 本文方法依据双目竞争的视觉现象融合左右视点图像的质量感知特征用于立体图像质量预测,能够提升非对称失真立体图像的评价准确性和鲁棒性。所提取双目差异性特征还能够用于将对称失真与非对称失真立体图像进行有效分类,分类准确性高。     

Blind image quality assessment with improved natural scene statistics model

No-reference (NR)/blind image quality assessment (IQA) metrics play an important role in the area of image processing. Natural scene statistics (NSS) model assumes that natural images possess certain regular statistical properties and is widely used in NR IQA metrics. Most existing NSS-based NR algorithms are achieved by measuring the variation of image statistics, which are characterized by the fitting parameters of NSS model, across different distortions. However, distortions not only change the image statistics, but also disturb the statistical regularity held by natural images. As a result, the distribution of distorted images can not well follow the NSS model. There exists fitting error between the real distribution of the distorted image and the fitted one under certain NSS model. In this paper, the statistical distributions of the distorted images are discussed in detail. We suggest to take the fitting errors into account as well as the fitting parameters for feature extraction, and propose a novel NR IQA algorithm. Experimental results on several image databases demonstrate that the proposed metric performs highly consistent with human visual perception.     

No-reference stereoscopic 3D image quality assessment via combined model

Currently, stereoscopic 3D image has been widely applied in many fields. However, it may suffer from various quality degradations during the acquisition and transmission. Therefore, an effective 3D image quality assessment (IQA) method has great significance for 3D multimedia applications. Since 3D image pair has two images, it is easily distorted asymmetrically. In this paper, we have designed a no-reference quality assessment algorithm for asymmetrically distorted 3D images by utilizing combined model. First, in order to extract the distorted information in different frequency, the Gabor filter bank is employed to decompose the 3D image pair. Second, the “Cyclopean” and difference maps, representing for binocular characteristic and asymmetric information, are generated from the Gabor filter results. Then, the statistical characteristics of “Cyclopean” and difference maps are estimated by utilizing the generalized Gaussian distribution (GGD) fitting. Finally, a SVR regression is learned to map the feature vector to the recorded subjective difference mean opinion scores (DMOS). Besides, we also make an attempt to utilize structural similarity index (SSIM) to measure the asymmetric information of 3D image pair. The performance of our algorithm is evaluated on the popular 3D IQA databases. Extensive results show that the proposed algorithm outperforms state-of-the-art no-reference 3D IQA algorithms and is comparable to some full-reference 3D IQA algorithms.     

Multiply distorted image quality assessment based on feature level fusion and optimal feature selection

No reference image quality assessment (NR-IQA) has received considerable importance in the last decade due to a rise in the use of multimedia content in our daily lives. Due to limitations in technology, multiple distortions may be introduced in the images that need to be assessed. Recently feature selection has shown promising results for single distorted NR-IQA and their effectiveness on multiple distorted images still need to be addressed. In this paper, impact of feature level fusion and feature selection on multiple distorted image quality assessment is presented. To this end features are extracted from multiple distorted images using six NR-IQA techniques (BLIINDS-II, BRISQUE, CurveletQA, DIIVINE, GM-LOG, SSEQ) that extract features in different (discrete cosine transform, spatial, curvelet transform, wavelet transform, spatial and gradient, spatial and spectral) domains. The extracted features from different domains are fused to generate a single feature vector. All combinations of feature-level fusion from six different techniques have been evaluated. Three different feature selection algorithms (genetic search, linear forward search, particle swarm optimization) are then applied to select optimum features for NR-IQA. The selected features are then used by the support vector regression model to predict the quality score. The performance of the proposed methodology is evaluated for two multiple distorted IQA databases (LIVE multiple distorted image dataset (LIVEMD), multiply distorted image database (MDID2017)), two singly synthetically distorted IQA databases (Tampere image database (TID2013), Computational and subjective image quality database (CSIQ)), and one screen content IQA database (Screen content image quality database (SIQAD)). Experimental results show that the fusion of features from different domains gives better performance in comparison to existing multiple-distorted NR-IQA techniques with SROCC scores of 0.9555, 0.9587, 0.6892, 0.9452, and 0.7682 on the LIVEMD, MDID, TID2013, CSIQ, and SIQAD databases respectively. Moreover, the performance is further improved when the genetic search feature selection algorithm is applied to fused features to remove the redundant and irrelevant features. The SROCC scores are improved to 0.9691, 0.9723, and 0.6897 for LIVEMD, MDID, and TID2013 databases respectively.

     

多层感知分解的全参考图像质量评估

目的 图像质量评估是计算机视觉、图像处理等领域的基础研究课题之一,传统评估方法常基于图像低层视觉特征而忽略了高层语义信息,这也在一定程度上影响了客观指标和主观视觉质量的一致性。近年来,感知损失被广泛应用于图像风格化、图像复原等研究中,通过使用预训练的深度网络对图像进行多层语义分解,在相关问题上取得了较好的效果。受感知损失启发,提出一种多层感知分解的全参考图像质量评估方法。方法 首先使用预训练的深度网络对图像进行多层语义分解,获取多层特征图,再计算失真图像与参考图像之间的相似度,以及它们的不同层级特征图之间的相似度,最终得出兼顾了高层语义信息的图像质量分数。结果 针对传统方法PSNR（peak signal-to-noise ratio）、SSIM（structure similarity）、MS-SSIM（multi-scale structure similarity）及FSIM（feature similarity）进行实验,结果表明,本文方法能够有效提升传统图像质量评估方法的性能,在SRCC（Spearman rank order correlation coefficient）、KRCC（Kendall rank order correlation coefficient）、PLCC（Pearson linear correlation coefficient）和RMSE（root mean squared error）客观指标上均有相应提升。通过使用本文框架,PSNR、SSIM、MS-SSIM、FSIM方法在TID2013数据库上SRCC指标分别获得0.02、0.07、0.06和0.04的提升。结论 本文提出的一种多层感知分解的全参考图像质量评估方法,结合传统方法与深度学习方法,兼顾了图像低层视觉特征和高层语义信息,从而有效地提升了传统方法的评估性能,使客观评估结果更加符合主观视觉感受,同时,本文提出的评估框架能够适用于多种传统方法的性能提升。     

基于轮廓波数字水印的JPEG图像质量评价方法

半参考图像质量评价方法是一种利用原始图像的部分信息对失真图像进行质量预测的方法,提出了一种基于轮廓波变换数字水印的JPEG图像压缩半参考质量评价方法。首先参考人类视觉系统（Human Visual System,HVS）的思想,选取轮廓波变换的低频区域作为水印嵌入区域,从而生成半脆弱数字水印。然后根据已嵌入水印图像与原始图像之间的结构相似度（Structural Similarity,SSIM）的值,设计自适应水印嵌入系统,以保证水印的不可见性。最后分别在LIVE图像数据库2和TID2008图像数据库中,根据已嵌入水印图像进行数据库重建,并测试该算法的性能。实验结果对比显示,该算法与其他算法相比较,具有较好的准确性、单调性以及一致性,能够较好地反应JPEG失真图像的质量。