基于单目和双目视觉信息的全参考立体图像质量评价模型

在立体图像质量评价领域,有效地模拟人类视觉系统对图像质量进行评价具有重要意义,考虑到人眼的视觉感知特性,基于单目和双目视觉信息构建一种立体图像质量评价模型MB-FR-SIQA。采用基于结构相似性的立体视差算法得到参考和失真立体图像的视差矩阵,结合Gabor能量响应图、显著性图和视差矩阵生成中间视图,并优化左右眼加权系数计算方法,以提高生成中间视图的准确性。分别利用单目图像和中间视图提取单目和双目视觉信息,计算单目质量分数和双目质量分数,并融合得到立体图像的质量分数,达到评价立体图像质量的目的。实验结果表明,MB-FR-SIQA模型在LIVE-I数据库上具有较高的预测精度,其斯皮尔曼等级相关系数、皮尔森线性相关系数、均方根误差分别为0.945、0.951、5.318,且预测的质量分数符合人类主观评估。     

基于视差图和复数轮廓波变换的无参考立体图像质量评价

现有的2D图像质量评价方法并不能很好地应用于立体图像质量评价中。为了有效评价不同失真立体图像的质量,提出了一种基于视差图和复数轮廓波变换的无参考图像质量评价方法。首先提取了能够反映3D信息的视差图,然后对左右失真图像和视差图进行复数轮廓波变换,计算能量和能量差特征,最后通过支持向量回归SVR模型训练学习,预测图像质量分数。实验结果表明,此方法优于当前文献报道的立体图像质量评价方法。     

基于双树复小波的无参考立体图像质量评价

随着3D技术的不断发展，立体图像的使用领域越来越广泛，同时人们对图像的清晰度要求越来越高，因此，立体图像的质量评价成为关注点，基于此，提出了一种基于双树复小波变换的立体图像质量评价算法。使用双树复小波变换对立体图像的左、右视图进行处理，生成纹理结构图像，且根据最小能量误差的原理，获取左右视图的视差图；对纹理结构图像和视差图提取非对称广义高斯分布模型的参数、梯度幅值、相对梯度方向方差和奇异值曲线与坐标轴的面积等特征；使用AdaBoosting BP神经网络，进行训练和预测立体图像的质量得分。在LIVE立体图像数据库上的实验结果表明，新方法预测得分与主观得分有较好的一致性，获得了比较好的实验结果。     

基于交互式卷积神经网络的立体图像质量评价

目前立体图像质量评价算法缺乏可靠的预测性能，主要表现在研究人类视觉系统时生物学理论薄弱，并且已有的浅层模型无法模拟出视觉信息复杂的处理过程。针对上述问题，提出一种基于交互式卷积神经网络的无参考立体图像质量评价算法。根据初级视觉区域的双目视觉机制，融合左、右视图生成独眼特征图，并采用高斯差分算法提取左、右视图边缘信息，计算边缘求和以及差分特征图；搭建交互式卷积神经网络，整合特征图，实现深度特征学习和质量回归预测。在LIVE立体图像库上的Pearson线性相关系数(Pearson Linear Correlation Coefficient, PLCC)达到0.95以上，结果表明采用该算法能有效地解决失真立体图像质量评价问题。     

基于GA-SVR模型的无参考立体图像质量评价

针对支持向量回归(SVR)中惩罚因子和径向基函数选取具有较大不确定性和随机性的问题,结合单双目信息与基于遗传算法(GA)的SVR优化模型,提出无参考立体图像质量评价方法。提取左右失真图像的单双目特征,将梯度幅值和拉普拉斯特征作为单目视觉特征。为更好地结合人类双目视觉特性,使左右图像融合成一幅独眼图,对独眼图提取空域自然场景统计特征。利用GA选择、交叉和变异等操作优化SVR参数组合,选出最优的参数组合,引入到SVR中预估左右图像质量。考虑到人眼对于左右失真图像的响应不同,通过增益控制模型融合左右图像质量,从而得到最终的质量评价值。应用该评价方法对宁波大学建立的立体数据测试库进行评价,结果表明其Pearson线性相关系数在0.95以上,Spearman等级相关系数值在0.94以上,与人类主观感知具有高度一致性。     

考虑双目竞争视觉现象的非对称失真立体图像质量评价方法

目的 现有方法存在特征提取时间过长、非对称失真图像预测准确性不高的问题,同时少有工作对非对称失真与对称失真立体图像的分类进行研究,为此提出了基于双目竞争的非对称失真立体图像质量评价方法。方法 依据双目竞争的视觉现象,利用非对称失真立体图像两个视点的图像质量衰减程度的不同,生成单目图像特征的融合系数,融合从左右视点图像中提取的灰度空间特征与HSV （hue-saturation-value）彩色空间特征。同时,量化两个视点图像在结构、信息量和质量衰减程度等多方面的差异,获得双目差异特征。并且将双目融合特征与双目差异特征级联为一个描述能力更强的立体图像质量感知特征向量,训练基于支持向量回归的特征—质量映射模型。此外,还利用双目差异特征训练基于支持向量分类模型的对称失真与非对称失真立体图像分类模型。结果 本文提出的质量预测模型在4个数据库上的SROCC （Spearman rank order correlation coefficient）和PLCC （Pearson linear correlation coefficient）均达到0.95以上,在3个非对称失真数据库上的均方根误差（root of mean square error,RMSE）取值均优于对比算法。在LIVE-II（LIVE 3D image quality database phase II）、IVC-I（Waterloo-IVC 3D image qualityassessment database phase I）和IVC-II （Waterloo-IVC 3D image quality assessment database phase II）这3个非对称失真立体图像测试数据库上的失真类型分类测试中,对称失真立体图像的分类准确率分别为89.91%、94.76%和98.97%,非对称失真立体图像的分类准确率分别为95.46%,92.64%和96.22%。结论 本文方法依据双目竞争的视觉现象融合左右视点图像的质量感知特征用于立体图像质量预测,能够提升非对称失真立体图像的评价准确性和鲁棒性。所提取双目差异性特征还能够用于将对称失真与非对称失真立体图像进行有效分类,分类准确性高。     

基于双目融合的无参考立体图像质量评价

针对对称失真和非对称失真图像的评价问题,提出了一种基于双目融合的无参考立体图像质量评价方法。首先,分别将立体图像的左、右视点图像分解成拉普拉斯金字塔序列,利用图像平均梯度和区域能量确定各层融合系数,在双目加权模型的基础上逐层融合两序列并重构合成图像。然后,提取左、右视点图像、合成图像的多尺度多方向频域变换特征和对比度、熵、能量、逆差分矩特征。最后,将特征参数作为支持向量回归模型的输入进行训练并预测图像质量。在LIVE 3D phaseⅠ和LIVE 3D phaseⅡ图像库上作相关性分析,其Pearson线性相关系数和Spearman等级相关系数均分别达到0.96和0.95以上。结果表明,本文方法对立体图像质量的预测结果与主观评价值具有较高的一致性。     

基于极限学习机的全参考立体图像质量评价

立体图像质量评价是评价立体视频系统性能的有效途径,而模拟人类大脑神经网络进行特征提取是立体图像质量评价的关键.为此,提出一种基于极限学习机的全参考立体图像质量评价方法,包括3个阶段:1)对原始和失真立体图像分别进行特征描述,以左图像,右图像和独眼图作为输入信息,采用包含3个隐层的极限学习机将图像信息映射到特征空间,从而得到原始和失真立体图像的特征描述;2)对原始和失真立体图像的特征描述进行相似性度量,从而得到原始和失真立体图像的质量特征;3)采用极限学习机建立得到的12维质量特征与主观评价值的回归模型,并将训练得到的回归模型用于测试阶段,预测得到相应的客观质量评价值.实验结果表明,文中方法在对称和非对称立体图像数据库都取得了较好的性能,与人类的主观感知保持良好的一致性.     

基于小波变换的无参考立体图像质量评价

立体图像质量评价是图像处理领域中一项重要技术,现有的2D图像质量评价方法并不能很好地应用于立体图像。为了更好地评价立体图像质量,提出了一种基于小波变换提取左右图像及其合成图像特征的无参考立体图像质量评价方法。该方法首先通过对失真的立体左右图像计算合成图像;再通过小波分解提取左右图像及其合成图像的小波系数,获取小波子带能量作为立体图像质量感知特征;最后通过支持向量回归建立立体图像特征与主观得分的关系模型,来预测和得到立体图像质量的客观评价得分。实验结果表明,与现有无参考立体图像质量评价方法相比较,该客观评价模型可以获得更好的主观感知一致性,更加符合人眼视觉系统。     

多核学习纹理特征的无参考图像质量评价

由于多种失真类型灰度-共生矩阵特征的不规则性,单核方法无法取得理想结果,从而提出了一种基于多核学习,针对多种失真类型的无参考图像质量评价方法。首先对灰度图像进行相位一致和结构张量变换,得到相位一致图和结构张量图,然后分别对它们提取灰度-梯度共生矩阵二次统计特征,最后将提取的特征输入到高效的分层多核学习机进行训练学习,预测得到图像的质量评分。多图像库多次随机实验结果表明,新方法结果与主观评价值有较好的一致性,并具有较好的推广性。     

基于网格形变的立体图像内容重组

目的 近年来,随着数字摄影技术的飞速发展,图像增强技术越来越受到重视。图像构图作为图像增强中影响美学的重要因素,一直都是研究的热点。为此,从立体图像布局调整出发,提出一种基于Delaunay网格形变的立体图像内容重组方法。方法 首先将待重组的一对立体图像记为源图像,将用于重组规则确定的一幅图像记为参考图像;然后对源图像需要调整的目标、特征线和其他区域进行取点操作,建立Delaunay网格。将源图像的左图与参考图像进行模板匹配操作,得到源图像与参考图像在结构布局上的对应关系;最后利用网格形变的特性,移动和缩放目标对象,并对立体图像的深度进行自适应调整。结果 针对目标对象的移动、缩放和特征线调整几方面进行优化。当只涉及目标对象的移动或特征线调整时,立体图像视差保持不变;当目标对象缩放时,立体图像中目标对象的视差按照缩放比例变化而背景视差保持不变。实验结果表明,重组后的立体图像构图与参考图像一致且深度能自适应调整。与最新方法比较,本文方法在目标对象分割精度和图像语义保持方面具有优势。结论 根据网格形变相关理论,构建图像质量、布局匹配和视差适应3种能量项,实现了立体图像的内容重组。与现有需要提取和粘贴目标对象的重组方法不同,本文方法对目标对象的分割精度要求不高,不需要图像修复和混合技术,重组后的立体图像没有伪影和语义错误出现。用户可以通过参考图像来引导立体图像的布局调整,达到期望的图像增强效果。     

基于空域自然场景统计的无参考立体图像质量评价模型

针对现有的评价方法大都将图像变换到不同的坐标域问题,提出一种基于空域自然场景统计(NSS)的通用型无参考立体图像质量评价模型。在评价中为了更好地结合人类双目视觉特性, 将左右图像融合成一幅独眼图;评价模型首先统计独眼图归一化亮度(CMSCN)系数分布规律,进而对独眼图提取空域自然场景统计特征;其次,统计视差图归一化亮度(DMSCN)系数的分布规律,并对用光流法得到的视差图提取同样的特征;最后,通过支持向量回归(SVR)建立立体图像特征信息与主观评价值(DMOS)之间的关系,从而预测得到图像质量的客观评价值。实验结果表明,该评价模型对立体数据测试库进行评价,其Pearson线性相关系数(PLCC)和Spearman等级相关系数(SROCC)值均在0.94以上;对于非对称立体图像库,PLCC和SROCC值分别接近0.91和0.93。该模型能够很好地预测人眼对立体图像的主观感知。     

基于视差重映射的立体图像视觉舒适度提升

目的 针对人眼观看立体图像内容可能存在的视觉不舒适性,基于视差对立体图像视觉舒适度的影响,提出了一种结合全局线性和局部非线性视差重映射的立体图像视觉舒适度提升方法。方法 首先,考虑双目融合限制和视觉注意机制,分别结合空间频率和立体显著性因素提取立体图像的全局和局部视差统计特征,并利用支持向量回归构建客观的视觉舒适度预测模型作为控制视差重映射程度的约束;然后,通过构建的预测模型对输入的立体图像的视觉舒适性进行分析,就欠舒适的立体图像设计了一个两阶段的视差重映射策略,分别是视差范围的全局线性重映射和针对提取的潜在欠舒适区域内视差的局部非线性重映射;最后,根据重映射后的视差图绘制得到舒适度提升后的立体图像。结果 在IVY Lab立体图像舒适度测试库上的实验结果表明,相较于相关有代表性的视觉舒适度提升方法对于欠舒适立体图像的处理结果,所提出方法在保持整体场景立体感的同时,能更有效地提升立体图像的视觉舒适度。结论 所提出方法能够根据由不同的立体图像特征构建的视觉舒适度预测模型来自动实施全局线性和局部非线性视差重映射过程,达到既改善立体图像视觉舒适度、又尽量减少视差改变所导致的立体感削弱的目的,从而提升立体图像的整体3维体验。     

融合边缘保持与改进代价聚合的立体匹配算法

目的 立体匹配是计算机双目视觉的重要研究方向,主要分为全局匹配算法与局部匹配算法两类。传统的局部立体匹配算法计算复杂度低,可以满足实时性的需要,但是未能充分利用图像的边缘纹理信息,因此在非遮挡、视差不连续区域的匹配精度欠佳。为此,提出了融合边缘保持与改进代价聚合的立体匹配。方法 首先利用图像的边缘空间信息构建权重矩阵,与灰度差绝对值和梯度代价进行加权融合,形成新的代价计算方式,同时将边缘区域像素点的权重信息与引导滤波的正则化项相结合,并在多分辨率尺度的框架下进行代价聚合。所得结果经过视差计算,得到初始视差图,再通过左右一致性检测、加权中值滤波等视差优化步骤获得最终的视差图。结果 在Middlebury立体匹配平台上进行实验,结果表明,融合边缘权重信息对边缘处像素点的代价量进行了更加有效地区分,能够提升算法在各区域的匹配精度。其中,未加入视差优化步骤的21组扩展图像对的平均误匹配率较改进前减少3.48%,峰值信噪比提升3.57 dB,在标准4幅图中venus上经过视差优化后非遮挡区域的误匹配率仅为0.18%。结论 融合边缘保持的多尺度立体匹配算法有效提升了图像在边缘纹理处的匹配精度,进一步降低了非遮挡区域与视差不连续区域的误匹配率。     

基于视差平面分割的移动机器人障碍物地图构建方法

作为自主移动机器人地表障碍物探测（GPOD）技术的一部分,提出了一种利用双目摄像机的视差图像 获取信息来构建机器人前方障碍物栅格地图的方法. 该方法融合了3 维立体视觉技术以及2 维图像处理技术,前者 依据视差图的直方图信息对视差图像进行自适应平面分割,把每个平面看作是3 维场景中的实物切片进而提取障碍 物3 维信息,后者通过计算各平面上的障碍物信息曲线来提取障碍物信息,把立体视觉数据从视差图像空间变换到 2 维的障碍物地图空间. 给出了该方法构建障碍物地图的整体过程,试验结果证明了该算法的有效性和精确性.     

基于结构失真分析的立体图像质量客观评价模型

在立体图像?视频系统编码、传输、解码等环节中,立体图像质量评价是图像失真的一个重要评判准则.考虑到图像结构特性能较好地反映立体图像质量变化,提出一种基于结构失真的立体图像质量客观评价模型,该模型包括左右视点图像质量和深度感知质量评价两部分.首先根据人眼对图像中不同区域的敏感度存在差异且自然图像具有一定方向奇异性的特性,得到左右视点图像质量评价值;然后利用左右视点的绝对差值图像,采用奇异值向量差异和均值偏差率来描述立体图像深度感的畸变;最后融合前面两部分的评价值得到最终的立体图像质量评价值.实验结果表明,文中模型与主观感知存在较好的一致性,对于高斯模糊、高斯白噪声、JPEG压缩、JP2000压缩以及H.264编码,其评价结果与主观感知之间的相关系数高于0.93,Spearman秩相关系数高于0.92,均方误差低于6.6.     

No-reference stereoscopic image quality assessment using quaternion wavelet transform and heterogeneous ensemble learning

As the demand for high-quality stereo images has grown in recent years, stereoscopic image quality assessment (SIQA) has become an important research area in modern image processing technology.In this paper, we propose a no-reference stereoscopic image quality assessment (NR-SIQA) model using heterogeneous ensemble learning ‘quality-aware’ features from luminance image, chrominance image, disparity and cyclopean images via quaternion wavelet transform (QWT). Firstly, luminance image and chrominance image are generated by CIELAB color space as monocular perception, and the novel disparity and cyclopean images are utilized to complement with monocular information. Then, a number of ‘quality-aware’ features in the quaternion wavelet domain are discovered, including entropy, texture features, energy features, energy differences features and MSCN coefficients of high frequency sub-band. Finally, a heterogeneous ensemble model via support vector regression (SVR) & extreme learning machine (ELM) & random forest (RF) is proposed to predict quality score, and bootstrap sampling and rotated feature space are used to increase the diversity of data distribution. Comparing with the state-of-the-art NR-SIQA models, experimental results on four public databases prove the accuracy and robustness of the proposed model.