基于SATD准则的HEVC快速帧内预测算法

相比于H.264/AVC视频编码标准,高效视频编码（HEVC）具有更大的压缩率和计算复杂度。HEVC更多的帧内预测模式显著地提升了编码器的率失真性能,但更高的算法复杂度使得编码时间大大增加。通过对典型序列编码的统计分析,提出一种基于变换残差绝对值和（SATD）的帧内预测模式快速选择算法,以降低HEVC帧内预测过程的计算复杂度。所提算法通过比较SATD来加速帧内预测模式的判决,避免了耗时的率失真代价（RD-Cost）计算,并且选择性地降低候选预测模式的数量,以减少总体编码时间。通过与现有其他HEVC快速算法进行比较测试,结果表明,所提算法平均减少了12.90%~19.89%的编码时间（编码器不进行任何优化）,而BD-Rate码率指标仅增加了0.5%~0.96%,几种算法的率失真性能基本一致。     

An improved hybrid fast mode decision method for H.264/AVC intra coding with local information

In this paper, an improved hybrid fast mode decision method for H.264/AVC intra coding is proposed, which is based on the analysis of edge filter and more efficient mode selection. In contrast to the conventional fast mode decision methods where multiple neighbor modes are determined by the same filter, a unique filter is applied to each directional mode to eliminate the correlation among neighbor modes. To reduce the complexity, the filters are only applied to the selected pixels that cover most of the block region. After that, the results along prediction residuals of these pixels are summed for fast mode decision. Moreover, local information is also taken into account through Most Probable Mode (MPM) from neighbor-coded blocks. Experimental results demonstrated that better coding performance is achieved as compared with well-known conventional fast mode decision algorithms for H.264/AVC intra coding.     

H.264帧内预测快速模式选择

H.264/AVC视频编码标准中用率失真优化(RDO)方法为一个宏块(MB)判决最佳编码模式来提高编码效果,加大了算法复杂度并且计算冗余大。为了克服这一缺点,一种快速帧内预测模式选择算法被提出。在色度预测中,根据宏块的色度纹理复杂度,把原先的4种模式降到1或2种;在亮度16×16块模式判决中,根据最小哈达玛变换的绝对误差和(SATD)来选择最佳模式;在亮度4×4块模式判决中,该算法在9种模式中选择3种可能模式作为候选模式。通过比较16个4×4块总代价与1个16×16块的代价来选择最佳块选择模式,实验表明,该算法能在节省69%左右编码时间的情况下,比特率与峰值信噪比(PSNR)保持不变。     

Fast CU size decision and mode decision algorithm for intra prediction in HEVC

In the intra prediction process, High Efficiency Video Coding (HEVC) provides a quadtree-based coding unit (CU) block partitioning structure and up to 35 kinds of prediction modes to improve the coding performance. These technologies improve the coding efficiency significantly while the coding complexity is simultaneously increased rapidly as well. In this paper, a novel fast CU size decision and mode decision algorithm is proposed for the intra prediction of HEVC. The overall algorithm consists of two processes, the fast CU size decision and fast mode decision. In the fast CU size decision process, we adopt an adaptive discretization total variation (DTV) threshold-based CU size determination algorithm to skip some specific depth levels. In the fast mode decision process, an orientation gradient-based mode decision is proposed to reduce the candidate modes involved in the rough mode decision (RMD) and the rate distortion optimization (RDO) process. The experimental results on the HEVC reference software HM demonstrate that the proposed algorithm can significantly reduce the coding time with negligible performance loss.     

HEVC intra coding using vote-based optimization algorithm

We present a voted optimization algorithm utilizing correlation of adjacent frames’ texture feature and thoughts of voted selection for newly proposed video standard High Efficiency Video Coding (HEVC). In addition, a voted algorithm based on original candidate mode collection is developed, which use the candidate modes, to resolve HEVC Most Probable Mode (MPM) mechanism for intra prediction problem. Meanwhile, we perform the vote rules to cut down on candidate collection, which is based on our proposed voted method. Experimental results show that proposed voted algorithm improves the efficiency of encoder by decreasing encoding time with more than 20% and causes nearly negligible increment in bit-rate.     

高效率视频编码帧内快速算法

针对高效率视频编码(HEVC)帧内预测过程中较高的计算复杂度,首先在编码单元(CU)决策的层面上,提出了一种基于绝对误差和(SATD)的CU分割提前终止方案：对于每个深度级的CU,判断该CU最小的SATD值是否小于给定的阈值;若是,则终止该CU的分割过程。同时,基于统计的分析,依照各候选模式成为最优预测模式的概率,进一步排除低概率的候选模式。实验结果表明,同原始HM10.1相比,所提算法可以节省编码时间30.5%,并且保持视频质量几乎不变（平均Y方向峰值信噪比仅降低0.02dB）。此外,所提算法软硬件实现简单,而且容易与其他算法进一步融合,进一步降低HEVC的帧内编码复杂度。     

H.264帧内4×4块预测模式选择快速算法研究

在H．264视频编码过程中，编码时间受诸多因素的影响，如帧间／帧内模式选择、运动估计（ME）、率失真优化（RDO）等。为了以较快速度和较好质量进行编码，针对H．264帧内模式选择，提出了一种适用于H．264帧内4×4块预测的模式选择快速算法。该算法利用帧内4×4块最优预测模式与和它相邻的预测模式之间率失真代价（RDCost）的高相关性，以及绝对变换误差和（SATD）与率失真（RD）性能之间的强相关性，有效地跳过一些不太可能的预测模式，从而使帧内4×4块模式选择过程只需进行4次率失真代价计算即可。实验结果显示，该算法在编码性能和编码速度之间取得了很好的折衷。     

一种快速的H.264/AVC帧内预测模式选择算法

H.264/AVC采用RDO技术选择帧内和帧间预测模式以进一步提高编码的效率,取得显著效果,但同时大幅度增加了预测的复杂度。该文提出一种RDO模式下的快速Intra_4x4模式选择算法,该算法根据SATD特征以及相邻块的预测模式之间的相关性,可以预先排除约50%可能性小的Intra_4x4模式,避免了不必要的代价(RD_Cost)计算,从而大幅度降低帧内预测的复杂度,同时基本保持了H.264/AVC的编码性能。     

基于Hough变换的高效视频编码标准帧内预测模式选择快速算法

针对高效视频编码标准(HEVC)中帧内预测模式选择计算复杂度极高的问题,提出一种基于Hough变换的HEVC帧内预测模式选择快速算法,该算法可以减少对35种预测模式的遍历次数。首先,在对预测模式进行粗选(RMD）过程之前对各尺寸预测单元(PU）进行边缘检测与Hough变换;其次,采用直方图对检测出来的直线段方向角正切值进行统计分析;最后,从35种模式中选择出RMD和率失真优化(RDO)过程中较适用的候选模式集,并在VS 2008运行环境下用C〖KG-*3〗+〖KG-*3〗+和OpenCV开发应用程序。实验结果表明,所提算法在编码性能稍微有影响的情况下(码率平均升高1.02%,峰值信噪比平均下降0.035dB）,编码时间平均减少了23%。所提算法增强了编码器的实时性,适合高分辨率、大尺寸视频应用。     

HEVC快速帧内模式决策算法

在高效视频编码(HEVC)标准中,为降低编码单元和预测单元算法的计算复杂度,提出一种基于编码单元纹理和预测单元模式决策的快速帧内预测算法。通过统计编码单元的纹理复杂度,分析编码单元纹理的相关性,设定合理的纹理阈值,快速地决策当前编码单元的大小。改进预测单元模式决策算法,利用三步搜索方法,减少候选模式数量和帧内模式预测时间。算法结合了编码单元和预测单元的特点,仿真结果表明,与HEVC参考软件HM8.0相比,在增加较少码率,降低较少峰值信噪比的情况下,该算法的编码时间平均缩减40.9%,降低了编码复杂度。     

一种HEVC帧内预测模式快速选择算法

针对HEVC帧内预测模式选择过程计算较为复杂的问题,提出了一种帧内预测模式快速选择算法。在统计实验数据的基础上,针对64[×]64、32[×]32、16[×]16较大尺寸的预测单元类型,采用阈值法筛选掉粗选后可能性较小的预测模式,针对8[×]8、4[×]4较小尺寸的预测单元类型,根据代价值的分布情况,直接筛减或者采用模式梯度直方图法筛选掉粗选后可能性较小的预测模式,从而减少最后进行率失真代价精密计算的帧内预测模式数量,降低帧内编码复杂度。实验结果表明,在保证图像质量和编码码率的情况下,该算法能有效提高HEVC的编码速度,有利于实时应用。     

基于梯度的H.265/HEVC帧内预测硬件加速算法研究

HEVC即H.265,是目前最新的视频编码标准。相比于前一代视频编码标准,H.265/HEVC虽然能够明显改善视频压缩效率,但是却带来了更高的计算复杂度,尤其是在帧内预测过程中。为了解决这个问题,提出一种基于梯度的帧内预测硬件加速算法来跳过一些帧内预测模式和划分深度的预测过程,从而达到减少计算的目的。利用图像梯度信息来粗略估计编码单元的纹理方向和纹理复杂度,其中纹理方向用来估计编码单元的最优帧内预测方向,纹理复杂度用来判断是否跳过当前划分深度的预测编码过程。实验表明,相比于H.265/HEVC测试模型HM16.18,本文提出的算法能够减少6059%的编码时间,仅造成0.38 dB的BD PSNR减少和8.52%的BD-Rate增加。     

H.264/AVC中基于决策树的P帧快速模式选择（HHME2013第61号论文）

目的：H.264/AVC帧间预测编码需要对所有可能编码模式计算并比较率失真代价,众多的模式类型导致了P帧编码的计算复杂度非常高。本文提出了一种针对P帧的基于决策树的快速选择候选模式算法。方法：在对宏块进行16×16的帧间运动估计后,首先根据残差宏块中4×4全零系数块个数对部分宏块直接选择出候选模式;然后使用16个4×4块的SATD值,采用决策树分类方法对其余宏块选择候选模式。结果：由于只需对候选模式进行编码,因此有效降低了编码器的计算复杂度。实验结果表明,与原始全搜索编码算法相比,该算法对不同运动程度的视频序列获得了较一致的编码时间节省,同时平均峰值信噪比的损失和平均比特率的增加均较少。结论：本文提出了一种新的P帧帧间预测候选模式选择算法,根据帧间运动估计后的残差宏块信息,采用决策树方法对候选模式集进行分类。实验结果表明,该算法能在保证视频编码质量的前提下,有效地降低编码过程中的计算量,缩短编码时间。     

H.264/AVC中基于决策树的P帧快速模式选择

目的 H.264/AVC帧间预测编码需要对所有可能编码模式计算并比较率失真代价,众多的模式类型导致了P帧编码的计算复杂度非常高。为此提出一种针对P帧的基于决策树的快速候选模式选择算法。方法在对宏块进行16×16的帧间运动估计后,首先根据残差宏块中4×4全零系数块个数对部分宏块直接选择出候选模式;然后使用16个4×4块的变换域系数绝对值之和(SATD)值,采用决策树分类方法对其余宏块选择候选模式。结果由于只需对候选模式进行编码,因此有效降低了编码器的计算复杂度。实验结果表明,与原始全搜索编码算法相比,该算法对不同运动程度的视频序列获得了较一致的编码时间的节省,同时平均峰值信噪比的损失和平均比特率的增加均较少。结论新的P帧帧间预测候选模式选择算法,根据帧间运动估计后的残差宏块信息,采用决策树方法对候选模式集进行分类。实验结果表明,该算法能在保证视频编码质量的前提下,有效地降低编码过程中的计算量,缩短编码时间。     

H.264/AVC高档次标准快速帧内模式选择算法研究

针对H.264/AVC高档次标准中帧内模式选择计算复杂度高的问题,提出一种新颖的基于纹理信息的快速帧内模式选择方法。利用绝对误差均值检测宏块的复杂度,选择块尺寸模式;利用平均绝对相邻像素差来检测图像块的纹理方向,筛选候选预测模式。实验结果表明,上述两部分算法单独使用都能够有效降低帧内模式选择的计算复杂度,使编码速度分别提高27%和64%,并且对率失真性能的影响可以忽略不计。利用整合后的综合算法,在率失真性能几乎保持不变的情况下,帧内编码速度提高超过70%以上。     

基于全零模块检测的H.264/AVC快速帧内模式选择算法*

H.264/AVC采用多方向、多划分的帧内预测模式,与其他视频编码标准相比具有更高的编码效率,但同时也使计算复杂度明显提升。通过分析各编码模式的特点和最佳模式分布规律,提出了基于全零模块检测的快速帧内模式选择算法,略过不可能进一步降低率失真代价的帧内预测模式,以降低编码过程的计算复杂度。实验结果表明,在保证编码性能的前提下,可以有效地降低H.264/AVC的计算复杂度。     

Fast HEVC I-frame coding based on strength of dominant direction of CUs

High efficiency video coding (HEVC), the latest international video coding standard, greatly outperforms previous standards such as H.264/AVC in terms of coding bitrate and video quality. The coding efficiency improvement in HEVC is achieved by introducing several new techniques such as recursive quad-tree structure and increased number of intra prediction modes. However, computational load is also increased due to employing the new techniques. In this paper, we propose a solution for fast I-frame coding in HEVC standard using homogeneity of Coding Units (CUs). The proposed solution consists of two stages. In the first stage, we evaluate CU homogeneity by computing a parameter named dominant direction strength and predict CU size by this means. In the second stage, we select 11 modes out of 35 for the specified CU size based on dominant direction of the CU. Experimental results indicate that the proposed method achieves on average 45.8 % reduction on coding time, with very similar coding efficiency as the HEVC reference software. Moreover, we designed tree-stage pipelined architecture for our method which can operate at 235 MHz maximum clock rate which means it can be used for real-time coding of all intra configuration of HEVC videos up to level 6.2.     

面向CPU-GPU平台的HEVC编码器优化

针对CPU-GPU平台提供了一种能显著降低高效视频编码(high efficiency video coding,简称HEVC)复杂度的优化方案.根据编码器的复杂度分布及不同模块的特点,针对帧内预测、帧间预测以及环路滤波分别进行了优化.在帧内预测中,基于相邻编码单元(coding unit,简称CU)之间的相关性,提出了一种CU的深度决策方法以及一种减少率失真优化(RDO)的模式数量的方法,降低了帧内编码的复杂度.在帧间预测中,提出将耗时最大的运动估计模块完善在图形处理单元(GPU)上,通过中央处理单元(CPU)和GPU的流水线工作获得了明显的加速,并基于预测残差的能量提出了一种编码单元提前终止划分的方法,有效降低了帧间编码复杂度.在环路滤波中,提出了一种GPU端的自适应样本点补偿(sample adaptive offset,简称SAO)参数决策方法及去块滤波方法,有效分担了CPU端的复杂度.上述优化实现在HM16.2上,实验结果表明,提出的优化方案可以获得高达68%的编码复杂度节省,而平均性能损失仅为0.5%.     

Fast block mode decision algorithm in H.264/AVC using a filter bank of Kalman filters for high definition encoding

In this paper, we propose a fast mode decision algorithm using a filter bank of Kalman filters for H.264/ AVC. For the highest coding efficiency in H.264/AVC, a macroblock can be coded with seven different block sizes for motion compensation in an inter mode and various spatial prediction modes in an intra mode. The conventional encoder employs a complex technique for mode decision based on a rate-distortion (RD) cost of all possible modes. Hence, for the purpose of selecting the best block mode with the minimum RD cost, the conventional procedure requires much computational burden and a very complex encoding structure. In order to reduce the complexity, we propose a fast algorithm for mode decision based on Kalman filtering to estimate RD cost of a specific block mode. Furthermore, we propose an optimized structure of H.264/AVC encoder to implement the proposed algorithm. Without considerable performance degradation, using SIMD technology, the computer simulation shows that the proposed methods are dramatically faster than the original JM 9.6 encoder.     

H.264视频流分辨率缩减转码的快速宏块模式选择算法

H.264视频编码标准采用帧内预测,帧间的宏块分割等新的特性提高了编码效率,同时也较大地提高了模式选择的复杂度,因此H.264视频转码中模式选择算法将显著影响到转码的效率。提出了一种适用于H.264视频流空间分辨率缩减转码的宏块模式选择算法。主要利用输入码流中的宏块模式和运动矢量信息,获得局部的预测方向或者梯度方向,从而根据方向信息,减少需要计算的宏块模式的数目。实验证明,在保持编码效率和视频质量的同时,能够有效地降低H.264下采样转码过程中的宏块模式选择算法的复杂度。