H.264帧内4×4块预测模式选择快速算法研究

在H.264视频编码过程中,编码时间受诸多因素的影响,如帧间/帧内模式选择、运动估计(ME)、率失真优化(RDO)等。为了以较快速度和较好质量进行编码,针对H.264帧内模式选择,提出了一种适用于H.264帧内4×4块预测的模式选择快速算法。该算法利用帧内4×4块最优预测模式与和它相邻的预测模式之间率失真代价(RD Cost)的高相关性,以及绝对变换误差和(SATD)与率失真(RD)性能之间的强相关性,有效地跳过一些不太可能的预测模式,从而使帧内4×4块模式选择过程只需进行4次率失真代价计算即可。实验结果显示,该算法在编码性能和编码速度之间取得了很好的折衷。     

一种用于AVS-M视频编码的快速帧内预测模式判断算法

AVS-M作为中国具有自主知识产权的移动视频压缩标准,是采用基于块的混合编码方法,其帧内预测针对4×4块进行。由于AVS-M对亮度块考虑9种预测模式,从而导致最优预测模式判断的计算相当复杂。为了提高编码速度,提出通过计算块内下采样像素点代价,然后确定候选预测模式集的方法来实现帧内预测模式的快速判决。仿真结果表明,该快速算法在保证编码性能几乎不变的前提下可使得全帧内编码的总时间减少约20%~30%。     

H.264帧内4×4块预测模式选择快速算法研究

在H．264视频编码过程中，编码时间受诸多因素的影响，如帧间／帧内模式选择、运动估计（ME）、率失真优化（RDO）等。为了以较快速度和较好质量进行编码，针对H．264帧内模式选择，提出了一种适用于H．264帧内4×4块预测的模式选择快速算法。该算法利用帧内4×4块最优预测模式与和它相邻的预测模式之间率失真代价（RDCost）的高相关性，以及绝对变换误差和（SATD）与率失真（RD）性能之间的强相关性，有效地跳过一些不太可能的预测模式，从而使帧内4×4块模式选择过程只需进行4次率失真代价计算即可。实验结果显示，该算法在编码性能和编码速度之间取得了很好的折衷。     

H.264帧内预测模式的快速选择算法

为了降低H.264标准中帧内预测模式选择的复杂度,提出一种快速的帧内预测方法.H.264采用率失真优化(RDO)算法,通过计算所有预测组合模式的率失真代价来确定宏块的最优编码模式,其计算复杂度非常大.提出的帧内预测快速选择方法利用宏块的绝对误差和(SAD)来缩小预测模式的范围,减少帧内预测的计算量,从而提高模式判别的速度.实验结果表明,在图像质量和码率基本保持不变的情况下,该算法使Ⅰ帧的编码速度提高约76%.     

一种用于H.264的快速帧内预测模式判别方法

提出了一种快速帧内预测模式判别的方法来减少H.264中帧内预测模式判别的时间。H.264采用拉格朗日率失真优化(RDO)模式判别方法来对帧内预测模式进行判别,但由于H.264提供了大量的帧内编码模式,使得计算量非常大,目的是在RD性能没有明显下降的情况下,减少帧内预测的计算量。提出的快速模式判别方法采用绝对变换差值和(SATD)以及绝对梯度和(SAG),来减少4×4和8×8块的帧内预测模式的数目,从而提高模式判别的速度。实验结果表明,该算法在编码增益减少不大的情况下,I帧的编码时间减少了50%~70%,整体的编码时间减少了大约10%~20%。     

一种快速的H.264/AVC帧内预测模式选择算法

H.264/AVC采用RDO技术选择帧内和帧间预测模式以进一步提高编码的效率,取得显著效果,但同时大幅度增加了预测的复杂度。该文提出一种RDO模式下的快速Intra_4x4模式选择算法,该算法根据SATD特征以及相邻块的预测模式之间的相关性,可以预先排除约50%可能性小的Intra_4x4模式,避免了不必要的代价(RD_Cost)计算,从而大幅度降低帧内预测的复杂度,同时基本保持了H.264/AVC的编码性能。     

H.264/AVC帧内预测模式决策算法研究

文章对H.264/AVC标准中帧内预测模式及其决策算法进行了深入研究。首先介绍了四类帧内预测模式及参考代码中所用的全搜索的模式决策算法;然后详细分析了基于边缘方向直方图和基于分组像素点的快速决策算法的原理,通过实验对两种快速算法的运算量及优化效果进行了比较和分析;最后对帧内预测模式及其决策算法进行归纳总结,并就编码精确度、编码运算量、优化帧间预测三个方面提出了帧内预测模式决策算法进一步研究和改进的方向。     

基于FPGA的AVS编码器帧内预测实现

针对帧内预测的快速算法,由于DSP架构软件顺序执行的局限性难以满足实时性要求,而FPGA以其高速的计算速度和强大的并行处理能力成为H.264和AVS编解码的理想平台。本文在FPGA平台上采用资源共享、高并行和多流水线结构实现了亮度帧内预测算法。该方法在分析AVS帧内亮度5种预测模式的基础上,将像素预测与模式判决在一个模块中完成,并且利用各模式预测的相似性,实现运算单元共享和多种模式并行执行,兼顾了处理速度和实现代价。仿真及综合结果表明该设计能够完全满足标清(704×576,30f/s)数字视频的实时处理要求。     

基于H．264／AVC的快速帧内预测模式决策方法

为了降低编解码复杂度,本文在对不同方向纹理块变换域系数特性分析的基础上,提出了一种简单有效的快速帧内预测模式决策算法.根据二维正交变换系数特性确定的决策准则,将可能性较小的部分预测模式在进行率失真优化(RDO,Rate distortion optimization)计算前排除,仅挑选可能性较大的几种模式作为候选模式进行RDO计算,并采用用期插入穷尽搜索和自适应门限的方法采防止误差扩散.仿真结果表明,该算法在保证必要的图像保真度和低码率的条件下,帧内编码速度平均提高5倍.     

H.264/AVC快速帧内预测模式选择新算法

为了得到最优模式,H.264采用了率失真优化(RDO)技术计算宏块的每种模式的代价,但是这样增加了计算复杂度。结合PAN算法提出了一种快速帧内预测模式选择算法,首先根据宏块是否平坦决定帧内预测的类型——帧内4×4和帧内16×16。其次,改进了PAN算法,提出了一种快速帧内预测模式选择的新算法。实验结果表明,新算法与全搜索算法和PAN算法相比,减少了编码时间,峰值信噪比(PSNR)基本保持不变,输出码率略有增加。     

基于边缘特征的H.264/AVC帧内模式选择算法

为降低H.264帧内预测模式的计算复杂度,提出了一种率失真优化（RDO）准则下的基于边缘特征的快速帧内模式选择算法。该算法根据主要边缘强度（KES）等边缘方向特征,选择出与该特征相对应的模式子集进行RDO计算,大幅度降低了帧内预测的模式选择数;同时将亮度宏块和色度宏块分别优化以降低计算复杂度。仿真结果表明,与原H.264相比,所提出的算法在比特率略有增加和信噪比基本保持不变的条件下,大约减少75%的计算时间,大大降低了算法的计算复杂度;与PAN FENG等人提出的基于Sobel算子的边缘矢量检测算法相比,两者的比特率基本相同,但算法的平均峰值信噪比明显高于PAN的算法,编码时间也有明显降低,同时运算简单规则,更易于VLSI的实现。     

基于全零模块检测的H.264/AVC快速帧内模式选择算法*

H.264/AVC采用多方向、多划分的帧内预测模式,与其他视频编码标准相比具有更高的编码效率,但同时也使计算复杂度明显提升。通过分析各编码模式的特点和最佳模式分布规律,提出了基于全零模块检测的快速帧内模式选择算法,略过不可能进一步降低率失真代价的帧内预测模式,以降低编码过程的计算复杂度。实验结果表明,在保证编码性能的前提下,可以有效地降低H.264/AVC的计算复杂度。     

一种H.264/AVC帧间块模式抉择快速算法

传统的H.264/AVC帧间模式抉择采用的是所有模式全搜索的算法,计算量过大。针对这种情况提出了一种利用均匀区域、零运动矢量和小模式合并原理相结合的快速模式抉择算法,并用JM模型进行实验,结果表明,该算法可以在PSNR降低很少（不超过0.03dB）、码率增加不大(小于4％)的情况下提高编码效率,平均编码时间减少了60％以上。     

一种基于对称的H.264帧内预测模式

为了减少视频编码中帧内预测的数据量，进一步提高帧内预测的精确度，提出一种基于对称的帧内预测模式IPMBS以及在该模式下的帧内预测编码的模式选择算法。该模式利用自然图像的对称性和图像相邻块的数据相关性进行帧内块预测，其算法综合考虑了相邻块中的若干像素，利用H.264中帧内预测编码的RD优化原则来自适应选择预测模式，达到提高预测精度以及提高压缩率的目的。基于H.264参考模型JM10.1的实验结果表明，该预测模式和算法在仅增加很少复杂性的前提下可以获得较好的压缩编码性能，并为帧内预测研究提供了新的思路。     

基于纹理特征的H.264/AVC帧内预测模式快速选择算法

H.264/AVC视频标准中的帧内编码通常采用率失真优化技术,通过遍历所有可能的编码模式,选择其中一个具有最小率失真代价的模式作为最佳帧内预测编码。率失真优化技术在提高编码可靠性、准确性、抗误码率的同时,增加了编码的复杂度和搜索时间。在分析标准帧内预测的情况下,计算当前4×4块和重建4×4块的残差值,若小于某一阈值可提前结束宏块编码,反之则利用图像块的纹理方向与预测模式选择之间的相关性,提出一种快速的帧内4×4块预测模式选择算法。该算法在结合改进的Canny算子和平方梯度法的基础上,提取出当前块的纹理方向,并详细分析了纹理方向与预测模式之间的对应关系。实验仿真在H.264/AVC的参考模型JM13.2平台上完成。结果表明,与标准算法相比,该算法在编码码率持平和峰值信噪比保持不变的前提下,编码时间有较大幅度的下降。     

H.264帧内预测快速算法

为了减小基于率失真优化(RDO)和Hadamard变换的帧内预测算法的计算量,H.264编码器同时给出了不采用RDO和不采用Hadamard变换的低复杂度帧内预测算法(H.264参考软件JM11.0的参数RDOptimization和UseHadamard被置0);这种低复杂度算法大大地减小了计算量,然而在实时性较强的场合,帧内预测算法的计算量仍需进一步减小,为此文章提出了一种快速帧内预测算法;该算法首先根据宏块的奇偶性仅选择同一位置的两个色度宏块中的一个宏块的数据来确定这两个色度宏块的预测模式,接着根据低分辨率图像和简化的代价标准确定出亮度宏块的最佳16x16预测模式,最后根据最佳16x16预测模式、快速4x4帧内预测模式选择算法及灵活的代价比较确定出亮度宏块的编码类型及预测模式;试验结果表明,与低复杂度的帧内预测算法相比,在图像质量和码率变化不大的同时,文章的预测算法的平均帧内预测时间能减少50%以上。     

Fast block mode decision algorithm in H.264/AVC using a filter bank of Kalman filters for high definition encoding

In this paper, we propose a fast mode decision algorithm using a filter bank of Kalman filters for H.264/ AVC. For the highest coding efficiency in H.264/AVC, a macroblock can be coded with seven different block sizes for motion compensation in an inter mode and various spatial prediction modes in an intra mode. The conventional encoder employs a complex technique for mode decision based on a rate-distortion (RD) cost of all possible modes. Hence, for the purpose of selecting the best block mode with the minimum RD cost, the conventional procedure requires much computational burden and a very complex encoding structure. In order to reduce the complexity, we propose a fast algorithm for mode decision based on Kalman filtering to estimate RD cost of a specific block mode. Furthermore, we propose an optimized structure of H.264/AVC encoder to implement the proposed algorithm. Without considerable performance degradation, using SIMD technology, the computer simulation shows that the proposed methods are dramatically faster than the original JM 9.6 encoder.     

H.264/AVC中基于决策树的P帧快速模式选择（HHME2013第61号论文）

目的：H.264/AVC帧间预测编码需要对所有可能编码模式计算并比较率失真代价,众多的模式类型导致了P帧编码的计算复杂度非常高。本文提出了一种针对P帧的基于决策树的快速选择候选模式算法。方法：在对宏块进行16×16的帧间运动估计后,首先根据残差宏块中4×4全零系数块个数对部分宏块直接选择出候选模式;然后使用16个4×4块的SATD值,采用决策树分类方法对其余宏块选择候选模式。结果：由于只需对候选模式进行编码,因此有效降低了编码器的计算复杂度。实验结果表明,与原始全搜索编码算法相比,该算法对不同运动程度的视频序列获得了较一致的编码时间节省,同时平均峰值信噪比的损失和平均比特率的增加均较少。结论：本文提出了一种新的P帧帧间预测候选模式选择算法,根据帧间运动估计后的残差宏块信息,采用决策树方法对候选模式集进行分类。实验结果表明,该算法能在保证视频编码质量的前提下,有效地降低编码过程中的计算量,缩短编码时间。     

H.264/AVC中基于决策树的P帧快速模式选择

目的 H.264/AVC帧间预测编码需要对所有可能编码模式计算并比较率失真代价,众多的模式类型导致了P帧编码的计算复杂度非常高。为此提出一种针对P帧的基于决策树的快速候选模式选择算法。方法在对宏块进行16×16的帧间运动估计后,首先根据残差宏块中4×4全零系数块个数对部分宏块直接选择出候选模式;然后使用16个4×4块的变换域系数绝对值之和(SATD)值,采用决策树分类方法对其余宏块选择候选模式。结果由于只需对候选模式进行编码,因此有效降低了编码器的计算复杂度。实验结果表明,与原始全搜索编码算法相比,该算法对不同运动程度的视频序列获得了较一致的编码时间的节省,同时平均峰值信噪比的损失和平均比特率的增加均较少。结论新的P帧帧间预测候选模式选择算法,根据帧间运动估计后的残差宏块信息,采用决策树方法对候选模式集进行分类。实验结果表明,该算法能在保证视频编码质量的前提下,有效地降低编码过程中的计算量,缩短编码时间。