自适应六边形_菱形运动估计算法及其在H_264中应用

2006年 工 程 图 学 学 报2006第6期 JOURNAL OF ENGINEERING GRAPHICS No.6自适应六边形-菱形运动估计算法及其在H.264中应用李小红（合肥工业大学计算机与信息学院，安徽合肥 230009）摘要：运动估计是视频图像编码中运算量很大的部分，也是影响系统实时性能的瓶颈。

为了减少图像编码的运算量，文章介绍和分析了用于视频编码标准H.264的基于六边形的搜索算法(HS)，在此基础上根据H.264多模式的运动估计提出自适应六边形-菱形整像素算法，它体现了粗定位和准确定位的并行处理思想，仿真结果表明在获得与HS快速算法相当的图像质量和信噪比的情况下，可提高H.264视频编码的速度和效率。

关键词：计算机应用；计算机图像处理；自适应六边形-菱形搜索；运动估计；六边形搜索；H.264标准中图分类号：TP 391.41文献标识码：A 文章编号：1003-0158(2006)06-0082-05An Adaptable Hexagon-Diamond Motion Estimation Algorithm for H.264LI Xiao-hong( School of Computer Science and Information Engineering, Hefei University of Technology, Hefei Anhui 230009, China )Abstract: The computation in video codec mainly concentrates on motion estimation, which is the bottleneck of realization of real time video codec. In order to reduce the computation in the motion estimation of H.264 encoding, this paper introduces and discusses the hexagon search (HS) algorithm used in H.264 video coding standard. Meanwhile, an adaptable hexagon-diamond integer pixel motion estimation algorithm based on multiple motion estimation modes is also presented, which adopted parallel processing idea of coarse location and accurate orientation determined by its structure. Experimental results show that the proposed technique can significantly reduce the computational complexity, and provide competitive performance with similar image quality compared with the HS fast algorithm.Key words: computer application; computer image processing; adaptable hexagon-diamond search; motion estimation; hexagon search; H.264收稿日期：2006-01-11基金项目：安徽省“十五”科技攻关计划资助项目（040020382）；安徽省教育厅高校青年教师科研计划资助项目（2005jq1009）在视频编码中，帧间预测是减少运动图像时间冗余度的关键技术。

H.261、MPEG2、H.263、MPEG4等国际标准均采用了运动估计算法，其主要任务是按照一定的匹配准则，在前一重建的图像帧中相应搜索窗口内寻找当前编码宏块的最佳匹配宏块，并求出其运动矢量。

因此，低码率视频编码要求运动估计搜索算法尽可能精确地寻找最佳匹配快，以使预测图像更加准确，满足低码率的要求；另一方面，降低其运算量对实现实时视频编码器具有决定性的意义。

在所有的运动估计搜索算法中，全搜索(FS)算法性能最好，精度最高，但其计算精度是以巨大的运算量为代价的，运动估计要占到整个编码运算量的70%~90%，实际应用中为了减少运算量，提出许多快速算法，如三步法(TSS)、共轭方向搜索法(CDS)和二维对数下降法(TDS)，这些快速算法虽然降低了运算量，但却以牺牲图像质量为代价。

有关实验表明，这几种快速算法相对全搜索算法，在预测的精度上明显降低，因而码率增加。

近年来提出的菱形搜索算法(DS)是一种在时间性能和精度指标上都比较理想的快速算法，作者将它和六边形搜索结合起来，根据视频图像编码标准H.264[1]特有的7种运动估计模式提出自适应六边形-菱形整像素运动估计搜索算法，最后给出实验结果和结论。

1 六边形搜索算法现有的各种运动估计快速算法都是根据视频图像运动矢量的中心偏置分布特性和矢量间的高度相关性，根据块的不同运动内容来确定其搜索起点、搜索范围和搜索策略，从而实现块运动矢量的快速估计，大量的统计实验表明，一般物体在水平和垂直方向上运动的概率比较大，图像的频谱多呈类似菱形的分布，所以菱形搜索算法(DS)是一种在时间性能上和精度指标上比较好的快速算法。

另一方面可以证明，能全面覆盖一个搜索平面的正多边形有正三角形、正方形、正六边形3种，其中，在圆的内接多边形中正六边形的中心间隔最大，覆盖面积也最大。

由于菱形搜索和六边形搜索各有长处，视频图像编码标准H.264的JM82校验模型综合采用了这两种模式。

基于六边形的搜索模式如图1（a）中所示，它包含了7个检查点（阴影点），在六边形的6个端点中，两个水平方向的点到中心的距离为2，剩下的4个点分别到中心的距离为5。

在6个端点中，任何一对相邻端点之间的距离或者为2，或者为5。

从图中可以发现6个端点都大约一致的分布在中心附近，这正是所非常期望得到的环状结构。

注意到六边形搜索模式要比九点菱形搜索法少两个检查点。

在搜索过程中，基于六边形搜索模式一直保持由中心向6个端点中的任何一个推进的趋势。

无论搜索模式中心向哪个端点移动，总是会涌现出3个新端点，而另外的3个端点是重叠的。

图1（b）说明了运动区域内的一个包含4个检查点的较小的收缩六边形搜索模式，或者就称之为菱形搜索模式。

(a) 六边形搜索模式 (b) 菱形搜索模式图1 搜索模式在上述思想的基础上，JM82校验模型采用基于六边形的整像素搜索算法，该算法采用了动态的搜索步长和搜索范围，设立多个门限以及退出标志位使得整个程序包含了很多出口，进而增加了其流向的灵活性。

算法的基本思想如下：（1）根据函数的入口参数动态的确定各种情况下的门限值；（2）进行中心预测值的检测，即将所传入的当前块位置坐标与运动矢量预测器所得到的运动矢量相加获得所要的最佳预测位置，以该点为中心，进行4点的小菱形搜索，进而得到当前最佳匹配点；（3）在水平方向和垂直方向分别在搜索窗的范围内以动态搜索步长进行左右、上下交替搜索，然后以得到的最佳匹配点进行24点的螺旋搜索，从而求得当前最佳匹配点；（4）以当前最佳匹配点为中心，在1/4搜索窗长度的范围内进行16点的大六边形搜索，求得第6期 李小红：自适应六边形-菱形运动估计算法及其在H.264中应用 ·83·最佳匹配点，并且大六边形的大小是随着循环次数的变化而动态的变化的；（5）再以当前的最佳匹配点为中心，采用固定大小的6点六边形进行搜索，搜索范围是整个搜索窗；得到当前最佳匹配点后，再以该点为中心，采用固定大小的4点菱形进行搜索，搜索范围仍然是整个搜索窗，从而得到最终的最佳匹配点，进而获得当前块的运动矢量。

分析JM82校验模型采用的整像素运动估计算法发现，它是基于串行处理思想的，即为了保证算法的效率和收敛性，搜索模板和搜索步长只能由大到小，先进行粗定位，然后再准确定位，搜索次数过多，不能根据图像的内容灵活处理，这对小运动是种浪费，而且当第一步的步长较大时还会误导搜索方向，影响搜索的速度和准确性。

而在低码率的视频应用场合如可视电话、会议电视，由于物体作缓慢运动，运动矢量很小的宏块必然占主导地位，所以有必要寻找更加高速的整像素运动估计算法。

2 自适应六边形-菱形搜索算法及在H.264中应用2.1 适用于H.264的并行搜索模式Zhang Jianning在文献[3]针对H.264的多模式运动估计分别设计了正六边形搜索、水平六边形搜索、垂直六边形搜索和菱形搜索。

正如文献[2]提到的那样，采用环形搜索模式可以获得以最少的搜索点数而得到最快的搜索速度的效果，那么对于4个角均为90°正方形分块模式，正六边形就已经足够接近环状结构了；对于像16×8和8×4分块模式，采用水平六边形搜索模式使得搜索区域更接近环状。

而对8×16和4×8分块模式，采用垂直六边形搜索模式。

随着不同的块尺寸的变化，搜索模式的尺寸也在自适应的发生着变化，这样就增加了匹配的灵活性。

针对并行处理的思想，可定义3种大小模板并行处理的六边形-菱形搜索模式，如图2所示。

用数组定义如下：int Hexagon_x[6] = {2, 1, -1, -2, -1, 1}; //六边形 int Hexagon_y[6] = {0, -2, -2, 0, 2, 2}; //六边形int Horizontal_hexagon_x[6]={2, 1, -1, -2, -1, 1}; //水平六边形int Horizontal_hexagon_y[6]={0, -1, -1, 0, 1, 1}; //水平六边形int Vertical_hexagon_x[6]={1, 0, -1, -1, 0, 1}; //垂直六边形int Vertical_hexagon_y[6]={-1, -2, -1, 1, 2, 1}; //垂直六边形int Diamond_x[4] = {-1, 0, 1, 0}; //菱形int Diamond_y[4] = {0, 1, 0, -1}; //菱形如果采用六边形搜索得到的SAD最小点位于六边形中心，则采用菱形搜索模式进行精细搜索，得到最小SAD点。

(a)(b)(c)图2 3种并行搜索模式2.2 适用H.264的自适应六边形-菱形搜索算法（AHDS）采用图2的并行搜索模式后，根据运动估计的多模式选择可采取自适应搜索算法，即可以对这7种模式分别采用不同的搜索模式，称为基于自适应六边形－菱形搜索的运动估计算法（AHDS），其整像素运动估计算法主要思想如下：（1）考虑到相邻块之间的高度空间相关性，将所传入的当前块位置坐标与运动矢量预测器所得到的运动矢量相加获得所要的最佳预测位置，获得当前块的预测运动矢量（MV x，MV y）。