【CN110022477A】一种基于CUTree的帧间预测模式快速选择方法【专利】
(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号 (43)申请公布日 (21)申请号 201910248674.6(22)申请日 2019.03.29(71)申请人 中南大学地址 410083 湖南省长沙市岳麓区麓山南路932号(72)发明人 张昊 向广 (74)专利代理机构 广州嘉权专利商标事务所有限公司 44205代理人 伍传松(51)Int.Cl.H04N 19/122(2014.01)H04N 19/159(2014.01)H04N 19/30(2014.01)H04N 19/96(2014.01) (54)发明名称一种基于CUTree的帧间预测模式快速选择方法(57)摘要本发明提供了一种基于CUTree的帧间预测模式快速选择方法，属于视频编码解码技术领域。该方法针对CUTree对SATD的加权处理后的值，将其进行归一化后作为该CU在帧间预测做模式选择时的条件，减少了不必要的编码时间，提高了编码效率，所提供的方法简单易行，有利于
在其他编码标准中进行推广。
权利要求书2页 说明书13页 附图1页CN 110022477 A2019.07.16
CN 110022477
A1.一种基于CUTree的帧间预测模式快速选择方法，其特征在于，步骤包括：(1)获取当前CU深度层d的标志位flag_satdcost值；(2)判断所述CU是否都处于图像的内部：若是，进行步骤(3)；若不是，直接进入下一深度层d+1的划分；即由当前CU往下四叉树划分为4个子CU；(3)判断是否进行选择Merge模式或Skip模式：若是，计算帧间预测中的Merge模式和Skip模式的RDcost，选出两者中其RDcost较小的模式作为暂时最佳模式；若否，跳过当前深度对Merge模式和Skip模式的选择，直接进行步骤(4)；(4)判断是否进行下一CU深度的划分：若是，将CU进行下一深度d+1的四叉树划分；若否，直接进行步骤(5)；(5)判断是否进行其八种帧间模式的判断：若是，则进行八种帧间模式的模式选择；若否，直接进行下一深度的划分；(6)得到当前CU的最佳预测模式。2.根据权利要求1所述的方法，其特征在于，步骤(1)中，若CU深度层为0层，当为P帧时，SATD值<15000时，flag_satdcost赋值为0；15000
指由当前CU往下四叉树划分为4个子CU。权 利 要 求 书1/2页
2CN 110022477 A
一种基于H.264／AVC的快速帧间模式选择算法
第２８卷第１２期 ２００８年１２月 计算机应用 Ｃｏｍｐｕｔｅｒ Ａｐｐｌｉｃａｔｉｏｎｓ Ｖ０１．２８ Ｎｏ．１２ Ｄｅｃ．２００８
文章编号：１００１—９０８１（２００８）１２—３１５７—０３
一种基于Ｈ．２６４／ＡＶＣ的快速帧间模式选择算法
辛丰，罗桂娥，杨欣荣 （中南大学信息科学与工程学院，长沙４１００８３） （ｘｉｎｆｅｎｇ３０５＠１６３．ｅｏｍ） 摘要：为了解决帧间模式选择计算量大的问题，提出了一种快速算法。算法利用编码模式的利用率信息和时 空相关性来预先判定当前宏块最可能的编码模式，从而大大加快了模式选择的过程。算法缩小了候选模式的范围， 并采用阈值来提高预测准确度。仿真结果表明，该算法在编码质量只有轻微下降的情况下明显降低了计算复杂度。 关键词：Ｈ．２６４／ＡＶＣ标准；率失真优化；快速模式选择；阂值；时空相关性 中图分类号：ＴＰ３７ 文献标志码：Ａ Ｆａｓｔ ｉｎｔｅｒ ｍｏｄｅ ｄｅｃｉｓｉｏｎ ａｌｇｏｒｉｔｈｍ ｆ０ｒ Ｈ．２６４／ＡＶＣ ～ ＸＩＮ Ｆｅｎｇ ＬＵ０ Ｇｕｉ—ｅ．ＹＡＮＧ Ｘｉｎ—ｒｏｎｇ （Ｃｏｌｌｅｇｅ ｏｆ Ｉｎｆｏｒｍａｔｉｏｎ Ｓｃｉｅｎｃｅ ａｎｄ Ｅｎｇｉｎｅｅｒｉｎｇ，Ｃｅｎｔｒａｌ Ｓｏｕｔｈ Ｕｎｉｖｅｒｓｉｔｙ，Ｃｈａｎｇｓｈａ Ｈｕｎａｎ ４１００８３，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｉｎ ｏｒｄｅｒ ｔｏ ｒｅｓｏｌｖｅ ｔｈｅ ｈｉｇｈ ｃｏｍｐｕｔａｔｉｏｎ ｃｏｍｐｌｅｘｉｔｙ ｉｎ ｉｎｔｅｒ—ｍｏｄｅ ｄｅｃｉｓｉｏｎ，ａ ｎｏｖｅｌ ｆａｓｔ ａｌｇｏｒｉｔｈｍ ｗａｓ ｐｒｏｐｏｓｅｄ．Ｔｈｅ ｐｒｏｐｏｓｅｄ ａｌｇｏｒｉｔｈｍ ｕｔｉｌｉｚｅｄ ｔｈｅ ａｄｏｐｔｉｏｎ ｉｎｆｏｒｍａｔｉｏｎ ｏｆ ｃｏｄｉｎｇ ｍｏｄｅ ａｎｄ ｓｐａｔｉｏ—ｔｅｍｐｏｒａｌ ｃｏｒｒｅｌａｔｉｏｎ ｔｏ ｊｕｄｇｅ ｍａｘｉｍｕｍ ｐｏｓｓｉｂｌｅ ｍｏｄｅ ｏｆ ｃｍｘｅｎｔ ｍａｃｒｏｂｌｏｅｋ ｂｅｆｏｒｅｈａｎｄ，ＳＯ ｉｔ ｃｏｎｓｅｑｕｅｎｔｌｙ ａｃｃｅｌｅｒａｔｅｄ ｔｈｅ ｐｒｏｃｅｓｓ ｏｆ ｍｏｄｅ ｄｅｃｉｓｉｏｎ ｇｒｅａｔｌｙ．Ｔｈｅ ｐｒｏｐｏｓｅｄ ａｌｇｏｒｉｔｈｍ ｒｅｄｕｃｅｄ ｔｈｅ ｒａｎｇｅ ｏｆ ｃａｎｄｉｄａｔｅ ｍｏｄｅｓ ａｎｄ ｕｓｅｄ ｔｈｒｅｓｈｏｌｄｓ ｔｏ ｈｅｉｇｈｔｅｎ ｐｒｅｃｉｓｉｏｎ ｏｆ ｐｒｅｄｉｃｔｉｏｎ． Ｓｉｍｕｌａｔｉｏｎ ｒｅｓｕｌｔｓ ｄｅｍｏｎｓｔｒａｔｅ ｔｈａｔ ｔｈｅ ｐｒｏｐｏｓｅｄ ａｌｇｏｒｉｔｈｍ ｃａｎ ｒｅｄｕｃｅ ｅｎｃｏｄｅｒ ｃｏｍｐｌｅｘｉｔｙ ｓｉｇｎｉｆｉｃａｎｔｌｙ ｗｈｉｌｅ ｃｏｄｉｎｇ ｑｕａｌｉｔｙ ｉｓ ｏｎｌｙ ｓｌｉｇｈｔｌｙ ｄｅｃｒｅａｓｅｄ． Ｋｅｙ ｗｏｒｄｓ：Ｈ．２６４／ＡＶＣ ｓｔａｎｄａｒｄ；ｒａｔｅ ｄｉｓｔｏｒｔｉｏｎ ｏｐｔｉｍｉｚａｔｉｏｎ（ＲＤＯ）；ｆａｓｔ ｍｏｄｅ ｄｅｃｉｓｉｏｎ；ｔｈｒｅｓｈｏｌｄ；ｓｐａｔｉｏ—ｔｅｍｐｏｒａｌ ｃ０ＩＴｅｌａｔｉｏｎ
面向AVS-M的快速帧间预测模式选择算法
１８ 数字电蠢与散字蠢囊
文章编号：１００２—８６９２（２００６）０７—００１８一Ｏ２
面向ＡＶＳ—Ｍ的快速帧问预测模式选择算法 ・论文・
邓 宇，李华，张淑芳
（天津大学电信学院，天津３Ｏｏｏ７２）
【摘 要】提出了一种快速帧问模式选择算法，通过利用宏块的运动特性，有效跳过不必要的帧问预测模式。实验结果表明，此方 法与ＡＶＳ工作组参考软件提供的算法相比，在保证图像质量及相同率失真性能条件下平均编码时间能降低１８．８７％。 【关键词】ＡＶＳ—Ｍ标准；帧问预测模式；帧问编码 【中图分类号】ＴＮ９１９．８１ 【文献标识码】Ｂ
Ａ Ｆａｓｔ Ｉｎｔｅｒ Ｍｏｄｅ Ｄｅｃｉｓｉｏｎ Ａｌｇｏｒｉｔｈｍ Ｏｒｉｅｎｔｅｄ ｔｏ ＡＶＳ—Ｍ
ＤＥＮＧ Ｙｕ，ＬＩ Ｈｕａ，ＺＨＡＮＧ Ｓｈｕ－ｆａｎｇ （Ｅｌｅｃｔｒｏｎｉｃ＆Ｉｎｆｏｒｍａｔｉｏｎ Ｅｎｇｉｎｅｅｒｉｎｇ Ｃｏｌｌｅｇｅ．Ｔｉａｎｆｉｎ Ｕｎｉｖｅｒｓｉｔｙ，Ｔｉａｎｊｉｎ ３０００７２，Ｃｈｉｎａ）
【Ａｂｓｔｒａｃｔ】Ａ ｆａｓｔ ｉｎｔｅｒ ｍｏｄｅ ｄｅｃｉｓｉｏｎ ａｌｇｏｒｉｔｈｍ ｉｓ ｐｒｅｓｅｎｔｅｄ ｉｎ ｔｈｉｓ ｐａｐｅｒ．１１１ｅ ｐｒｏｐｏｓｅｄ ａｌｇｏｒｉｔｈｍ ＣＯ３１ ｅｆｆｅｃｔｉｖｅｌｙ ｓｋｉｐ ｕｒｍｅｃｅｓ－ ｓａｒｙ ｉｎｔｅｒ—ｐｒｅｄｉｃｔｉｏｎ ｍｏｄｅｓ ｂｙ ｕｓｉｎｇ ｔｈｅ ｐｒｏｐｅｒｔｉｅｓ ｏｆ ｍｏｔｉｏｎ ｏｆ ｔｈｅ ｍａｃｒｏｂｌｏｃｋ． Ｅｘｐｅｒｉｍｅｎｔａｌ ｒｅｓｕｌｔｓ ｓｈｏｗ ｔｈａｔ ｔｈｅ ｐｒｏｐｏｓｅｄ ｍｅｔｈｏｄｓ ｃａｎ ｒｅｄｕｃｅ ｅｎｃｏｄｉｎｇ ｔｉｍｅ ｂｙ １ ８．８７％ｏｎ ａｖｅｒａｇｅ ｗｈｉｌｅ ｍａｉｎｔａｉｎｉｎｇ ｔｈｅ ｓａｌｎｅ ｒａｔｅ ｄｉｓｔｏｒｔｉｏｎ ｐｅｒｆｏｒｍａｎｃｅ． 【Ｋｅｙ ｗｏｒｄｓ】ＡＶＳ－Ｍ；ｉｎｔｅｒ－ｐｒｅｄｉｃｔｉｏｎ ｍｏｄｅｓ；ｉｎｔｅｒ－ｆｒａｍｅ ｃｏｄｉｎｇ
一种基于H.264的快速帧间预测模式选择算法
计算机系统应用 ２０１ ０年第１ ９卷第１ ０期
一种基于Ｈ．２ ６ ４的快速帧间预测模式
选择算法①
曾庚卓１－ｚ 马 跃１，２ 张 伟１，３（１．中国科学院沈阳计算技术研究所辽宁沈阳１ １ ０１ ７１；
２．中国科学院研究生院 北京１ ０００４９；３。中国科学技术大学安徽合肥２３００２７）
摘要：提出了一种基于Ｈ．２６４的快速帧间预测模式选择算法，该算法针对Ｈ．２６４中帧间预测模式采用的对
所有候选模式进行全搜索的方法，提出了一种基于图像运动剧烈程度分级的模式选择算法，达到快速
选择预测模式的效果。实验证明，本文提出的模式选择算法与Ｈ．２６４原算法相比在基本保持原算法率
失真特性良好的同时较大幅度的提高了编码效率。 关键词：Ｈ．２６４；运动估计：帧间预测：模式选择
Ａ Ｆａｓｔ Ｉｎｔｅｒ Ｐｒｅｄｉｃｔｉｏｎ Ｍｏｄｅ Ｓｅｌｅｃｔｉｏｎ Ａｌｇｏｒｉｔｈｍ ｏｆ Ｈ．２６４
ＺＥＮＧ Ｇｅｎｇ－Ｚｈｕｏ 一，ＭＡＹｕｅ１，２，ＺＨＡＮＧ Ｗ＿ｅｉ１，３
（１．Ｓｈｅｎｙａｎｇ Ｉｎｓｔｉｔｕｔｅ ｏｆ Ｃｏｍｐｕｔｉｎｇ Ｔｅｃｈｎｏｌｏｇｙ，Ｃｈｉｎｅｓｅ Ａｃａｄｅｍｙ ｏｆ Ｓｃｉｅｎｃｅｓ，Ｓｈｅｎｙａｎｇ １ １ ０ １ ７ １，Ｃｈｉｎａ；
２．Ｇｒａｄｕａｔｅ Ｕｎｉｖｅｒｓｉｔｙ ｏｆＣｈｉｎｅｓｅＡｃａｄｅｍｙ ｏｆＳｃｉｅｎｃｅｓ，Ｂｅｉｊｉｎｇ １０００４９，Ｃｈｉｎａ；３．Ｄｅｐａｒｔｍｅｎｔ ｏｆＣｏｍｐｕｔｅｒ
Ｓｃｉｅｎｃｅ ａｎｄ Ｔｅｃｈｎｏｌｏｇｙ，Ｕｎｉｖｅｒｓｉｔｙ ｏｆ Ｓｃｉｅｎｃｅ ａｎｄ Ｔｅｃｈｎｏｌｏｇｙ ｏｆ Ｃｈｉｎａ，Ｈｅｆｅｉ ２３００２７，Ｃｈｉｎａ）
Ａｂｓｔｒａｃｔ：Ｔｈｉｓ ｐａｐｅｒ ｐｒｅｓｅｎｔｓ ａ ｆａｓｔ，ｉｎｔｅｒ－ｆｌａｍｅ ｐｒｅｄｉｃｔｉｏｎ ｍｏｄｅ ｓｅｌｅｃｔｉｏｎ ａｌｇｏｒｉｔｈｍ ｂａｓｅｄ ｏｎ Ｈ．２６４．Ｆｏｒ Ｈ．２６４．Ｔｈｅ
一种基于H.264的快速帧间预测模式选择算法 2
一种基于H.264的快速帧间预测模式选择算法
曾庚卓;马跃;张伟
【摘 要】提出了一种基于H.264的快速帧间预测模式选择算法,该算法针对H.264中帧间预测模式采用的对所有候选模式进行全搜索的方法,提出了一种基于图像运动剧烈程度分级的模式选择算法,达到快速选择预测模式的效果.实验证明,本文提出的模式选择算法与H.264原算法相比在基本保持原算法率失真特性良好的同时较大幅度的提高了编码效率.
【期刊名称】《计算机系统应用》
【年(卷),期】2010(019)010
【总页数】5页(P80-84)
【关键词】H.264;运动估计;帧间预测;模式选择
【作 者】曾庚卓;马跃;张伟
【作者单位】中国科学院,沈阳计算技术研究所,辽宁沈阳,110171;中国科学院研究生院,北京,100049;中国科学院,沈阳计算技术研究所,辽宁沈阳,110171;中国科学院研究生院,北京,100049;中国科学院,沈阳计算技术研究所,辽宁沈阳,110171;中国科学技术大学,安徽合肥,230027
【正文语种】中 文
1 引言
最新的视频编解码标准H.264/AVC由ISO/IEC的MPEG组织和ITU-T的VCEG组织联合制定的，它同时也是MPEG4第10部分的主要内容。与其他的视频编解码标准相比，H.264标准的目的在于更加有效地提高视频编码效率和它对网络的适配性，其编码算法可广泛应用于数字电视、无线视频通信和视频会议中[1]。在相同的条件下，与H.263+和MPEG-4相比，H.264/AVC能减少50%的码流，但是这种编码效率的提升却是以增加计算复杂度和存储能力为代价获得的[2]。这种高计算复杂度将是对H.264在嵌入式领域和实时应用场合应用的一个瓶颈。
帧间预测是视频压缩的关键技术之一，通过利用已经重建的参考帧对当前参考帧进行预测编码，可以对当前块与参考块的运动矢量以及相应的运动补偿残差进行编码，有效地消除视频编码中的时间冗余，降低编码码率，提高编码效率[3]。在H.264编码标准中，帧间预测编码是该标准的重要编码方式，而帧间预测编码的模式选择算法是 H.264编码计算复杂度极高的重要原因之一。
基于时空预测的H.264快速帧内预测模式选择算法
第３１卷第９期 ２０１０年９月 通信学报 Ｊｏｕｒｎａｌ ｏｎ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ 、，０ｌ－３１ Ｎｏ．９ Ｓｅｐｔｅｍｂｅｒ ２０１０
基于时空预测的Ｈ．２６４快速帧内预测模式选择算法
徐平，余青山，金朝阳，徐伟栋
（杭州电子科技大学自动化学院，浙江杭州３１００１８）
摘要：提出了一种基于时空预测的Ｈ．２６４快速帧内预测模式选择算法，算法充分利用视频序列中的空域和时域
上的相关性，通过构建空域和时域的最佳帧内模式概率直方图来改进Ｐａｎ等人提出的基于边缘方向直方图的帧内
快速模式选择算法。实验结果表明，基于时空预测的Ｈ．２６４快速帧内预测模式选择算法在保持基本相同的编码图
像质量和输出码率的同时，可显著减少编码时间，显著提升Ｈ．２６４的编码性能。
关键词：Ｈ．２６４；帧内预测；模式选择；时空预测
中图分类号：ＴＮ９１９．８ 文献标识码：Ｂ 文章编号：１０００—４３６Ｘ（２０１０）０９—０１３９—０７
Ｎｅｗ ｆａｓｔ ｉｎｔｒａ－ｐｒｅｄｉｃｔｉｏｎ ｍｏｄｅ ｓｅｌｅｃｔｉｏｎ ａｌｇｏｒｉｔｈｍ
ｂａｓｅｄ ｏｎ ｓｐａｔｉｏ－ｔｅｍｐｏｒａｌ ｐｒｅｄｉｃｔｉｎｇ ｆｏｒ Ｈ．２６４
ＸＵ Ｐｉｎｇ，ＳＨＥ Ｑｉｎｇ—ｓｈａｎ，儿Ｎ Ｚｈａｏ—ｙａｎｇ，ＸＵ Ｗｅｉ—ｄｏｎｇ
（Ｃｏｌｌｅｇｅ ｏｆＡｕｔｏｍａｔｉｏｎ，Ｈａｎｇｚｈｏｕ Ｄｉａｎｚｉ Ｕｎｉｖｅｒｓｉｔｙ，Ｈａｎｇｚｈｏｕ ３１００１８，Ｃｈｉｎａ）
Ａｂｓｔｒａｃｔ：Ａ ｎｅｗ ｆａｓｔ ｉｎｔｒａ—ｐｒｅｄｉｃｔｉｏｎ ｍｏｄｅ ｓｅｌｅｃｔｉｏｎ ａｌｇｏｒｉｔｈｍ ｂａｓｅｄ ｏｎ ｓｐａｔｉｏ—ｔｅｍｐｏｒａｌ ｐｒｅｄｉｃｔｉｎｇ ｆｏｒ Ｈ．２６４ ｗａｓ ｐｒｅ—
ｓｅｎｔｅｄ．Ｕｓｉｎｇ ｔｈｅ ｃｏｒｒｅｌａｔｉｏｎ ｏｆ ｓｐａｔｉａｌ ａｎｄ ｔｅｍｐｒｏａｌ ｄｏｍａｉｎ ｉｎ ｖｉｄｅｏ ｓｅｑｕｅｎｃｅ ａｎｄ ｃｏｎｓｔｒｕｃｔｉｎｇ ｔｈｅ ｐｒｏｂａｂｉｌｉｔｙ ｈｉｓｔｏｇｒａｍ
基于时空预测的H.264快速帧内预测模式选择算法 2
基于时空预测的H.264快速帧内预测模式选择算法
徐平;佘青山;金朝阳;徐伟栋
【摘 要】提出了一种基于时空预测的H.264快速帧内预测模式选择算法,算法充分利用视频序列中的空域和时域上的相关性,通过构建空域和时域的最佳帧内模式概率直方图来改进Pan等人提出的基于边缘方向直方图的帧内快速模式选择算法.实验结果表明,基于时空预测的H.264快速帧内预测模式选择算法在保持基本相同的编码图像质量和输出码率的同时,可显著减少编码时间,显著提升H.264的编码性能.
【期刊名称】《通信学报》
【年(卷),期】2010(031)009
【总页数】7页(P139-145)
【关键词】H.264;帧内预测;模式选择;时空预测
【作 者】徐平;佘青山;金朝阳;徐伟栋
【作者单位】杭州电子科技大学,自动化学院,浙江,杭州,310018;杭州电子科技大学,自动化学院,浙江,杭州,310018;杭州电子科技大学,自动化学院,浙江,杭州,310018;杭州电子科技大学,自动化学院,浙江,杭州,310018
【正文语种】中 文
【中图分类】TN919.8
1 引言
在H.264标准中，为了获得高质量和高压缩比，采用率失真优化RDO (rate distortion optimization)模型[1,2]进行帧内预测模式选择。但同时，帧内预测模式选择算法的高计算复杂度是制约H.264实际应用的主要因素之一。
针对帧内预测模式选择的改进策略研究，成为近年来国内外的研究热点。现有的帧内预测模式选择改进算法，大体可分为2类：1) 简化RDO代价函数[3]，寻找可以替代RDO，且基本不影响编码质量的简化RDO代价函数；2) 通过概率预测或者阈值判断减少候选模式数[4～16]，预测各模式被选择为最佳模式的概率，减少小概率模式的编码；通过实验统计等方法获得阈值，在编码过程中一旦满足阈值条件，提前终止后续的模式选择过程，减少候选模式数。
基于HEVC的帧内预测模式快速选择算法
Ｃｏｍｐｕｔｅｒ Ｅｎｇｉｎｅｅｒｉｎｇ ａｎｄ Ａｐｐｌｉｃａｔｉｏｎｓ计算机工程与应用
基于ＨＥＶＣ的帧内预测模式快速选择算法
梅健，谢林柏
ＭＥＩ Ｊｉａｎ，ＸＩＥ Ｌｉｎｂｏ
江南大学物联网工程学院，江苏无锡２１４１２２
Ｃｏｌｌｅｇｅ ｏｆＩｎｔｅｒｎｅｔ ｏｆＴｈｉｎｇｓ Ｅｎｇｉｎｅｅｒｉｎｇ，Ｊｉａｎｇｎａｎ Ｕｎｉｖｅｒｓｉｔｙ，Ｗｕｘｉ，Ｊｉａｎｇｓｕ ２１４１２２，Ｃｈｉｎａ
ＭＥＩ Ｊｉａｎ，ＸＩＥ Ｌｉｎｂｏ．Ｆａｓｔ ｍｏｄｅ ｓｅｌｅｃｔｉｏｎ ａｌｇｏｒｉｔｈｍ ｆｏｒ ｉｎｔｒａ ｐｒｅｄｉｃｔｉｏｎ ｂａｓｅｄ ｏｎ ＨＥＶＣ．Ｃｏｍｐｕｔｅｒ Ｅｎｇｉｎｅｅｒｉｎｇ ａｎｄ Ａｐｐｌｉｃａｔｉｏｎｓ，２０１６，５２（１０）：１８７－１９１．
Ａｂｓｔｒａｃｔ：Ｉｎ ｏｒｄｅｒ ｔｏ ｓａｖｅ ｔｈｅ ｉｎｔｒａ ｃｏｄｉｎｇ ｔｉｍｅ ｏｆ ｔｈｅ ｈｉｇｈ ｅｆｆｉｃｉｅｎｔ ｖｉｄｅｏ ｃｏｄｉｎｇ，ｔｈｉｓ ｐａｐｅｒ ｐｒｏｐｏｓｅｓ ａ ｆａｓｔ ｍｏｄｅ ｓｅｌｅｃ— ｔｉｏｎ ａｌｇｏｒｉｔｈｍ ｆｏｒ ｉｎｔｒａ ｐｒｅｄｉｃｔｉｏｎ．Ｂｙ ｊｕｄｇｉｎｇ ｔｈｅ ｃｏｄｉｎｇ ｕｎｉｔ ｓｉｚｅ，ｇｒａｄｉｅｎｔ ａｎｄ ｄｉｒｅｃｔｉｏｎ ｅｎｅｒｇｙ ｉｓ ｕｓｅｄ ｔｏ ｐｒｅｄｉｃｔ ｔｈｅ ｃａｎ— ｄｉｄａｔｅ ｍｏｄｅ ｒｅｓｐｅｃｔｉｖｅｌｙ．Ｔｈｅ ｐｉｘｅｌ ｇｒａｄｉｅｎｔ ａｌｇｏｒｉｔｈｍ ｉｓ ｕｓｅｄ ｔｏ ｒｅｄｕｃｅ ｔｈｅ ｃａｌｃｕｌａｔｉｏｎ ｏｆ ｔｈｅ ｃａｎｄｉｄａｔｅ ｍｏｄｅ ｐｒｏｃｅｓｓ． Ａｎｄ ｔｈｅ ｊｕｄｇｍｅｎｔ ｏｆ ｄｉｒｅｃｔｉｏｎ ｅｎｅｒｇｙ ｃａｎ ｒｅｄｕｃｅ ｔｈｅ ｎｕｍｂｅｒ ｏｆ ｃａｎｄｉｄａｔｅ ｍｏｄｅｓ．Ｔｈｅ ｅｘｐｅｒｉｍｅｎｔａｌ ｒｅｓｕｌｔｓ ｓｈｏｗ ｔｈａｔ ｔｈｅ ａｌｇｏｒｉｔｈｍ ｐｒｏｖｉｄｅｓ ａｖｅｒａｇｅｌｙ ２７．１ ５％ｒｅｄｕｃｔｉｏｎ ｏｆ ｉｎｔｒａ ｃｏｄｉｎｇ ｔｉｍｅ ｃｏｍｐａｒｅｄ ｗｉｔｈ ｔｈｅ ｔｅｓｔ ｐｌａｔｆｏｒｍ ＨＭ １ ３．０，ｗｈｉｃｈ ｃａｌｌ ｒｅａｃｈ ｔｈｅ ｇｏａｌ ｏｆ ｒｅｄｕｃｉｎｇ ｔｈｅ ｃｏｍｐｕｔａｔｉｏｎａｌ ｃｏｍｐｌｅｘｉｔｙ ａｎｄ ｓａｖｉｎｇ ｔｈｅ ｅｎｃｏｄｉｎｇ ｔｉｍｅ ｅｆｆｅｃｔｉｖｅｌｙ．
基于纹理特征的H.264／AVC帧内预测模式快速选择算法
ＣＮ ４３—１２５８／ＴＰ ＩＳＳＮ １００７—１３ＯＸ 计算机工程与科学 Ｃｏｍｐｕｔｅｒ Ｅｎｇｉｎｅｅｒｉｎｇ＆Ｓｃｉｅｎｃｅ 第３５卷第４期２０１３年４月 Ｖｏ１．３５，Ｎｏ．４，Ａｐｒ．２０１３ 文章编号：１００７—１３０Ｘ（２０１３）０４—００８１—０６ 基于纹理特征的Ｈ．２６４／ＡＶＣ帧内预测模式快速选择算法 张小红，张媛 （江西理工大学信息工程学院，江西赣州３４１０００） 摘 要：Ｈ．２６４／ＡＶＣ视频标准中的帧内编码通常采用率失真优化技术，通过遍历所有可能的编码模 式，选择其中一个具有最小率失真代价的模式作为最佳帧内预测编码。率失真优化技术在提高编码可靠 性、准确性、抗误码率的同时，增加了编码的复杂度和搜索时间。在分析标准帧内预测的情况下，计算当前 ４×４块和重建４×４块的残差值，若小于某一阈值可提前结束宏块编码，反之则利用图像块的纹理方向与 预测模式选择之间的相关性，提出一种快速的帧内４×４块预测模式选择算法。该算法在结合改进的 Ｃａｎｎｙ算子和平方梯度法的基础上，提取出＇－３前块的纹理方向，并详细分析了纹理方向与预测模式之间的 对应关系。实验仿真在Ｈ．２６４／ＡＶＣ的参考模型ＪＭ１３．２平台上完成。结果表明，与标准算法相比，该算 法在编码码率持平和峰值信噪比保持不变的前提下，编码时间有较大幅度的下降。 关键词：Ｈ．２６４／ＡＶＣ；帧内预测；Ｃａｎｎｙ算子；平方梯度；纹理方向 中图分类号：ＴＮ９１９ 文献标志码：Ａ ｄｏｉ：１０．３９６９／ｊ．ｉｓｓｎ．１００７—１３０Ｘ．２０１３．０４．０１５ Ｆａｓｔ ｉｎｔｒａ。。ｐｒｅｄｉｃｔｉｏｎ ｍｏｄｅ ｓｅｌｅｃｔｉｏｎ ａｌｇｏｒｉｔｈｍ ｆｏｒ Ｈ．２６４／ＡＶＣ ｂａｓｅｄ ｏｎ ｔｅｘｔｕｒｅ ＺＨＡＮＧ Ｘｉａｏ—ｈｏｎｇ，ＺＨＡＮＧ Ｙｕａｎ （Ｓｃｈｏｏｌ ｏｆ Ｉｎｆｏｒｍａｔｉｏｎ Ｅｎｇｉｎｅｅｒｉｎｇ，Ｊｉａｎｇｘｉ Ｕｎｉｖｅｒｓｉｔｙ ｏｆ Ｓｃｉｅｎｃｅ ａｎｄ Ｔｅｃｈｎｏｌｏｇｙ，Ｇａｎｚｈｏｕ ３４１０００，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｉｎｔｒａ—ｆｒａｍｅ ｅｎｃｏｄｉｎｇ ｉｎ Ｈ．２６４／ＡＶＣ ｖｉｄｅｏ ｓｔａｎｄａｒｄ ｕｓｕａｌｌｙ ａｄｏｐｔｓ Ｒａｔｅ Ｄｉｓｔｏｒｔｉｏｎ Ｏｐｔｉ— ｍｉｚａｔｉｏｎ（ＲＤＯ）ｔｅｃｈｎｉｑｕｅ．Ｂｙ ｃｏｍｐｕｔｉｎｇ ａｌｌ ｐｏｓｓｉｂｌｅ ｃｏｄｉｎｇ ｍｏｄｅｓ，ｔｈｅ ｏｎｅ ｗｈｉｃｈ ｈａｓ ｔｈｅ ｌｏｗｅｓｔ ｃＯＳｔ ｏｆ ｒａｔｅ ｄｉｓｔｏｒｔｉｏｎ ｉｓ ｓｅｌｅｃｔｅｄ ａｓ ｔｈｅ ｂｅｓｔ ｍｏｄｅ．Ｔｈｅ ＲＤＯ ｔｅｃｈｎｉｑｕｅ ｉｍｐｒｏｖｅｓ ｔｈｅ ｒｅｌｉａｂｉｌｉｔｙ，ａｃｃｕｒａｃｙ ａｎｄ ｅｒｒｏｒ ｒｅｓｉｌｉｅｎｃｅ ｏｆ ｅｎｃｏｄｉｎｇ ｗｈｉｌｅ ｉｎｃｒｅａｓｉｎｇ ｔｈｅ ｃｏｍｐｌｅｘｉｔｙ ａｎｄ ｓｅａｒｃｈ ｔｉｍｅ ｏｆ ｔｈｅ ｅｎｃｏｄｉｎｇ．Ｔｈｅ ｒｅｓｉｄｕ— ａ１ ｖａｌｕｅ ｂｅｔｗｅｅｎ ｔｈｅ ｃｕｒｒｅｎｔ ａｎｄ ｒｅｃｏｎｓｔｒｕｃｔｅｄ ４×４ ｂｌｏｃｋ ｉＳ ｃａｌｃｕｌａｔｅｄ ｉｎ ｔｈｅ ｃｉｒｃｕｍｓｔａｎｃｅｓ ｏｆ ａｎａｌｙｚｉｎｇ ｔｈｅ ｓｔａｎｄａｒｄ ｉｎｔｒａ—ｐｒｅｄｉｃｔｉｏｎ．Ｉｆ ｔｈｅ ｖａｌｕｅ ｉ８ ｓｍａｌｌｅｒ ｔｈａｎ ａ ｃｅｒｔａｉｎ ｔｈｒｅｓｈｏｌｄ ｔｈｅ ｍａｃｒｏ ｂｌｏｃｋ ｃｏｄｉｎｇ ｃａｎ ｂｅ ｅｎｄｅｄ ｉｎ ａｄｖａｎｃｅ．Ｃｏｎｖｅｒｓｅｌｙ，ａ ｆａｓｔ ４×４ ｉｎｔｒａ—ｐｒｅｄｉｃｔｉｏｎ ｍｏｄｅ ｓｅｌｅｃｔｉｏｎ ａｌｇｏｒｉｔｈｍ ｗａｓ ｐｒｏｐｏｓｅｄ ｂｙ ｕｔｉｌｉｚｉｎｇ ｔｈｅ ｃｏｒｒｅｌａｔｉｏｎ ｂｅｔｗｅｅｎ ｔｈｅ ｔｅｘｔｕｒｅ ｄｉｒｅｃｔｉｏｎ ｏｆ ｂｌｏｃｋ ａｎｄ ｔｈｅ ｃｈｏｉｃｅ ｏｆ ｐｒｅｄｉｃｔ ｍｏｄｅｓ．Ｂａｓｅｄ ｏｎ ｔｈｅ ｉｍｐｒｏｖｅｄ Ｃａｎｎｙ ｏｐｅｒａｔｏｒ ａｎｄ ｓｑｕａｒｅ ｇｒａｄｉｅｎｔ ｍｅｔｈｏｄ，ｔｈｉｓ ａｌｇｏｒｉｔｈｍ ｅｘｔｒａｃｔｓ ｔｈｅ ｔｅｘｔｕｒｅ ｏｆ ｔｈｅ ｃｕｒ— ｒｅｎｔ ｂｌｏｃｋ ａｎｄ ａｎａｌｙｚｅｓ ｔｈｅ ｃｏｒｒｅｓｐｏｎｄｉｎｇ ｒｅｌａｔｉｏｎｓ ｂｅｔｗｅｅｎ ｔｅｘｔｕｒｅ ｄｉｒｅｃｔｉｏｎ ａｎｄ ｔｈｅ ｐｒｅｄｉｃｔ ｍｏｄｅｓ ｉｎ ｄｅｔａｉｌ．Ｅｘｐｅｒｉｍｅｎｔｓ ｗｅｒｅ ｃａｒｒｉｅｄ ｏｕｔ ｏｎ ｔｈｅ ｒｅｆｅｒｅｎｃｅ ｍｏｄｅｌ ＪＭ１３．２ ｏｆ Ｈ．２６４／ＡＶＣ．Ｔｈｅ ｒｅｓｕｌｔｓ ｓｈｏｗ ｔｈａｔ，ｃｏｍｐａｒｅｄ ｗｉｔｈ ｔｈｅ ｓｔａｎｄａｒｄ ａｌｇｏｒｉｔｈｍ，ｔｈｅ ｅｎｃｏｄｉｎｇ ｔｉｍｅ ｉｓ ｓｕｂｓｔａｎｔｉａｌｌｙ ｄｅｃｌｉｎｅｄ ｉｎ ｔｈｅ ｃａｓｅ ｏｆ ｋｅｅｐｉｎｇ ｔｈｅ ｂｉｔ ｒａｔｅ ａｎｄ ｔｈｅ ＰＳＮＲ ａｒｅ ｎｅａｒｌｙ ｕｎｃｈａｎｇｅｄ． Ｋｅｙ ｗｏｒｄｓ：Ｈ．２６４／ＡＶＣ；ｉｎｔｒａ—ｐｒｅｄｉｃｔｉｏｎ；Ｃａｎｎｙ ｏｐｅｒａｔｏｒ；ｓｑｕａｒｅ ｇｒａｄｉｅｎｔ；ｔｅｘｔｕｒｅ ｄｉｒｅｃｔｉｏｎ
一种基于H.264的快速帧间预测模式选择算法 3
一种基于H.264的快速帧间预测模式选择算法
曾庚卓;马跃;张伟
【期刊名称】《计算机系统应用》
【年(卷),期】2010(019)010
【摘 要】提出了一种基于H.264的快速帧间预测模式选择算法,该算法针对H.264中帧间预测模式采用的对所有候选模式进行全搜索的方法,提出了一种基于图像运动剧烈程度分级的模式选择算法,达到快速选择预测模式的效果.实验证明,本文提出的模式选择算法与H.264原算法相比在基本保持原算法率失真特性良好的同时较大幅度的提高了编码效率.
【总页数】5页(P80-84)
【作 者】曾庚卓;马跃;张伟
【作者单位】中国科学院,沈阳计算技术研究所,辽宁沈阳,110171;中国科学院研究生院,北京,100049;中国科学院,沈阳计算技术研究所,辽宁沈阳,110171;中国科学院研究生院,北京,100049;中国科学院,沈阳计算技术研究所,辽宁沈阳,110171;中国科学技术大学,安徽合肥,230027
【正文语种】中 文
【相关文献】
1.H.264帧间预测模式的快速选择算法 [J], 宋彬;常义林;李春林
2.一种H.264快速帧间预测模式选择算法 [J], 葛奇;伍瑞卿;樊丰
3.H.264/AVC帧间预测编码模式快速选择算法 [J], 马宏兴 4.基于H.264的快速帧间预测模式选择算法研究 [J], 陈兆军;王琰;汪滢
5.H.264/AVC帧间预测编码模式的快速选择算法研究 [J], 冯志飞;李璋
因版权原因，仅展示原文概要，查看原文内容请购买
基于自适应预选的快速帧间模式选择算法
基于自适应预选的快速帧间模式选择算法
殷海兵;徐宁
【期刊名称】《浙江大学学报（工学版）》
【年(卷),期】2014(048)004
【摘 要】针对率失真性能和算法复杂度约束,提出基于偏移量自适应模式预选的高效帧间模式选择算法.计算所有可能模式率失真优化关闭判据下的编码代价,对代价进行自适应偏移量调整.基于调整后的代价进行模式预选,选择几种性能可能较优的候选模式,对这些模式进行率失真优化模式选择.由于该算法采用统计分析建模方法,自适应地确定偏移量参数,显著提高了模式预选准确率,较好地平衡了复杂度和算法性能.针对典型视频测试序列进行算法验证.实验表明,与完全率失真优化模式选择算法相比,该算法的复杂度大大降低,视频质量仅存在轻微退化.
【总页数】8页(P734-741)
【作 者】殷海兵;徐宁
【作者单位】中国计量学院信息工程学院,浙江杭州310018;中国计量学院信息工程学院,浙江杭州310018
【正文语种】中 文
【中图分类】TN919
【相关文献】
1.基于帧内/帧间模式选择相关性的H.264/AVC快速帧内模式选择算法 [J], 何宝
2.基于帧内／帧间模式选择相关性的H．264／AVC快速帧内模式选择算法 [J], 何宝
3.基于门限自适应的H.264帧间模式快速选择算法 [J], 尹明;王宏远
4.自适应阈值AVS帧间模式快速选择算法 [J], 李付江; 张刚
5.自适应阈值AVS帧间模式快速选择算法 [J], 李付江; 张刚
因版权原因，仅展示原文概要，查看原文内容请购买