H.264量化反量化反变换过程

（公式A）
add4x4_idct( uint8_t *p_dst, int16_t dct[4][4] )//这里进行反变换+预测块的值 {
int16_t d[4][4]; int16_t tmp[4][4]; int x, y; int i;
for( i = 0; i < 4; i++ )//进行一维反DCT变换 {
Wr(i, j) = (Wr(i, Vj) (i, j) ) << (QP / 6) (i, j = 0...3)
#define DEQUANT_SHL( x ) \ dct[y][x] = ( dct[y][x] * dequant_mf[i_mf][y][x] ) << i_qbits//这是在进行 AC 量化系数的
static int quant_4x4( int16_t dct[4][4], uint16_t mf[16], uint16_t bias[16] ) {
int i, nz = 0; for( i = 0; i < 16; i++ )
QUANT_ONE( dct[0][i], mf[i], bias[i] ); return !!nz; }
nz |= (coef); \
} 跟踪代码：
i=0:
dct[0][i]=0x0006,
i=1:
dct[0][i]=0xfffc,
mf[i]=0x05d2, mf[i]=0x03a8,
i=2:
dct[0][i]=0x0016,
mf[i]=0x05d2,
i=3:
dct[0][i]=0x0030,
mf[i]=0x03a8,
参考《H.264 的整数 DCT 变换编码与量化过程》
标准在常规量化的基础上又考虑了两个问题：如何将变换过程中的点乘步骤一并考虑进来；如何避 免除法和浮点运算。
H.264
变换量化的全过程 为：对输入的
4×4
采样差值矩阵
X
进行前向变换 W
=
Cf
XC
T f
，然后
进行分级量化和缩放：
Z
=W
PF Qstep
。设 wij 为 C f
XC
T f
结果中位于第 i 行第
j 列的一个元素，则由(1.2)
与(1.5)，它的量化值应为：
zij
=
⎛
round
⎜ ⎜
wij
⎝
PF f Qstep
⎞ ⎟ ⎟⎠
（1.6）
其中， PFf 为 E f 位于 (i, j ) 处的元素值。
Zij = ( Wij .MF + f ) >> qbits （最终量化计算公式）
这里跟踪的是 4x4 的量化过程，进行 DCT 整数变换后的 dct[4][4]= 0x0006 0xfffc 0x0016 0x0030 0x001f 0x0007 0xfff1 0xffe8 0xfff4 0xfffa 0x0008 0xfff8 0x000d 0xfff7 0x000f 0xfff4 nz=x264_quant_4x4(h,dct4x4,i_qp,DCT_LUMA_4x4,1,idx),这里 DCT_DUMA_4x4=2 H->quantf.quant_4x4(dct,h->quant4_mf[i_quant_cat][i_qp],h->quant4_bias[i_quant_cat][i_qp]) 接下来调用 quant_4x4(int16_t,dct[4][4],uint16_t mf[16],uint_t bias[16])
将 idx 子宏 块的非 零个数 保存在 mb.cache.non_zero_count[x264_scan8[idx]] 对应 的位置 上： h->mb.cache.non_zero_count[x264_scan8[idx]] = nz;//将量化的非零系数的个数存储起来
if( nz )
{
h->mb.i_cbp_luma |= 1<<(idx>>2);
dct4x4。 2.反量化过程：
参见《新一代视频压缩编码标准》—H.264/AVC 中 P219 页的残差变换系数的反量化：如果当前 处理的图像块是色度块或帧内 16x16 预测模式的亮度块，则反量化输出矩阵 Wr 中的直流系数 Wr(0,0)。对 DCT 交流分量或图像块不是前面情况的直流分量，计算如下：
H.264 正向变换量化和反变换反量化的实现框图:
H.264 的整数变换过程在 H.264 的整数变换中已分析 1.量化过程
量化是对变换后的系数进行量化。H.264 对变换系数采用等比例标量量化，其基本的前向量化公式 为
Zij
=
round
⎜⎛ ⎜ ⎝
Yij Qstep
⎟⎞ ⎟ ⎠
（.5）
( 其中 Zij 为量化后的系数值，Yij 为变换后的输入系数值， Qstep 为量化步长， round )表示取整。H.264
}
h->zigzagf.scan_4x4( h->dct.luma4x4[idx], dct4x4 );Zigzag 扫描(标准 P164)，dct4x4 中存放的是量
化后的非零系数值，h->dct.luma4x4[idx]中存放的是按照 zigzag 扫描顺序后的非零系数值。 跟踪 zigzag 扫描函数：
tmp[i][0] = s02 + s13; tmp[i][1] = d02 + d13; tmp[i][2] = d02 - d13; tmp[i][3] = s02 - s13; }
这里是在进行一维反DCT变换，完成上面公式A中的 CiT (W ⊗ Ei )
s02表示第0行第i列的反量化系数和第2行第i列的反量化系数之和， d02表示第0行第i列的反量化系数和第2行第i列的反量化系数之差，tmp是一维反变换后的结果： matlab验证：
CiT = 一维反DCT变换结果：
CiT (W ⊗ Ei )=
与X264中tmp运行结果一样
for( i = 0; i < 4; i++ )//对一维反DCT变换后的结果进行二维反DCT变换 { const int s02 = tmp[0][i] + tmp[2][i]; const int d02 = tmp[0][i] - tmp[2][i]; const int s13 = tmp[1][i] + (tmp[3][i]>>1); const int d13 = (tmp[1][i]>>1) - tmp[3][i];
const int s02 = dct[0][i]+ dct[2][i]; const int d02 = dct[0][i]- dct[2][i]; const int s13 = dct[1][i]+ (dct[3][i]>>1); const int d13 = (dct[1][i]>>1) - dct[3][i];
h->zigzagf.scan_4x4( h->dct.luma4x4[idx], dct4x4 );
h->quantf.dequant_4x4( dct4x4, h->dequant4_mf[CQM_4IY], i_qp );
h->dctf.add4x4_idct( p_dst, dct4x4 );
反扫描过程。然后将反量化后的系数存放在 dct4x4 中，反量化后 dct4x4={0 0 0 e;其他全为 0} 3.逆 DCT 变换过程 h->dctf.add4x4_idct( p_dst, dct4x4 );//这里是在进行对反量化系数的反变换并获得重建块的过程， dct4x4是上一步反量化的值，p_dst就是反变换之后的亮度值。逆DCT变换原理如下图所示：
dct4x4={0,0,0,1;0,0,0,0;0,0,0,0;0,0,0,0}
h->dct.luma4x4[f]={0,0,0,0;0,0,1,0;0,0,0,0;0,0,0,0}//zigzag 扫描量化系数后存放的值。
h->quantf.dequant_4x4( dct4x4, h->dequant4_mf[CQM_4IY], i_qp );这是反量化，输入为量化后的
bias[i]=0x000e nz=0 bias[i]=0x0017 nz=0 bias[i]=0x0003 nz=0 bias[i]=0x0017 nz=1
i=4:
dct[0][i]=0x001f,
mf[i]=0x03a8,
bias[i]=0x0017 nz=0
i=5:
dct[0][i]=0x0007,
mf[i]=0x0247,
bias[i]=0x0025 nz=0
i=6:
dct[0][i]=0xfff1,
mf[i]=0x03a8,
bias[i]=0x0017 nz=0
i=7:
dct[0][i]=0xffe8,
mf[i]=0x0247,
bias[i]=0x0025 nz=0
i=8-f 依次类推,mf 和 bias 是常量，根据各小块的位置而不同。
X=
这是在 matlab 下进行两次反 DCT 变换后的值
而 d[0][i] = ( s02 + s13 + 32 ) >> 6 是对反变换后的系数进行了缩放取整处理吗？ 跟踪代码后有：
d= 0x0002 0xfffd 0x0004 0xfffe 0x0002 0xfffd 0x0004 0xfffe 0x0002 0xfffd 0x0004 0xfffe 0x0002 0xfffd 0x0004 0xfffe 对比 对于缩放取整还不太明白，求指点。 反量化的残差值加上预测值作为重建块，用于预测