H.264/MPEG-4 Part 10 White Paper 译(四) Transform & Quantization(下)

4． 2X2色度直流系数变换和量化

宏块中的每个色度分量由4个4X4采样块组成。每个4X4块进行第2部分所述的变换。每个4X4系数块的直流系数被组合到一个2X2块（WD）并且在量化前进行进一步的变换。



2X2输出块YD的量化的实现如下：

|ZD(i,j)| = (|YD(i,j)|.MF(0,0) + 2f) >> (qbits+1)
sign(ZD(i,j)) = sign(YD(i,j))
Equation 4-2
其中MF，f和qbits定义如上文相同。
在解码过程中，在逆量化前进行逆变换：



若QP大于等于6，则逆量化过实现如下：
W’D(i,j) = WQD(i,j).V(0.0).2^floor(QP/6)-1
若QP小于6，则逆量化实现如下：
W’D(i,j) = [WQD(i,j).V(0,0) ]>>1
重建的系数分别替换到对应的4X4色度系数块中，然后做上文所述变换(Ci’W’Ci).和帧内亮度直流系数一样，这个补充的变换起到对2X2色度直流系数去相关的作用，以此来提高压缩效率。
5． 完整的变换，量化，逆量化和逆变换过程
输入残留块X到输出残留块X’的整个过程如下所述，并在图Figure 5-1中描述。
编码：
1．输入：4X4残留块： X
2. 正“核心”变换： W=CfXCf’
(随后对色度直流系数或16X16帧内模式亮度直流系数进行进一步变换)
3．后缩放和量化： Z=W.PF/(Qstep.2^qbits)
（对色度直流系数和16X16帧内模式亮度直流系数，此式做了修改）
解码：
（对色度直流系数和16X16帧内模式亮度直流系数做逆变换）
4．逆量化（融合了逆变换和预缩放）：
W’=Z.Qstep.PF.64
（对色度直流系数和16X16帧内模式亮度直流系数，此式做了修改）
5．逆核心变换 X’=Ci’W’Ci
6．后缩放： X’’=round(X’/64)
7．输出：4X4残留采样块： X’’



例：（4X4亮度残留块，帧间模式）：
QP=10
输入块X为：



核心变换的输出W为：



MF=8192，3355或5243(取决于系数位置)，qbits=16。正量化器输出Z为：



V=16,25或20（取决于系数位置），2^floor(QP/6)=2。逆量化输出W’为：



核心逆变换输出X’’（ 除64并取整后）：



6． 参考资料
1 ITU-T Rec. H.264 / ISO/IEC 11496-10, “Advanced Video Coding”, Final Committee Draft, Document JVTF100,December 2002
2 A. Hallapuro and M. Karczewicz, “Low complexity transform and quantization – Part 1: Basic
Implementation”, JVT document JVT-B038, February 2001
3 JVT Reference Software version 4.0, ftp://ftp.imtc-files.org/jvt-experts/reference_software/