HEVC代码学习33：量化相关代码学习

今天来看量化相关的代码。HEVC中，变换和量化是相互结合的，这里重点关注量化部分。

在HM的TLibCommon中，有TComTrQuant.h，从名字上可知是变换量化相关的，就从这个头文件入手开始学习吧。

其中使用结构体QpParam定义了QP的信息：

/// QP struct
struct QpParam
{
//QP = floor(QP/6)+QP%6
Int Qp;
Int per;      //per = QP/6
Int rem;      //rem = QP%6

QpParam(const Int           qpy,
const ChannelType   chType,
const Int           qpBdOffset,
const Int           chromaQPOffset,
const ChromaFormat  chFmt );

QpParam(const TComDataCU   &cu, const ComponentID compID);

}; // END STRUCT DEFINITION QpParam

其中两个构造函数如下，用于计算偏移后的QP并设置QP信息。

QpParam::QpParam(const Int           qpy,
const ChannelType   chType,
const Int           qpBdOffset,
const Int           chromaQPOffset,
const ChromaFormat  chFmt )
{
Int baseQp;       //基础QP

if(isLuma(chType))        //亮度分量
{
baseQp = qpy + qpBdOffset;
}
else      //色度分量
{
baseQp = Clip3( -qpBdOffset, (chromaQPMappingTableSize - 1), qpy + chromaQPOffset );

if(baseQp < 0)
{
baseQp = baseQp + qpBdOffset;
}
else
{
baseQp = getScaledChromaQP(baseQp, chFmt) + qpBdOffset;
}
}

//QP = floor(QP/6)+QP%6
Qp =baseQp;
per=baseQp/6;
rem=baseQp%6;
}

QpParam::QpParam(const TComDataCU &cu, const ComponentID compID)
{
Int chromaQpOffset = 0;

if (isChroma(compID))     //色度分量
{
chromaQpOffset += cu.getSlice()->getPPS()->getQpOffset(compID);
chromaQpOffset += cu.getSlice()->getSliceChromaQpDelta(compID);

chromaQpOffset += cu.getSlice()->getPPS()->getPpsRangeExtension().getChromaQpOffsetListEntry(cu.getChromaQpAdj(0)).u.offset[Int(compID)-1];
}

*this = QpParam(cu.getQP( 0 ),
toChannelType(compID),
cu.getSlice()->getSPS()->getQpBDOffset(toChannelType(compID)),
chromaQpOffset,
cu.getPic()->getChromaFormat());
}

接下来看变换量化类TComTrQuant，其中定义了量化和反量化函数：xQuant和xDeQuant。TComTrQuant类本身的英文注释已经很清楚了，这里为了清晰，只保留了量化和反量化函数部分：

/// transform and quantization class
//变换量化类
class TComTrQuant
{
public:
TComTrQuant();
~TComTrQuant();

// initialize class
//初始化
Void init                 ( UInt  uiMaxTrSize,
Bool useRDOQ                = false,
Bool useRDOQTS              = false,
Bool useSelectiveRDOQ       = false,
Bool bEnc                   = false,
Bool useTransformSkipFast   = false
#if ADAPTIVE_QP_SELECTION
, Bool bUseAdaptQpSelect      = false
#endif
);

private:

// quantization
Void xQuant(       TComTU       &rTu,
TCoeff      * pSrc,
TCoeff      * pDes,
#if ADAPTIVE_QP_SELECTION
TCoeff      *pArlDes,
#endif
TCoeff       &uiAbsSum,
const ComponentID   compID,
const QpParam      &cQP );

// dequantization
Void xDeQuant(       TComTU       &rTu,
const TCoeff      * pSrc,
TCoeff      * pDes,
const ComponentID   compID,
const QpParam      &cQP );

};// END CLASS DEFINITION TComTrQuant

xQuant和xDeQuant被变换和反变换函数transformNxN和invTransformNxN调用，在变换后直接对变换系数进行量化。由于功能很明确，而且不需要过多了解量化原理部分，函数代码就不深入看了。