1.一种基于HDR-VDP-2失真准则的率失真优化方法,其特征在于:包括以下步骤:
(1)、对基于HDR-VDP-2失真准则的当前CU进行失真计算:首先对当前编码重建后的CU计算其HDR-VDP-2的评价指标Pmap,并采用对Pmap求取1范数的方式衡量当前CU的图像块的失真程度DHDR,即DHDR=||Pmap||1;其中Pmap中对应当前CU中的每个像素点都有一个概率值,该值越大表示该像素点可察觉失真差异的可能性越大,那么该像素点失真程度也越大,Pmap表示为: 其中Ψ为可操作金字塔重构,β为其指数常数值为3.5;
(2)、确定当前CU所在视频帧的拉格朗日乘子λ:将率失真代价函数重新定义为J=DHDR+λ·R,其中R表示当前CU编码所需的编码比特率,λ为当前编码视频帧所采用的拉格朗日乘子;然后,获取λ与QP之间的函数关系,通过转化后得到的函数关系表示为接下来,分别求取dR/dQP和dDHDR/dQP的函数模型;再然后,通过数据统计来获得QP和λ的分布情况,并用函数关系 来拟合并
评估QP和λ的函数关系,从而确定出λ-QP函数中相关参数的取值;最后,当编码器采用固定QP值量化时,根据修正后的λ-QP函数确定当前编码视频帧所采用的拉格朗日乘子λ,该拉格朗日乘子λ用于平衡码率R和失真DHDR;
(3)、计算率失真代价函数:当前CU所在视频帧的拉格朗日乘子λ确定后,通过HEVC Main 10编码器进行HDR视频编码;首先,定义当前编码重建后的CU的率失真代价函数J=DHDR+λ·R;然后,针对当前CU的亮度分量进行编码,对不同的预测模式、CU的不同深度划分以及其他编码参数选取过程均按照重新定义的率失真代价函数来进行计算率失真代价值,并选取率失真代价值最小的编码参数作为最终编码的编码参数,而对于当前CU的色度分量计算率失真代价值时仍按照HEVC Main 10编码器的率失真代价计算方式进行计算。
2.根据权利要求1所述的一种基于HDR-VDP-2失真准则的率失真优化方法,其特征在于:上述步骤(2)中,确定当前编码单元CU所在视频帧的拉格朗日乘子λ的具体步骤为:a、将率失真代价函数重新定义为J=DHDR+λ·R,其中R表示当前CU编码所需的编码比特率,λ为当前编码视频帧所采用的拉格朗日乘子;
b、最小化率失真代价函数,将率失真代价计算公式J=DHDR+λ·R等式两边分别对码率R求导,并令其等于0,将其转化为λ与QP之间的函数关系,即c、然后,分别求取dR/dQP和dDHDR/dQP函数模型;
d、在HEVC中获取到量化步长Q和QP两者的关系为:R(Q)=τ·2(QP-4)α/6,其中τ和α是与信源信号相关的常数;
e、失真程度DHDR与QP之间存在统计关系ln(DHDR)=a·QP+b,统计CU的平均失真DHDR和QP的分布情况并确定统计关系中a和b的取值分别取0.2443和-4.42,并得到拉格朗日乘子λ与QP的函数模型 其中,Φ=(6×22α/3)/(ln2×τα)、γ=2-α/6,模型中Φ和γ这两个参数是与信源信号相关的常数;
f、固定λ并采用多QP优化的方式编码视频,并统计在固定λ值下CU所对应的出现频次最高的QP作为最优QP,并用函数模型 拟合并评估最优QP和λ的函数关系,从而确定参数Φ和γ的取值;
g、最后,当编码器采用固定QP值量化时,根据修正后的λ-QP函数和QP值计算当前编码视频帧所采用的拉格朗日乘子λ。