利索能及
我要发布
收藏
专利号: 201810184642X
申请人: 中南大学
专利类型:发明专利
专利状态:已下证
更新日期:2025-12-01
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于决策树的帧间快速模式选择方法,其特征在于,包括以下步骤:步骤1:构建当前编码单元CU最佳预测模式分类器;

从国际标准测试序列中随机选取四个视频测试序列,在所选的四个测试序列的100帧的编码信息中,获取当前编码单元CU的左邻块CULeft、上邻块CUAbove以及同位块CUCol的相关信息;

以CULeft、CUAbove、CUCol的最佳模式,CUCol的MV,CUCol的残差和编码QP值,当前编码单元CU的平均像素作为输入数据,以当前编码单元CU的最佳预测模式作为输出数据,选择10重交叉验证,对weka中的J48决策树进行训练,得到基于决策树的当前编码单元CU最佳预测模式分类器;

步骤2:获取编码过程中当前编码单元CU的最佳预测模式预估值mode(P);

提取编码过程中,当前编码单元的CULeft、CUAbove、CUCol的最佳模式,CUCol的MV,CUCol的残差和编码QP值以及当前编码单元CU的平均像素,输入至步骤1构建的构建当前编码单元CU最佳模式分类器,获取编码过程中当前编码单元CU的最佳预测模式预估值mode(P);

步骤3:获取左邻块CULeft、上邻块CUAbove以及同位块CUCol的最佳预测模式modej,以及在对应最佳预测模式下的失真Dj和率失真代价RDj,若mode(P)与modej均不为Affine Merge模式,进入步骤4,否则,依次进行所有帧间模式的预测后,进入步骤9;

步骤4:统计相同最佳预测模式的个数i,其中,j表示Left、Above、Col;

步骤5:依据i的取值,获取当前编码单元CU的最佳预测模式候选值;

步骤6:对当前编码单元CU进行Affine Merge模式的预测,并将Affine Merge模式标记为当前编码单元CU的当前最佳模式mode*,同时将Affine Merge模式下的率失真代价标记*为当前最佳率失真代价RD;

步骤7:对当前编码单元CU进行mode(P)的预测,更新当前最佳预测模式mode*和当前最佳率失真代价RD*;

步骤8:基于当前编码单元CU的最佳预测模式预估值mode(P),再依次对当前编码单元*CU的最佳预测模式候选值进行模式预测,在每次模式预测后,更新当前最佳预测模式mode和当前最佳率失真代价RD*;

在各种i的取值下,基于当前编码单元CU的最佳预测模式预估值mode(P),依次选择当前编码单元CU的最佳预测模式候选值进行模式预测,从而结束当前编码单元帧间模式的预测;

步骤9:结束帧间模式的预测。

2.根据权利要求1所述的方法,其特征在于,所述当前编码单元CU的最佳预测模式候选值的获取过程如下:

1)若i=0,按照失真Dj从小到大对左邻块CULeft、上邻块CUAbove以及同位块CUCol排列,并将排列后的左邻块CULeft、上邻块CUAbove以及同位块CUCol对应的最佳预测模式依次标记为第一最佳预测模式候选值mode(X)、第二最佳预测模式mode(Y)、第三最佳预测模式mode(Z);

2)若i=2,将左邻块CULeft、上邻块CUAbove以及同位块CUCol中的相同模式标记为第一最佳预测模式mode(X),不同的模式标记为第二最佳预测模式mode(Y);

3)若i=3,将左邻块CULeft、上邻块CUAbove以及同位块CUCol的最佳预测模式标记为第一最佳模式mode(X);

其中,X、Y、Z取普通Merge、Bilateral、Template、Inter2nx2n。

3.根据权利要求2所述的方法,其特征在于,所述步骤8的具体过程如下:A)若i=0,判断mode(P)与mode(X)是否相同,若相同,则进入步骤8.2,若不同,进入步骤8.1;

步骤8.1:将当前编码单元CU进行mode(X)的预测,更新当前最佳预测模式mode*和当前最佳率失真代价RD*;判断是否满足左邻块CULeft、上邻块CUAbove以及同位块CUCol的失真Dj以及率失真代价RDj均大于当前编码单元CU在当前最佳预测模式mode*下的失真D以及最佳率*失真代价RD,若满足,则进入步骤9,若不满足,则进入步骤8.2;

步骤8.2:判断mode(P)与mode(Y)是否相同,若相同,则进入步骤8.4,若不同,进入步骤

8.3;

步骤8.3:将当前编码单元CU进行mode(Y)的预测,更新当前最佳预测模式mode*和当前*最佳率失真代价RD;判断是否满足左邻块CULeft、上邻块CUAbove以及同位块CUCol中至少两个块的失真Dj以及率失真代价RDj均大于当前编码单元CU在当前最佳预测模式mode*下的失真D以及率失真代价RD*,若满足,则进入步骤9,若不满足,则进入步骤8.4;

步骤8.4:判断mode(P)与mode(Z)是否相同,若相同,则进入步骤9,若不同,将当前编码单元CU进行mode(Z)的预测,更新当前最佳预测模式mode*和当前最佳率失真代价RD*,进入步骤9;

B)若i=2,判断mode(P)与mode(X)是否相同,若相同,则进入步骤8.6,若不同,进入步骤8.5;

步骤8.5:将当前编码单元CU进行mode(X)的预测,更新当前最佳预测模式mode*和当前最佳率失真代价RD*;判断当前编码单元CU的当前最佳预测模式mode*是否为mode(X)且是否满足左邻块CULeft、上邻块CUAbove以及同位块CUCol中至少两个块的率失真代价RDj大于当前编码单元CU在当前编码单元CU在当前最佳模式mode*下的率失真代价RD*,若判断为真,则进入步骤9,若判断为假,则进入步骤8.6;

步骤8.6:判断mode(P)与mode(Y)是否相同,若相同,则进入步骤8.8,若不同,进入步骤

8.7;

步骤8.7:将当前编码单元CU进行mode(Y)的预测,更新当前最佳预测模式mode*和当前最佳率失真代价RD*;进入步骤9;

*

步骤8.8:判断当前编码单元CU的当前最佳模式mode是否为mode(P),若是,进入步骤9,若不是,进行剩余未执行模式的预测并依据率失真代价更新当前最佳预测模式mode*和当前最佳率失真代价RD*,进入步骤9;

C)若i=3,判断mode(P)与mode(X)是否相同,若相同,进入步骤9,若不同,进入步骤

8.9;

步骤8.9:将当前编码单元CU进行mode(X)的预测,更新当前最佳预测模式mode*和当前最佳率失真代价RD*,进行剩余未执行模式的预测,进入步骤9;

所述更新当前最佳预测模式mode*和当前最佳率失真代价RD*是指对当前编码单元进行模式预测后,若得到的率失真代价小于RD*,则将进行的模式作为当前最佳预测模式mode*,同时,将得到的率失真代价作为当前最佳率失真代价RD*;

步骤9:结束帧间模式的预测。