一种基于备选模式列表优化的帧内编码方法技术

本发明专利技术涉及视频信号处理方法技术领域，提供了一种基于备选模式列表优化的帧内编码方法，包括：步骤A：得到最初的备选模式列表CML；步骤B：重新确定与优化备选模式列表CML；步骤C：对所述重新确定的备选模式列表CML中的模式逐一计算代价，将率失真代价最小的备选模式选择为最佳帧内预测模式。本发明专利技术通过重新确定备选模式列表CML减少备选模式从而实现帧内快速编码，在不降低编码后视频质量的前提下，有效地降低了帧内编码过程的复杂度。

【技术实现步骤摘要】
一种基于备选模式列表优化的帧内编码方法
本专利技术涉及视频信号处理方法
，特别是涉及一种基于备选模式列表优化的帧内编码方法。
技术介绍
随着科学技术的不断发展，人类社会将进入全新的大数据时代。对视频而言，其分辨率从176×144逐渐增大到4k×2k，甚至是8k×4k。与低分辨率视频相比，高分辨率视频可以给人类提供更大的视觉享受。然而，目前最成熟的新一代视频编码标准H.264/AVC（H.264/AdvancedVideoCoding）不能对高分辨率视频进行有效的压缩，因此在2010年4月，国际电信联盟视频编码专家组（VideoCodingExpertGroup，VCEG）和国际标准化组织/国际电工委员会运动图像专家组（MotionPictureExpertGroup，MPEG）组成视频编码联合协作组（JointCollaborativeTeamonVideoCoding，JCT-VC）研究下一代高效视频编码标准（HighEfficiencyVideoCoding，HEVC）。高效视频编码标准HEVC的目标是在新一代视频编码标准H.264/AVC的基础上，进一步提高视频的压缩效率，特别是高分辨率的视频序列。高效视频编码标准HEVC帧内编码过程中采用了更加灵活的块结构。该技术可以通过全遍历的方式针对不同复杂度的视频内容灵活地选择编码单元CU（CodingUnit）、预测单元PU（PredictionUnit）、变换单元TU（TransformUnit）和预测模式最优的组合方式，从而获得更高的压缩效率，但是这种技术也大大增加了编码的复杂度。对应于每种预测模式需要执行率失真优化（RateDistortionOptimization，RDO），以遍历的方式计算各预测模式编码当前预测单元PU的代价并比较率失真代价值，具有最小率失真代价的预测模式成为最佳预测模式。虽然增加帧内预测模式的数目有助于提高预测单元PU内像素的预测精度，但是这种遍历搜索方式、众多预测模式以及每个模式下率失真代价计算极高的计算复杂度综合导致整个帧内编码复杂度极高，不利于实时性视频压缩应用。另外，备选模式列表（CandidateModeList，CML）中不同位置的模式成为最佳预测模式的概率存在明显差异，以及同一位置不同模式成为最佳预测模式的概率也存在明显差异，但现有模式选择方法中，没有或者没有有效利用这一特性，进一步减少最终执行率失真优化RDO的备选模式列表CML中模式的数目。鉴于此，可知现有技术未能充分降低高效视频编码标准HEVC帧内编码过程复杂度。
技术实现思路
本专利技术提供一种解决高效视频编码标准HEVC中帧内编码过程复杂度过高问题的基于备选模式列表优化的帧内编码方法。本专利技术采用如下技术方案：一种基于备选模式列表优化的帧内编码方法，包括以下步骤：步骤A：得到最初的备选模式列表CML；步骤B：重新确定与优化备选模式列表CML；步骤C：对所述重新确定的备选模式列表CML中的模式逐一计算代价，将率失真代价最小的备选模式选择为最佳帧内预测模式。进一步地，所述步骤A具体为：编码当前编码单元CU的亮度编码块CB，利用当前编码单元CU与周围已编码的编码单元CU信息，包括纹理复杂度信息、已编码单元CU的编码预测模式、已编码单元CU和预测单元PU的尺寸与深度信息，从可选帧内预测模式选取可能的最佳模式为备选模式，由此得到最初的备选模式列表CML；所述步骤B具体为：根据备选模式列表CML中的帧内模式排序、模式属性以及编码单元CU和预测单元PU的尺寸信息，重新确定与优化备选模式列表CML。进一步地，在所述步骤A中，通过如下步骤得到亮度编码块CB最初的备选模式列表CML：步骤S21：使用粗略模式决定RMD方法，从35种帧内预测模式中选择N个具有最小粗略模式决定代价RMDcost的模式，并按照从小到大的顺序排列，获得初步的备选模式列表CML，其中N根据预测单元PU尺寸决定，当预测单元PU为64×64，32×32，16×16，8×8，4×4时分别选择3，3，3，8，8；步骤S22：将最可能模式MPM中不包含在备选模式列表CML中的模式添加到备选模式列表CML中。进一步地，所述步骤B具体包括：若备选模式列表CML中第一个备选模式FCM属于最可能模式MPM，则备选模式列表CML中所有模式仅保留集合A；若备选模式列表CML中第一个备选模式FCM属于集合B，且当前预测单元PU尺寸大于M×M，则备选模式列表CML中所有模式仅保留集合C；若备选模式列表CML中第一个备选模式FCM属于集合B，且当前预测单元PU尺寸小于等于M×M，则备选模式列表CML中所有模式仅保留集合E；若备选模式列表CML中第一个备选模式FCM不属于集合F，则备选模式列表CML中所有模式仅保留集合G。进一步地，所述集合A选择{第一个备选模式FCM，第二个备选模式SCM}或者{第一个备选模式FCM，第二个备选模式SCM，第三个备选模式TCM}。进一步地，所述集合B选择{直流模式DC，平面模式Planar}或者{直流模式DC，平面模式Planar，水平模式}，M选择8或者16，集合C选择{直流模式DC，平面模式Planar}或者{直流模式DC，平面模式Planar，第二个备选模式SCM}。进一步地，所述集合B选择{直流模式DC，平面模式Planar}或者{直流模式DC，平面模式Planar，水平模式}，M选择8或者16，集合E选择{直流模式DC，平面模式Planar，第二个备选模式SCM}或者{直流模式DC，平面模式Planar，第二个备选模式SCM，第三个备选模式TCM}。进一步地，集合F选择{直流模式DC，平面模式Planar，最可能模式MPM}或者{直流模式DC，平面模式Planar，水平模式，最可能模式MPM}，集合G选择原始备选模式列表CML中的所有模式或者原始备选模式列表CML中前N-1个模式。进一步地，在所述步骤C之后，还包括如下步骤：判断当前编码树单元CTU是否遍历完成，若未完成则返回执行步骤A，遍历下一个编码块CB。与现有技术相比，本专利技术的有益效果在于：利用备选模式列表CML中不同位置的模式成为最佳预测模式的概率差异，以及同一位置不同模式成为最佳预测模式的概率差异，进一步减少需要执行率失真优化的备选模式列表CML中模式的数目，通过重新确定备选模式列表CML进行帧内快速编码，从而在不降低编码后视频质量的前提下有效地降低了帧内编码过程的复杂度。【附图说明】图1是亮度预测块PB使用的33种预测方向的示意图；图2是本专利技术的基于备选模式列表优化的帧内编码方法流程图；图3是本专利技术的亮度编码块CB的帧内编码流程图；图4是本专利技术实施例一种基于备选模式列表优化的帧内编码方法的流程图；图5是本专利技术另一实施例一种基于备选模式列表优化的帧内编码方法的流程图；图6是本专利技术实施例的方法与原始高效视频编码标准HEVC编码平台、文献①M.Zhang,C.ZhaoandJ.Xu,“AnAdaptiveFastIntraModeDecisionInHEVC,”IEEEInternationalConferenceonImageProcessing(ICIP),Beijing,China,PP.221-224,本文档来自技高网...

【技术保护点】
一种基于备选模式列表优化的帧内编码方法，其特征在于，包括以下步骤：步骤A：得到最初的备选模式列表CML；步骤B：重新确定与优化备选模式列表CML；步骤C：对所述重新确定的备选模式列表CML中的模式逐一计算代价，将率失真代价最小的备选模式选择为最佳帧内预测模式。

【技术特征摘要】
1.一种基于备选模式列表优化的帧内编码方法，其特征在于，包括以下步骤：步骤A：使用粗略模式决定RMD方法，从35种帧内预测模式中选择N个具有最小粗略模式决定代价RMDcost的模式，并按照从小到大的顺序排列，得到最初的备选模式列表CML；N根据预测单元PU尺寸决定；所述步骤A还包括以下步骤：将最可能模式MPM中不包含在备选模式列表CML中的模式添加到备选模式列表CML中；步骤B：根据备选模式列表CML中第一个备选模式FCM的类型，确定备选模式列表CML中保留的模式数目和种类，来重新确定与优化备选模式列表CML；步骤C：对所述重新确定的备选模式列表CML中的模式逐一计算代价，将率失真代价最小的备选模式选择为最佳帧内预测模式。2.根据权利要求1所述的基于备选模式列表优化的帧内编码方法，其特征在于，所述步骤A具体为：编码当前编码单元CU的亮度编码块CB，利用当前编码单元CU与周围已编码的编码单元CU信息，包括纹理复杂度信息、已编码单元CU的编码预测模式、已编码单元CU和预测单元PU的尺寸与深度信息，从可选帧内预测模式选取可能的最佳模式为备选模式，由此得到最初的备选模式列表CML；所述步骤B具体为：根据备选模式列表CML中的帧内模式排序、模式属性以及编码单元CU和预测单元PU的尺寸信息，重新确定与优化备选模式列表CML。3.根据权利要求1所述的基于备选模式列表优化的帧内编码方法，其特征在于，当预测单元PU为64×64，32×32，16×16，8×8，4×4时分别选择3，3，3，8，8。4.根据权利要求1所述的基于备选模式列表优化的帧内编码方法，其特征在于，所述步骤B具体包括：若备选模式列表CML中第一个备选模式FCM属于最可能模式MPM，则备选模式列表CML中...

【专利技术属性】
技术研发人员：张冠军，张云，朱林卫，
申请(专利权)人：中国科学院深圳先进技术研究院，
类型：发明
国别省市：广东;44