一种视频编码中绝对变换误差和的计算方法及装置制造方法及图纸

技术编号:14769132 阅读:41 留言:0更新日期:2017-03-08 13:17
本发明专利技术实施例公开了一种视频编码中绝对变换误差和的计算方法及装置,解决了现有SATD计算涉及大量加法运算以及需要较大存储空间的寄存器来保存中间计算结果的缺陷,本发明专利技术的视频编码中绝对变换误差和的快速计算方法包括:获取残差数据矩阵;对所述残差数据矩阵对应的hadamard变换系数矩阵上半部分的子矩阵、所述残差数据矩阵以及所述hadamard变换系数矩阵的转置矩阵进行第一绝对变换误差和运算;对所述残差数据矩阵对应的hadamard变换系数矩阵下半部分的子矩阵、所述残差数据矩阵进行第二绝对变换误差和运算;将所述第二绝对变换误差和运算的计算结果乘以2,然后再与所述第一绝对变换误差和运算的计算结果进行求和,得到基于所述残差数据矩阵的绝对变换误差和。

【技术实现步骤摘要】

本专利技术涉及视频编码
,尤其涉及一种视频编码中绝对变换误差和的计算方法及装置
技术介绍
在视频编码系统中,常见的失真度评价准则有绝对误差和SAD(SumofAbsoluteDifference)、绝对变换误差和SATD(SumofAbsoluteTransformedDifference)、平方误差和SSE(SumofSquaredError)等。在常用视频失真度的评价准则中,平方误差和SSE效果较好,但是存在乘法运算计算量较大,需要进行离散余弦变换、量化、反量化及反离散余弦变换等操作,其计算复杂且耗时;绝对误差和SAD计算简单但是误差较大;绝对变换误差和SATD效果及性能折中,因此,SATD在最新的HEVC编码规范中有广泛应用。例如,基于8×8的残差数据矩阵的绝对变换误差和SATD8x8的计算公式如下:其中,X为8×8的残差数据矩阵,H8为8阶hadamard变换系数矩阵,为所述8阶hadamard变换系数矩阵H8的转置矩阵,SA(M)表示对对矩阵M中的每个数据进行取绝对值求和操作,考虑到H8为对称矩阵,所以H8的转置矩阵与H8等价,即由于计算SATD8x8需要对三个8×8矩阵计算两次矩阵乘法,因此,需要一个8×8大小的寄存器用于保存第一次矩阵乘法得到的中间计算结果,即:用8×8大小的寄存器把H8X的结果保存下来,用于和后面的H8T进行矩阵乘法。在实现本专利技术的过程中,专利技术人发现现有技术中至少存在如下技术问题:绝对变换误差和(SATD)的计算涉及到大量的加法运算,需要使用大量的加法器,且绝对变换误差和(SATD)的计算需要较大存储空间的寄存器来保存中间计算结果,综上,现有的绝对变换误差和(SATD)的计算耗费了大量的加法器和寄存器等硬件资源。
技术实现思路
本专利技术提供一种视频编码中绝对变换误差和的计算方法及装置,能够在保证一定计算准确性的前提下,减少计算绝对变换误差和的计算量,节省实现所需加法器和寄存器硬件资源。一方面,本专利技术提供一种视频编码中绝对变换误差和的计算方法,所述方法包括:获取残差数据矩阵;对所述残差数据矩阵对应的hadamard变换系数矩阵上半部分的子矩阵、所述残差数据矩阵以及所述hadamard变换系数矩阵的转置矩阵进行第一绝对变换误差和运算;对所述残差数据矩阵对应的hadamard变换系数矩阵下半部分的子矩阵、所述残差数据矩阵进行第二绝对变换误差和运算;将所述第二绝对变换误差和运算的计算结果乘以2,然后再与所述第一绝对变换误差和运算的计算结果进行求和,得到基于所述残差数据矩阵的绝对变换误差和。另一方面,本专利技术提供一种视频编码中绝对变换误差和的计算装置,其特征在于,所述装置包括获取模块、第一计算模块、第二计算模块以及第三计算模块,其中,所述获取模块,用于获取残差数据矩阵;所述第一计算模块,用于对所述残差数据矩阵对应的hadamard变换系数矩阵上半部分的子矩阵、所述残差数据矩阵以及所述hadamard变换系数矩阵的转置矩阵进行第一绝对变换误差和运算;所述第二计算模块,用于对所述残差数据矩阵对应的hadamard变换系数矩阵下半部分的子矩阵、所述残差数据矩阵进行第二绝对变换误差和运算;所述第三计算模块,用于将所述第二绝对变换误差和运算的计算结果乘以2,然后再与所述第一绝对变换误差和运算的计算结果进行求和,得到基于所述残差数据矩阵的绝对变换误差和。本专利技术提供的视频编码中绝对变换误差和的计算方法及装置,获取残差数据矩阵;对所述残差数据矩阵对应的hadamard变换系数矩阵上半部分的子矩阵、所述残差数据矩阵以及所述hadamard变换系数矩阵的转置矩阵进行第一绝对变换误差和运算;对所述残差数据矩阵对应的hadamard变换系数矩阵下半部分的子矩阵、所述残差数据矩阵进行第二绝对变换误差和运算;将所述第二绝对变换误差和运算的计算结果乘以2,然后再与所述第一绝对变换误差和运算的计算结果进行求和,得到基于所述残差数据矩阵的绝对变换误差和。与现有技术相比,一方面,其能够通过减少一半的数据与所述hadamard变换系数矩阵的转置矩阵进行矩阵乘法运算,来减少绝对变换误差和(SATD)的计算涉及的加法运算,相应地,也减少了硬件实现所需的加法器;另一方面,减小了保存中间结果的所需寄存器的大小。综上,本专利技术的技术方案与现有技术相比,能够减少SATD变换实现的计算量,并且节省实现所需加法器和寄存器等硬件资源。附图说明为了更清楚地说明本专利技术实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本专利技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。图1为本专利技术视频编码中绝对变换误差和的计算方法一实施例流程示意图;图2本专利技术视频编码中绝对变换误差和的计算装置一实施例结构示意图。具体实施方式下面将结合本专利技术实施例中的附图,对本专利技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本专利技术一部分实施例,而不是全部的实施例。基于本专利技术中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本专利技术保护的范围。如图1所示,本专利技术实施例提供一种视频编码中绝对变换误差和的计算方法,所述方法包括:S11、获取残差数据矩阵。S12、对所述残差数据矩阵对应的hadamard变换系数矩阵上半部分的子矩阵、所述残差数据矩阵以及所述hadamard变换系数矩阵的转置矩阵进行第一绝对变换误差和运算。S13、对所述残差数据矩阵对应的hadamard变换系数矩阵下半部分的子矩阵、所述残差数据矩阵进行第二绝对变换误差和运算。S14、将所述第二绝对变换误差和运算的计算结果乘以2,然后再与所述第一绝对变换误差和运算的计算结果进行求和,得到基于所述残差数据矩阵的绝对变换误差和。本专利技术提供的视频编码中绝对变换误差和的计算方法,获取残差数据矩阵;对所述残差数据矩阵对应的hadamard变换系数矩阵上半部分的子矩阵、所述残差数据矩阵以及所述hadamard变换系数矩阵的转置矩阵进行第一绝对变换误差和运算;对所述残差数据矩阵对应的hadamard变换系数矩阵下半部分的子矩阵、所述残差数据矩阵进行第二绝对变换误差和运算;将所述第二绝对变换误差和运算的计算结果乘以2,然后再与所述第一绝对变换误差和运算的计算结果进行求和,得到基于所述残差数据矩阵的绝对变换误差和。与现有技术相比,一方面,其能够通过减少一半的数据与所述hadamard变换系数矩阵的转置矩阵进行矩阵乘法运算,来减少绝对变换误差和(SATD)的计算涉及的加法运算,相应地,也减少了硬件实现所需的加法器;另一方面,减小了保存中间结果的所需寄存器的大小。综上,本专利技术的技术方案与现有技术相比,能够减少SATD变换实现的计算量,并且节省实现所需加法器和寄存器等硬件资源。具体地,在本实施例中以8×8的残差数据矩阵为例,对上述流程进行具体阐述:1)获取8×8的残差数据矩阵X,其中,所述8×8的残差数据矩阵X由4个4×4的分块矩阵X00、X01、X10、X11构成,即2)对位于8阶hadamard变换系数矩阵H8上半部分的4×8子矩阵本文档来自技高网
...
一种视频编码中绝对变换误差和的计算方法及装置

【技术保护点】
一种视频编码中绝对变换误差和的计算方法,其特征在于,包括:获取残差数据矩阵;对所述残差数据矩阵对应的hadamard变换系数矩阵上半部分的子矩阵、所述残差数据矩阵以及所述hadamard变换系数矩阵的转置矩阵进行第一绝对变换误差和运算;对所述残差数据矩阵对应的hadamard变换系数矩阵下半部分的子矩阵、所述残差数据矩阵进行第二绝对变换误差和运算;将所述第二绝对变换误差和运算的计算结果乘以2,然后再与所述第一绝对变换误差和运算的计算结果进行求和,得到基于所述残差数据矩阵的绝对变换误差和。

【技术特征摘要】
1.一种视频编码中绝对变换误差和的计算方法,其特征在于,包括:获取残差数据矩阵;对所述残差数据矩阵对应的hadamard变换系数矩阵上半部分的子矩阵、所述残差数据矩阵以及所述hadamard变换系数矩阵的转置矩阵进行第一绝对变换误差和运算;对所述残差数据矩阵对应的hadamard变换系数矩阵下半部分的子矩阵、所述残差数据矩阵进行第二绝对变换误差和运算;将所述第二绝对变换误差和运算的计算结果乘以2,然后再与所述第一绝对变换误差和运算的计算结果进行求和,得到基于所述残差数据矩阵的绝对变换误差和。2.根据权利要求1所述的方法,其特征在于,所述残差数据矩阵为8×8的矩阵X,由4个4×4的分块矩阵X00、X01、X10、X11构成,即X=X00X01X10X11;]]>所述对所述残差数据矩阵对应的hadamard变换系数矩阵上半部分的子矩阵、所述残差数据矩阵以及所述hadamard变换系数矩阵的转置矩阵进行第一绝对变换误差和运算具体为:对位于8阶hadamard变换系数矩阵H8上半部分的4×8子矩阵D1、8×8的残差数据矩阵X以及所述H8的转置矩阵进行第一绝对变换误差和运算其中,D1=(H4H4);其中,所述8阶hadamard变换系数矩阵H8可以表示为如下分块矩阵的形式:H8=H4H4H4-H4,H4=11111-11-111-1-11-1-11,]]>H4为4阶hadamard变换系数矩阵;所述对所述残差数据矩阵对应的hadamard变换系数矩阵下半部分的子矩阵、所述残差数据矩阵进行第二绝对变换误差和运算具体为:对位于所述8阶
\thadamard变换系数矩阵H8下半部分的4×8子矩阵D2、所述8×8的残差数据矩阵X进行第二绝对变换误差和运算SAT...

【专利技术属性】
技术研发人员:卢立志
申请(专利权)人:北京君正集成电路股份有限公司
类型:发明
国别省市:北京;11

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1