用于处理视频数据的方法和装置制造方法及图纸

本公开涉及用于处理视频数据的方法和装置。该用于处理视频数据的方法包括：为视频的当前块和该视频的比特流之间的转换，确定二次变换适用于该当前块，其中该二次变换包括正二次变换和逆二次变换中的至少一个，其中该正二次变换在正主变换和量化之间执行，并且该逆二次变换在反量化和逆主变换之间执行；响应于满足至少一个第一条件的当前块的维度，确定该二次变换适用于该当前块的单个子块，其中该至少一个第一条件包括该当前块的维度是4

【技术实现步骤摘要】
用于处理视频数据的方法和装置
[0001]本申请是申请日为2020年4月23日、申请号为：202080031192.6、专利技术名称为“编解码视频中的二次变换的使用”的专利技术专利申请的分案申请。
[0002]相关申请的交叉引用
[0003]本申请是2020年4月23日提交的国际专利申请号PCT/CN2020/086444的延续，其要求2019年4月23日提交的国际专利申请号PCT/CN2019/083853的优先权和利益。所有上述专利申请通过引用并入本文。


[0004]本专利文档涉及视频编解码技术、设备和系统。

技术介绍

[0005]尽管在视频压缩方面取得了进步，数字视频仍然占互联网和其他数字通信网络上的最大带宽使用。随着能够接收和显示视频的连接用户设备数量的增加，预计对数字视频使用的带宽需求将继续增长。

技术实现思路

[0006]本文件描述了各种实施例和技术，其中在视频或图像的解码或编码期间使用二次变换(也称为低频不可分变换)。
[0007]在一个示例方面，公开了一种视频处理的方法。该方法包括：针对视频的块和视频的比特流表示之间的转换，确定来自具有缩减的大小的逆二次变换的输出值被约束在[min,max]、包括min、max在内的范围内。逆二次变换适用于反量化步骤和逆主变换之间的块。缩减的大小是从块的大小缩减的，并且min和max是整数值。该方法还包括基于该确定来执行转换。
[0008]在另一示例方面，公开了一种视频处理的方法。该方法包括：针对视频的块和视频的比特流表示之间的转换，基于二次变换适用的子块的数量，确定将具有缩减的大小的二次变换应用于该块的子块的方式。二次变换适用于正主变换与量化步骤之间或者反量化步骤与逆主变换之间的块。缩减的大小是从块的大小缩减的。该方法还包括基于该确定来执行转换。
[0009]在另一示例方面，公开了一种视频处理的方法。该方法包括：针对视频的块和视频的比特流表示之间的转换，在块的大小满足条件的情况下，确定具有缩减的大小的二次变换适用于该块的单个子块。二次变换在正主变换与量化步骤之间或者反量化步骤与逆主变换之间执行。缩减的大小是从块的大小缩减的。该方法还包括基于该确定来执行转换。
[0010]在另一示例方面，公开了一种视频处理的方法。该方法包括：针对视频的块和视频的比特流表示之间的转换，确定具有缩减的大小的二次变换适用于具有K
×
L的大小的块中的区域。K和L是正整数，并且K不等于L。二次变换在正主变换与量化步骤之间或者反量化步骤与逆主变换之间执行。缩减的大小是从块的大小缩减的。该方法还包括基于该确定来执
行转换。
[0011]在另一示例方面，公开了一种视频处理的方法。该方法包括：针对视频的块和视频的比特流表示之间的转换，基于块的特性确定非零范围。非零范围对应于一范围，在该范围之外，与具有缩减的大小的二次变换相关联的系数被设置为零。二次变换在正主变换与量化步骤之间或者反量化步骤与逆主变换之间执行。缩减的大小是从块的大小缩减的。该方法还包括基于该确定来执行转换。
[0012]在另一示例方面，公开了一种视频编码的方法。该方法包括确定具有缩减的大小的二次变换适用于视频的块的两个相邻子块。两个相邻子块中的每一个具有M
×
N的大小，M和N是正整数。二次变换在正主变换和量化步骤之间执行。缩减的大小是从块的大小缩减的。该方法还包括基于该确定生成视频的编解码表示。
[0013]在另一示例方面，公开了一种视频解码的方法。该方法包括确定具有缩减的大小的二次变换适用于视频的块的两个相邻子块。两个相邻子块中的每一个具有M
×
N的大小，M和N是正整数。二次变换在反量化步骤和逆主变换之间执行。缩减的大小是从块的大小缩减的。该方法还包括根据该确定通过解析视频的编解码表示来生成视频的块。
[0014]在另一示例方面，公开了一种视频处理的方法。该方法包括：针对视频的块和视频的比特流表示之间的转换，根据规则，基于与该块相关联的特性，确定是否将具有缩减的大小的二次变换应用于该块。二次变换在正主变换与量化步骤之间或者反量化步骤与逆主变换之间执行。缩减的大小是从块的大小缩减的。该方法还包括基于该确定来执行转换。
[0015]在另一示例方面，公开了一种视频处理的方法。该方法包括：针对视频的块和视频的比特流表示之间的转换，确定适用于该块的具有缩减的大小的二次变换的一个或多个变换矩阵的系数的比特精度约束。二次变换在正主变换与量化步骤之间或者反量化步骤与逆主变换之间执行。缩减的大小是从块的大小缩减的。该方法还包括基于该确定来执行转换。
[0016]在另一示例方面，公开了一种视频处理的方法。该方法包括：确定约束规则，该约束规则用于在当前视频块的比特流表示和当前视频块的像素之间的转换期间选择性地应用具有缩减的大小的二次变换；并且通过根据约束规则应用具有缩减的大小的二次变换来执行转换。具有缩减的大小的二次变换具有从当前视频块的大小缩减的大小。在转换期间，具有缩减的大小的二次变换以特定的顺序与主变换一起应用。
[0017]在另一示例方面，公开了视频处理的另一种方法。该方法包括：确定约束规则，该约束规则用于在当前视频块和临近视频区域的比特流表示与当前视频块的像素和临近区域的像素之间的转换期间选择性地应用具有缩减的大小的二次变换；并且通过根据约束规则应用具有缩减的大小的二次变换来执行转换。具有缩减的大小的二次变换具有从当前视频块和临近视频区域的大小缩减的的大小。在转换期间，具有缩减的大小的二次变换以特定的顺序与主变换一起应用。
[0018]在又一示例方面，公开了另一视频处理方法。该方法包括：确定调零规则，该调零规则用于在当前视频块的比特流表示与当前视频块的像素的转换期间选择性地应用具有缩减的大小的二次变换；并且通过根据调零规则应用具有缩减的大小的二次变换来执行转换。具有缩减的大小的二次变换具有从当前视频块的大小缩减的大小。调零规则规定了具有缩减的大小的二次变换使用的系数的最大数量。
[0019]在又一示例方面，公开了另一视频处理方法。该方法包括：确定调零规则，该调零
规则用于在当前视频块的比特流表示与当前视频块的像素的转换期间选择性地应用具有缩减的大小的二次变换；并且通过根据调零规则应用具有缩减的大小的二次变换来执行转换。具有缩减的大小的二次变换具有从当前视频块的大小缩减的大小。调零规则规定了具有缩减的大小的二次变换使用的系数的最大数量。
[0020]在又一示例方面，公开了另一视频处理方法。该方法包括：确定用于在当前视频块的比特流表示与当前视频块的像素之间的转换期间选择性地应用具有缩减的大小的二次变换的条件；并且通过根据该条件应用具有缩减的大小的二次变换来执行转换。具有缩减的大小的二次变换具有从当前视频块的大小缩减的大小。在比特流表示中信令通知该条件。
[0021]在又一示例方面，公开了另一视频处理方法。该方法包括：在当前视频块的比特流表示和当前视频块的像素之间的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种处理视频数据的方法，包括：为视频的当前块和所述视频的比特流之间的转换，确定二次变换适用于所述当前块，其中所述二次变换包括正二次变换和逆二次变换中的至少一个，其中所述正二次变换在正主变换和量化之间执行，并且所述逆二次变换在反量化和逆主变换之间执行；响应于满足至少一个第一条件的当前块的维度，确定所述二次变换适用于所述当前块的单个子块，其中所述至少一个第一条件包括所述当前块的维度是4
×
H或W
×
4，并且其中H>8且W>8；和基于所述确定执行所述转换。2.根据权利要求1所述的方法，其中所述二次变换适用于的单个子块是所述当前块的左上角子块。3.根据权利要求1所述的方法，其中所述单个子块具有M
×
N的维度，M和N是正整数。4.根据权利要求3所述的方法，其中M＝N＝4。5.根据权利要求1所述的方法，还包括：响应于满足至少一个第二条件的当前块的维度，确定所述二次变换适用于所述当前块的单个子块，其中所述至少一个第二条件包括所述当前块的维度是4
×
H或W
×
4，并且其中H＝8且W＝8。6.根据权利要求1所述的方法，其中用于所述二次变换的矩阵从四个变换集合中选择，并且所述四个变换集合中的每一个包括两个变换矩阵。7.根据权利要求6所述的方法，其中响应于所述当前块是色度块并且三个交叉分量线性模型帧内预测模式之一被用于所述当前块，为所述当前块选择变换集0。8.根据权利要求1所述的方法，其中是否应用二次变换取决于块的编解码模式。9.根据权利要求8所述的方法，其中响应于用非帧内预测模式对所述块进行编解码，不对所述块应用所述二次变换。10.根据权利要求1所述的方法，其中响应于用变换跳过模式对所述块进行编解码，不对所述块应用所述二次变换。11.根据权利要求1所述的方法，其中响应于所述二次变换未被应用于块，指示与所述块中的二次变换相关的信息的语法元素未被包括在比特流中。12.根据权利要求1所述的方法，其中所述转换包括将所述视频编码成所述比特流。13.根据权利要求1所述的方法，其中所述转换包括从所述比特流解码所述视频。14.一种用于处理视频数据的装置，包括处理器和其上具有指令的非暂时性存储器，其中所述指令在由所述处理器执行时使得所述处理器：为视频的当前块和所述视频的比特流之间的转换，确定二次变换适用于所述当前块，其中所述二次变换包括正二次变换和逆二次变换中的至少一个，其中所述正二次变换在正主变换和量化之间执行，并且所述逆二次变换在反量化和逆主变换之间执行；响应于满足至少一个第一条件的当前块的维度，确定所述二次变换适用于所述当前块的单个子块，其中所述至少一个第一条件包括所述当前块的维度是4
×
H或W
×
4，并且其中H>8且W>8；和基于所述确定执行所述转换。15.根据权利要求14所述的装置，其中所述二次变换适用于的单个子块是所述当前块
的左上角子块。16.根据权利要求14所述的装置，其中所述单个子块具有M
×
N的维度，M和N是正整数。17.根据权利要求16所述的装置，其中M＝N＝4。18.根据权利要求14所述的装置，其中所述指令还使所述处理器：响应于满足至少一个第二条件的当前块的维度，确定所述二次变换适用于所述当前块的单个子块，其中所述至少一个第二条件包括所述当前块的维度是4
×
H或W
×
4，并且其中H＝8且W＝8。19.一种存储指令的非暂时性计算机可读存储介质，所述指令使得处理器：为视频的当前块和所述视频的比特流之间的转换，确定二次变换适用于所述当前块，其中所述二次变换包括正二次变换和逆二次变换中的至少一个，其中所述正二次变换在正主变换和量化之间执行，并且所述逆二次变换在反量化和逆主变换之间执行；响应于满足至少一个第一条件的当前块的维度，确定所述二次变换适用于所述当前块的单个子块，其中所述至少一个第一条件包括所述当前块的维度是4
×
H或W
×
4，并且其中H>8且W>8；和基于所述确定执行所述转换。20.一种存储由视频处理装置执行的方法生成的视频的比特流的非暂时性计算机可读记录介质，其中所述方法包括：确定二次变换适用于视频的当前块，其中所述二次变换包括正二次变换和逆二次变换中的至少一个，其中所述正二次变换在正主变换和量化之间执行，并且所述逆二次变换在反量化和逆主变换之间执行；响应于满足至少一个第一条件的当前块的维度，确定所述二次变换适用于所述当前块的单个子块，其中所述至少一个第一条件包括所述当前块的维度是4
×
H或W
×
4，并且其中H>8且W>8；和基于所述确定生成所述视频的比特流。21.一种存储视频的比特流的方法，包括：确定二次变换适用于视频的当前块，其中所述二次变换包括正二次变换和逆二次变换中的至少一个，其中所述正二次变换在正主变换和量化之间执行，并且所述逆二次变换在反量化和逆主变换之间执行；响应于满足至少一个第一条件的当前块的维度，确定所述二次变换适用于所述当前块的单个子块，其中所述至少一个第一条件包括所述当前块的维度是4
×
H或W
×
4，并且其中H>8且W>8；和基于所述确定生成所述视频的比特流；以及将所生成的所述比特流存储到非暂时性计算机可读记录介质中。22.一种处理视频数据的方法，包括：为视频的当前块和所述视频的比特流之间的转换，确定逆二次变换...

【专利技术属性】
技术研发人员：张凯，张莉，刘鸿彬，许继征，王悦，
申请(专利权)人：字节跳动有限公司，
类型：发明
国别省市：