数字内容流压缩制造技术

技术编号:23775386 阅读:17 留言:0更新日期:2020-04-12 04:19
一种压缩来自形成数字内容流的一部分的图像的图像数据的方法,该方法包括对于在数字内容流内的n个图像的序列,获得n个图像中的每一个的图像数据,以及使用相应的压缩方案来压缩n个图像中的至少一些图像的图像数据。

Digital content stream compression

【技术实现步骤摘要】
【国外来华专利技术】数字内容流压缩专利技术背景本专利技术涉及一种用于压缩或解压缩数字内容流的方法和装置,并且在一个特定示例中涉及用于使用不同的编码方案来压缩或解压缩数字内容流以允许用减小的带宽和低延迟来传输图像数据的方法和装置。现有技术的描述在本说明书中对任何现有的出版物(或从它得到的信息)或对已知的任何材料的引用不是也不应当被视为对现有的出版物(或从它得到的信息)或已知的材料形成在本说明书所涉及的努力的领域中的公知常识的一部分的承认或认可或任何形式的建议。在虚拟、增强和混合现实系统中,通常提供可穿戴显示设备,例如头戴式显示器(HMD),其基于显示设备的相对空间位置和/或定向来向佩戴者显示信息。这种系统通过基于关于显示设备的姿态(位置和定向)的信息生成图像来进行操作,使得当显示设备移动时,图像被更新以反映显示设备的新姿态。为了避免晕动病,重要的是最小化在姿态信息的收集和相应图像的创建之间的时间差,特别是在显示设备快速移动的情况下。这与生成高分辨率图像使得这些图像看起来尽可能逼真的需要相结合意味着需要相当多的处理硬件。作为结果,高端现有系统通常需要具有高带宽和到显示设备的低延迟连接的静态台式计算机。因此,目前的系统(例如HTCViveTM、OculusRiftTM和PlaystationVRTM)需要在计算机和HMD之间的有线连接,这是不方便的。虽然合并移动电话以在HMD本身内执行图像的处理和显示的移动解决方案(例如GearVRTM)是可用的,但处理能力是有限的,意味着可以被显示的内容受到限制,特别是在图像分辨率和质量方面。压缩图像数据以减少数据量是众所周知的。这在许多应用(例如减少存储图像数据所需的存储容量、或者减少与图像数据的传输相关联的带宽要求)中是有用的。JPEG使用基于离散余弦变换(DCT)的有损形式的压缩。这种数学运算将视频源的每个帧/场从空间(2D)域转换成频域(又称为变换域)。不太严格地基于人类心理视觉系统的感知模型丢弃高频信息,即在强度和色调方面的急剧转变(sharptransition)。在变换域中,通过量化来减少信息。量化的系数然后被排序并被无损地打包到输出比特流中。然而,这种方法仅仅实现了有限量的压缩,并且需要相当多的处理时间,使得这些方法变得不适合于用在低延迟应用(例如虚拟或增强现实、远程呈现(telepresence)等)中。专利技术概述在一个广泛的形式中,本专利技术的一个方面寻求提供一种压缩来自形成数字内容流的一部分的图像的图像数据的方法,该方法包括对于在数字内容流内的n个图像的序列:获得n个图像中的每一个图像的图像数据;以及使用相应的压缩方案来压缩n个图像中的至少一些图像的图像数据。在一个实施例中,该方法包括使用压缩方案的序列来压缩n个图像的序列。在一个实施例中,该方法包括压缩n个图像的多个序列,每个序列使用压缩方案的相同序列被压缩。在一个实施例中,至少两个相应的压缩方案提供不同的压缩程度。在一个实施例中,执行下列操作中的至少一个:使用不同的压缩方案来压缩n个图像中的每一个图像;使用提供不同的压缩程度的不同压缩方案来压缩n个图像中的每一个图像;对每个相邻图像使用不同的压缩方案来压缩n个图像中的至少一个图像;使用公共压缩方案来压缩在n个图像的序列中的至少两个图像;使用无损压缩方案来压缩n个图像中的至少一个图像;使用有损压缩方案来压缩n个图像中的至少一个图像;n个图像中的至少一个图像是未压缩的;以及n个图像中的至少一个图像被丢弃以减小帧速率。在一个实施例中,数量n是下列项中的至少一个:大于二;在二和五之间;在二和十之间;在四和二十五之间;小于二十五;以及基于多个可用的压缩方案。在一个实施例中,该方法包括:获得n个图像中的下一个图像的下一个图像数据;压缩下一个图像数据;以及对n个图像中的每一个图像重复步骤a)和b)。在一个实施例中,该方法包括对于n个图像中的至少一个图像:选择多个压缩方案中的一个;以及用选定压缩方案来压缩图像数据以生成压缩图像数据。在一个实施例中,该方法包括:确定指示选定压缩方案的编码代码;以及将编码代码与压缩图像数据相关联。在一个实施例中,该方法包括根据下列项中的至少一个来选择压缩方案:用于在n个图像的序列中的相邻图像的压缩方案;期望的压缩程度;用于传输压缩图像数据的通信链路的传输带宽;用于传输压缩图像数据的通信链路的传输服务质量;显示设备的运动;显示设备的所预测的运动;图像显示要求;目标显示分辨率;正在被处理的通道;在一个或更多个图像内的像素阵列的位置;以及在一个或更多个图像内的像素阵列相对于一个或更多个图像的观察者的凝视点的位置;以及误差度量。在一个实施例中,该方法包括使用至少一种压缩方案以:从图像数据获得像素数据,该像素数据表示在一个或更多个图像内的像素阵列;确定在一个或更多个图像内的像素阵列相对于已定义位置的位置,已定义位置至少部分地指示用户的凝视点;以及至少部分地根据已确定位置来压缩像素数据,使得压缩程度取决于像素阵列的已确定位置。在一个实施例中,已定义位置是下列项中的至少一个:用户的被测凝视点;用户的预期凝视点;偏离用户的被测凝视点;偏离用户的预期凝视点;以及至少部分地根据指示用户的凝视点的凝视数据来确定,该凝视数据是从凝视跟踪系统获得的。在一个实施例中,该方法包括压缩像素数据,使得压缩程度进行下列项中的至少一个:基于距已定义点的距离;基于相对于已定义点的方向;远离已定义点而增加;以及提供凹式压缩(foveatedcompression)。在一个实施例中,该方法包括使用至少一种压缩方案以:从图像数据获得像素数据,该像素数据表示在一个或更多个图像内的像素阵列;对像素数据应用变换以确定指示像素阵列的频率分量的一组频率系数;使用比特编码方案来对至少一些频率系数进行选择性地编码,从而生成一组已编码频率系数;以及使用已编码频率系数来生成压缩图像数据。在一个实施例中,比特编码方案定义用于对频率系数中的每一个进行编码的比特的数量,并且其中,频率系数被选择性地编码,使得下列项中的至少一个:至少一些已编码频率系数具有不同数量的比特;较小数量的比特用于对对应于较高频率的频率系数进行编码;越来越小数量的比特用于对对应于越来越高频率的频率系数进行编码;至少一个频率系数被丢弃,使得该组已编码频率系数小于该组频率系数;以及对应于较高频率的至少一个频率系数被丢弃。在一个实施例中,该方法包括:选择多个比特编码方案之一;以及根据选定比特编码方案来对频率系数进行编码。在一个实施例中,多个比特编码方案中的每一个都用相应的不同数量的比特来对不同的频率系数进行选择性地编码以提供不同的压缩程度。在一个实施例中,至少部分地根据下列项中的至少一个来选择比特编码方案:期望的压缩程度;以及像素阵列的位置。在一个实施例中,频率分量被布置在多个级别中,并且其中,每个比特编码方案定义用于对在多个级别的每一个中的频率系数进行编码的比特的相应数量。在一个实施例中,该阵列本文档来自技高网...

【技术保护点】
1.一种压缩来自形成数字内容流的一部分的图像的图像数据的方法,所述方法包括对于在所述数字内容流内的n个图像的序列:/na)获得所述n个图像中的每一个图像的图像数据;以及/nb)使用相应的压缩方案来压缩所述n个图像中的至少一些图像的图像数据。/n

【技术特征摘要】
【国外来华专利技术】20170605 US 62/515,0021.一种压缩来自形成数字内容流的一部分的图像的图像数据的方法,所述方法包括对于在所述数字内容流内的n个图像的序列:
a)获得所述n个图像中的每一个图像的图像数据;以及
b)使用相应的压缩方案来压缩所述n个图像中的至少一些图像的图像数据。


2.根据权利要求1所述的方法,其中,所述方法包括使用压缩方案的序列来压缩n个图像的所述序列。


3.根据权利要求1或权利要求2所述的方法,其中,所述方法包括压缩n个图像的多个序列,每个序列使用压缩方案的相同序列被压缩。


4.根据权利要求1到3中的任一项所述的方法,其中,至少两个相应的压缩方案提供不同的压缩程度。


5.根据权利要求1到4中的任一项所述的方法,其中,执行下列操作中的至少一个:
a)使用不同的压缩方案来压缩所述n个图像中的每一个图像;
b)使用提供不同的压缩程度的不同压缩方案来压缩所述n个图像中的每一个图像;
c)对每个相邻图像使用不同的压缩方案来压缩所述n个图像中的至少一个图像;
d)使用公共压缩方案来压缩在n个图像的所述序列中的至少两个图像;
e)使用无损压缩方案来压缩所述n个图像中的至少一个图像;
f)使用有损压缩方案来压缩所述n个图像中的至少一个图像;
g)所述n个图像中的至少一个图像是未压缩的;以及
h)所述n个图像中的至少一个图像被丢弃以减小帧速率。


6.根据权利要求1到5中的任一项所述的方法,其中,数量n是下列项中的至少一个:
a)大于二;
b)在二和五之间;
c)在二和十之间;
d)在四和二十五之间;
e)小于二十五;以及
f)基于多个可用的压缩方案。


7.根据权利要求1到6中的任一项所述的方法,其中,所述方法包括:
a)获得所述n个图像中的下一个图像的下一个图像数据;
b)压缩所述下一个图像数据;以及
c)对所述n个图像中的每一个图像重复步骤a)和b)。


8.根据权利要求1到7中的任一项所述的方法,其中,所述方法包括对于所述n个图像中的至少一个图像:
a)选择多个压缩方案中的一个;以及
b)用选定压缩方案来压缩所述图像数据以生成压缩图像数据。


9.根据权利要求8所述的方法,其中,所述方法包括:
a)确定指示所述选定压缩方案的编码代码;以及
b)将所述编码代码与所述压缩图像数据相关联。


10.根据权利要求8或权利要求9所述的方法,其中,所述方法包括根据下列项中的至少一个来选择所述压缩方案:
a)用于在n个图像的所述序列中的相邻图像的压缩方案;
b)期望的压缩程度;
c)用于传输所述压缩图像数据的通信链路的传输带宽;
d)用于传输所述压缩图像数据的通信链路的传输服务质量;
e)显示设备的运动;
f)显示设备的所预测的运动;
g)图像显示要求;
h)目标显示分辨率;
i)正在被处理的通道;
j)在一个或更多个图像内的像素阵列的位置;以及
k)在所述一个或更多个图像内的所述像素阵列相对于所述一个或更多个图像的观察者的凝视点的位置;以及
l)误差度量。


11.根据权利要求1到10中的任一项所述的方法,其中,所述方法包括使用至少一种压缩方案以:
a)从所述图像数据获得像素数据,所述像素数据表示在所述一个或更多个图像内的像素阵列;
b)确定在所述一个或更多个图像内的所述像素阵列相对于已定义位置的位置,所述已定义位置至少部分地指示用户的凝视点;以及
c)至少部分地根据已确定位置来压缩所述像素数据,使得压缩程度取决于所述像素阵列的所述已确定位置。


12.根据权利要求11所述的方法,其中,所述已定义位置是下列项中的至少一个:
a)用户的被测凝视点;
b)用户的预期凝视点;
c)偏离用户的被测凝视点;
d)偏离用户的预期凝视点;以及
e)至少部分地根据指示用户的凝视点的凝视数据来被确定,所述凝视数据是从凝视跟踪系统获得的。


13.根据权利要求11或权利要求12所述的方法,其中,所述方法包括压缩所述像素数据,使得所述压缩程度为下列项中的至少一个:
a)基于距已定义点的距离;
b)基于相对于所述已定义点的方向;
c)远离所述已定义点而增加;以及
d)提供凹式压缩。


14.根据权利要求1到13中的任一项所述的方法,其中,所述方法包括使用至少一种压缩方案以:
a)从所述图像数据获得像素数据,所述像素数据表示在所述一个或更多个图像内的像素阵列;
b)对所述像素数据应用变换以确定指示所述像素阵列的频率分量的一组频率系数;
c)使用比特编码方案来对所述频率系数中的至少一些进行选择性地编码,从而生成一组已编码频率系数;以及
d)使用所述已编码频率系数来生成压缩图像数据。


15.根据权利要求14所述的方法,其中,所述比特编码方案定义用于对所述频率系数中的每一个进行编码的比特的数量,并且其中,所述频率系数被选择性地编码,使得下列项中的至少一个成立:
a)所述已编码频率系数中的至少一些具有不同数量的比特;
b)较小数量的比特用于对对应于较高频率的频率系数进行编码;
c)越来越小数量的比特用于对对应于越来越高频率的频率系数进行编码;
d)至少一个频率系数被丢弃,使得所述一组已编码频率系数小于所述一组频率系数;以及
e)对应于较高频率的至少一个频率系数被丢弃。


16.根据权利要求14或权利要求15所述的方法,其中,所述方法包括:
a)选择多个比特编码方案之一;以及
b)根据选定比特编码方案来对所述频率系数进行编码。


17.根据权利要求16所述的方法,其中,所述多个比特编码方案中的每一个都用相应的不同数量的比特来对不同的频率系数进行选择性地编码以提供不同的压缩程度。


18.根据权利要求16或权利要求17所述的方法,其中,至少部分地根据下列项中的至少一个来选择所述比特编码方案:
a)期望的压缩程度;以及
b)所述像素阵列的位置。


19.根据权利要求16到18中的任一项所述的方法,其中,所述频率分量被布置在多个级别中,并且其中,每个比特编码方案定义用于对在所述多个级别的每一个中的所述频率系数进行编码的比特的相应数量。


20.根据权利要求19所述的方法,其中,所述阵列是导致频率分量的2N-1个级别的NxN像素阵列。


21.根据权利要求14到20中的任一项所述的方法,其中,所述方法包括将比例因子应用于所述频率系数中的至少一些,使得按比例缩放的频率系数被编码,所述比例因子用于减小每个频率系数的大小,并且其中,执行下列操作中的至少一个:
a)不同的比例因子应用于至少一些频率系数;
b)相同的比例因子应用于每个频率系数;以及
c)不同的比例因子应用于在不同通道中的频率系数。


22.根据权利要求14到21中的任一项所述的方法,其中,所述变换是2D离散余弦变换。


23.根据权利要求14到22中的任一项所述的方法,其中,所述方法包括:
a)并行地对频率系数进行选择性地编码;以及
b)至少部分地通过并行到串行字节编码来生成压缩图像数据。


24.根据权利要求1到23中的任一项所述的方法,其中,所述图像数据定义多个通道,并且其中,所述方法包括使用至少一种压缩方案来选择性地压缩所述多个通道中的每一个。


25.根据权利要求24所述的方法,其中,所述像素数据定义RGB通道,并且其中,所述方法包括:
a)将所述RGB通道转换成YCbCr通道;以及
b)压缩所述YCbCr通道,并且其中,所述方法还包括下列操作中的至少一个:
i)比Cb通道或Cr通道更少地压缩Y通道;
ii)并行地压缩所述YCbCr通道中的每一个;以及
iii)压缩CbCr通道并使用未压缩的Y通道。


26.根据权利要求1到25中的任一项所述的方法,其中,所述方法包括:
a)从所述图像数据获得像素数据,所述像素数据表示在所述一个或更多个图像内的像素阵列;以及
b)压缩所述像素数据,其中,通过下列操作从所述图像数据获得所述像素数据:
i)缓冲对应于所述图像的接下来的m-1行像素的图像数据;
ii)缓冲下一行像素的接下来的m个像素的图像数据;
iii)从缓冲的图像数据获得下一mxm像素块的像素数据;
iv)重复步骤b)和c),直到已经从所有m行像素获得像素数据为止;以及
v)重复步骤a)至d),直到已经从所述图像的每行像素获得像素数据为止。


27.根据权利要求26所述的方法,其中,基于下列项中的至少一个来选择m:
a)选定压缩方案;
b)选定比特编码方案;
c)期望的压缩程度;以及
d)所述像素阵列的位置。


28.根据权利要求1到27中的任一项所述的方法,其中,至少部分地使用电子处理设备来执行所述方法。


29.一种用于压缩来自形成数字内容流的一部分的图像的图像数据的装置,所述装置包括至少一个电子编码器处理设备,其:
a)获得n个图像中的每一个图像的图像数据;以及
b)使用相应的压缩方案来压缩所述n个图像中的至少一些图像的图像数据。


30.根据权利要求29所述的装置,其中,所述装置包括:
a)接收所述图像数据的编码器输入缓冲器;以及
b)存储压缩图像数据的编码器输出缓冲器。


31.根据权利要求29或权利要求30所述的装置,其中,所述装置包括传输来自所述编码器输出缓冲器的图像数据的编码器发送器。


32.根据权利要求29到31中的任一项所述的装置,其中,所述至少一个编码器处理设备包括:
a)适当地编程的现场可编程门阵列;
b)专用集成电路;以及
c)图形处理单元。


33.根据权利要求29到32中的任一项所述的装置,其中,所述图像数据定义多个通道,并且其中,所述装置包括:
a)每个通道的相应处理设备;以及
b)用于并行地处理每个通道的并行处理设备。


34.根据权利要求33所述的装置,其中,像素数据定义RGB通道,并且其中,所述装置:
a)将所述RGB通道转换成YCbCr通道;以及
b)使用至少一个处理设备来对...

【专利技术属性】
技术研发人员:丹尼尔·莱姆·菲茨杰拉德蒂莫西·西蒙·卢卡斯罗德尼·伊恩·兰布
申请(专利权)人:因默希弗机器人私人有限公司
类型:发明
国别省市:澳大利亚;AU

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1
相关领域技术
  • 暂无相关专利