虚拟形象生成、模型的训练方法、装置及电子设备制造方法及图纸

本公开提供了虚拟形象生成、模型的训练方法、装置及电子设备，涉及人工智能技术领域，尤其涉及计算机视觉、增强现实、虚拟现实、深度学习等技术领域，可应用于元宇宙、数字人等场景。具体实现方案为：根据对象第一子区域的第一子区域点云信息和对象第二子区域的第二子区域几何信息，确定对象目标区域的目标区域点云信息，对象目标区域包括对象第一子区域和对象第二子区域；以及根据目标渲染颜色信息和目标区域点云信息，生成对象目标区域的虚拟形象。生成对象目标区域的虚拟形象。生成对象目标区域的虚拟形象。

【技术实现步骤摘要】
虚拟形象生成、模型的训练方法、装置及电子设备


[0001]本公开涉及人工智能
，尤其涉及计算机视觉、增强现实、虚拟现实、深度学习等
，可应用于元宇宙、数字人等场景，具体地，涉及一种虚拟形象生成、模型的训练方法、装置及电子设备。

技术介绍

[0002]虚拟数字人是创建元宇宙虚拟世界的关键元素之一。根据数字人的业务需求不同，数字人可分为2维、3维、卡通、写实、超写实等。在实际场景中，需要针对虚拟数字人构建适配业务需求的基本虚拟形象。

技术实现思路

[0003]本公开提供了一种虚拟形象生成、模型的训练方法、装置及电子设备。
[0004]根据本公开的一方面，提供了一种虚拟形象生成方法，包括：根据对象第一子区域的第一子区域点云信息和对象第二子区域的第二子区域几何信息，确定对象目标区域的目标区域点云信息，所述对象目标区域包括所述对象第一子区域和所述对象第二子区域；以及根据目标渲染颜色信息和所述目标区域点云信息，生成所述对象目标区域的虚拟形象。
[0005]根据本公开的另一方面，提供了一种深度学习模型的训练方法，包括：将对象目标区域的样本视频输入深度学习模型的第一神经网络，得到样本对象第一子区域的样本第一子区域点云信息和样本对象第二子区域的样本第二子区域几何信息，所述样本视频具有真实渲染颜色标签、真实目标区域点云标签；将所述样本第一子区域点云信息和所述样本第二子区域几何信息输入深度学习模型的第二神经网络，得到所述样本对象目标区域的样本目标区域点云信息，所述样本对象目标区域包括所述样本对象第一子区域和所述样本对象第二子区域，所述样本目标区域点云信息包括样本目标区域漫反射信息和样本目标区域伪法线信息；将所述样本目标区域漫反射信息和样本目标区域伪法线信息输入所述深度学习模型的第三神经网络，得到样本渲染颜色信息；以及根据所述样本渲染颜色信息、所述真实渲染颜色标签、所述样本目标区域点云信息和所述真实目标区域点云标签，对所述深度学习模型进行训练，得到经训练的深度学习模型。
[0006]根据本公开的一方面，提供了一种虚拟形象生成方法，包括：获取待处理视频，所述待处理视频中包括待处理对象；以及将所述待处理视频输入深度学习模型，得到所述待处理对象的虚拟形象，其中，所述深度学习模型是利用根据本公开所述的深度学习模型的训练方法训练得到的。
[0007]根据本公开的另一方面，提供了一种虚拟形象生成装置，包括：目标点云确定模块，用于根据对象第一子区域的第一子区域点云信息和对象第二子区域的第二子区域几何信息，确定对象目标区域的目标区域点云信息，所述对象目标区域包括所述对象第一子区域和所述对象第二子区域；以及生成模块，用于根据目标渲染颜色信息和所述目标区域点云信息，生成所述对象目标区域的虚拟形象。
[0008]根据本公开的一方面，提供了一种深度学习模型的训练装置，包括：第一网络模块，用于将对象目标区域的样本视频输入深度学习模型的第一神经网络，得到样本对象第一子区域的样本第一子区域点云信息和样本对象第二子区域的样本第二子区域几何信息，所述样本视频具有真实渲染颜色标签、真实目标区域点云标签；第二网络模块，用于将所述样本第一子区域点云信息和所述样本第二子区域几何信息输入深度学习模型的第二神经网络，得到所述样本对象目标区域的样本目标区域点云信息，所述样本对象目标区域包括所述样本对象第一子区域和所述样本对象第二子区域，所述样本目标区域点云信息包括样本目标区域漫反射信息和样本目标区域伪法线信息；第三网络模块，用于将所述样本目标区域漫反射信息和样本目标区域伪法线信息输入所述深度学习模型的第三神经网络，得到样本渲染颜色信息；以及训练模块，用于根据所述样本渲染颜色信息、所述真实渲染颜色标签、所述样本目标区域点云信息和所述真实目标区域点云标签，对所述深度学习模型进行训练，得到经训练的深度学习模型。
[0009]根据本公开的另一方面，提供了一种虚拟形象生成装置，包括：视频获取模块，用于获取待处理视频，所述待处理视频中包括待处理对象；以及深度学习模块，用于将所述待处理视频输入深度学习模型，得到所述待处理对象的虚拟形象，其中，所述深度学习模型是利用根据本公开所述的深度学习模型的训练装置训练得到的。
[0010]根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开的虚拟形象生成方法和深度学习模型的训练方法其中至少一种方法。
[0011]根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行本公开的虚拟形象生成方法和深度学习模型的训练方法其中至少一种方法。
[0012]根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序存储于可读存储介质和电子设备其中至少之一上，所述计算机程序在被处理器执行时实现本公开的虚拟形象生成方法和深度学习模型的训练方法其中至少一种方法。
[0013]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0014]附图用于更好地理解本方案，不构成对本公开的限定。其中：
[0015]图1示意性示出了根据本公开实施例的可以应用虚拟形象生成方法和深度学习模型的训练方法其中至少一种方法及相应装置的示例性系统架构；
[0016]图2示意性示出了根据本公开实施例的虚拟形象生成方法的流程图；
[0017]图3示意性示出了根据本公开实施例的深度学习模型的训练方法的流程图；
[0018]图4示意性示出了根据本公开实施例的基于深度学习模型生成虚拟形象的方法；
[0019]图5示意性示出了根据本公开实施例的基于深度学习模型生成虚拟形象的示意图；
[0020]图6示意性示出了根据本公开实施例的虚拟形象生成装置的框图；
[0021]图7示意性示出了根据本公开实施例的深度学习模型的训练装置的框图；
[0022]图8示意性示出了根据本公开实施例的虚拟形象生成装置的框图；以及
[0023]图9示出了可以用来实施本公开的实施例的示例电子设备的示意性框图。
具体实施方式
[0024]以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
[0025]在本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供、公开和应用等处理，均符合相关法律法规的规定，采取了必要保密措施，且不违背公序良俗。
本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种虚拟形象生成方法，包括：根据对象第一子区域的第一子区域点云信息和对象第二子区域的第二子区域几何信息，确定对象目标区域的目标区域点云信息，所述对象目标区域包括所述对象第一子区域和所述对象第二子区域；以及根据目标渲染颜色信息和所述目标区域点云信息，生成所述对象目标区域的虚拟形象。2.根据权利要求1所述的方法，还包括：在所述根据对象第一子区域的第一子区域点云信息和对象第二子区域的第二子区域几何信息，确定对象目标区域的目标区域点云信息之前，获取所述对象目标区域的视频信息，所述视频信息包括至少一个视频帧；获取所述视频帧的相机内外参；根据所述相机内外参，对所述视频帧中表征所述对象第一子区域的第一像素区域，构建点云信息，得到所述第一子区域点云信息；以及根据所述相机内外参和所述视频帧中表征所述对象第二子区域的第二像素区域，确定所述第二子区域几何信息。3.根据权利要求2所述的方法，其中，所述根据所述相机内外参，对所述视频帧中表征所述对象第一子区域的第一像素区域，构建点云信息，得到所述第一子区域点云信息包括：根据所述相机内外参，将所述视频帧中的第一像素区域投影到三维空间，得到所述视频帧中的第一像素区域的第一三维表征结果；以及对所述至少一个视频帧中的第一像素区域的第一三维表征结果，构建点云信息，得到所述第一子区域点云信息。4.根据权利要求2所述的方法，其中，所述根据所述相机内外参和所述视频帧中表征所述对象第二子区域的第二像素区域，确定所述第二子区域几何信息包括：根据所述相机内外参，将所述视频帧中的第二像素区域投影到三维空间，得到所述视频帧中的第二像素区域的第二三维表征结果；以及根据所述至少一个视频帧中的第二像素区域的第二三维表征结果，确定所述第二子区域几何信息。5.根据权利要求1
‑
4中任一项所述的方法，其中，所述根据对象第一子区域的第一子区域点云信息和对象第二子区域的第二子区域几何信息，确定对象目标区域的目标区域点云信息包括：根据所述第一子区域点云信息和所述第二子区域几何信息，对所述对象目标区域进行几何重建，得到所述对象目标区域的目标区域几何信息；以及根据所述第一子区域点云信息、所述第二子区域几何信息和所述目标区域几何信息，对所述对象目标区域进行点云重建，得到所述目标区域点云信息。6.根据权利要求5所述的方法，其中，所述根据所述第一子区域点云信息和所述第二子区域几何信息，对所述对象目标区域进行几何重建，得到所述对象目标区域的目标区域几何信息包括：根据所述第一子区域点云信息和所述第二子区域几何信息，对所述对象目标区域中的非第二子区域进行几何重建，得到所述非第二子区域的非第二子区域几何信息；以及
根据所述非第二子区域几何信息和所述第二子区域几何信息，对所述对象目标区域进行几何重建，得到所述目标区域几何信息。7.根据权利要求5或6所述的方法，其中，所述第一子区域点云信息包括第一子区域伪法线信息、第一子区域漫反射信息；所述根据所述第一子区域点云信息、所述第二子区域几何信息和所述目标区域几何信息，对所述对象目标区域进行点云重建，得到所述目标区域点云信息包括：根据所述第一子区域伪法线信息、所述第一子区域漫反射信息和所述第二子区域几何信息，对所述对象目标区域中的非第一子区域进行渲染，得到所述非第一子区域的非第一子区域伪法线信息和非第一子区域漫反射信息；根据所述非第一子区域伪法线信息和所述非第一子区域漫反射信息，对所述非第一子区域进行点云重建，得到所述非第一子区域的非第一子区域点云信息；以及根据所述第一子区域点云信息、所述非第一子区域点云信息和所述目标区域几何信息，对所述对象目标区域进行点云重建，得到所述目标区域点云信息。8.根据权利要求5所述的方法，其中，所述目标区域点云信息包括目标区域伪法线信息、目标区域漫反射信息；所述方法还包括：在所述根据目标渲染颜色信息和所述目标区域点云信息，生成所述对象目标区域的虚拟形象之前，根据所述目标区域伪法线信息、所述目标区域漫反射信息和所述目标区域几何信息其中至少一种信息，对所述目标区域点云信息进行渲染，得到所述目标渲染颜色信息。9.根据权利要求8所述的方法，其中，所述根据所述目标区域伪法线信息、所述目标区域漫反射信息和所述目标区域几何信息其中至少一种信息，对所述目标区域点云信息进行渲染，得到所述目标渲染颜色信息包括：根据所述目标区域伪法线信息和所述目标区域漫反射信息，确定目标点云在第一视角的第一视角伪法线信息和第一视角漫反射信息，所述目标点云为所述目标区域点云信息表征的点云；根据所述第一视角伪法线信息、所述第一视角漫反射信息和所述目标区域几何信息其中至少一种信息，对所述目标点云在所述第一视角所表征的目标区域点云信息进行渲染，得到所述目标点云在所述第一视角的图像空间着色信息；以及对所述图像空间着色信息和所述第一视角漫反射信息进行融合，得到所述目标渲染颜色信息。10.根据权利要求9所述的方法，其中，所述对所述图像空间着色信息和所述第一视角漫反射信息进行融合，得到所述目标渲染颜色信息包括：对所述图像空间着色信息和所述第一视角漫反射信息进行融合，得到所述目标点云在所述第一视角的图像空间渲染颜色信息；以及根据多个视角的图像空间渲染颜色信息，确定所述目标渲染颜色信息。11.根据权利要求9或10所述的方法，其中，所述根据目标渲染颜色信息和所述目标区域点云信息，生成所述对象目标区域的虚拟形象包括：根据所述目标渲染颜色信息，对所述目标点云在第二视角所表征的目标区域点云信息进行渲染，得到所述目标点云在所述第二视角的第二视角渲染颜色信息和第二视角点云信息；
根据所述第二视角渲染颜色信息，对所述第二视角点云信息进行渲染，得到所述对象目标区域在所述第二视角的虚拟形象渲染结果；以及根据所述虚拟形象渲染结果，生成所述虚拟形象。12.根据权利要求11所述的方法，其中，所述根据所述虚拟形象渲染结果，生成所述虚拟形象包括：根据多个视角的虚拟形象渲染结果，生成所述虚拟形象。13.一种深度学习模型的训练方法，包括：将对象目标区域的样本视频输入深度学习模型的第一神经网络，得到样本对象第一子区域的样本第一子区域点云信息和样本对象第二子区域的样本第二子区域几何信息，所述样本视频具有真实渲染颜色标签、真实目标区域点云标签；将所述样本第一子区域点云信息和所述样本第二子区域几何信息输入深度学习模型的第二神经网络，得到所述样本对象目标区域的样本目标区域点云信息，所述样本对象目标区域包括所述样本对象第一子区域和所述样本对象第二子区域，所述样本目标区域点云信息包括样本目标区域漫反射信息和样本目标区域伪法线信息；将所述样本目标区域漫反射信息和样本目标区域伪法线信息输入所述深度学习模型的第三神经网络，得到样本渲染颜色信息；以及根据所述样本渲染颜色信息、所述真实渲染颜色标签、所述样本目标区域点云信息和所述真实目标区域点云标签，对所述深度学习模型进行训练，得到经训练的深度学习模型。14.根据权利要求13所述的方法，其中，所述将对象目标区域的样本视频输入深度学习模型的第一神经网络，得到样本对象第一子区域的样本第一子区域点云信息包括：根据所述样本视频，确定第一子区域稀疏点云信息；对所述第一子区域稀疏点云信息进行上采样，得到第一子区域稠密点云信息；以及根据所述第一子区域稀疏点云信息和所述第一子区域稠密点云信息其中至少之一，确定所述样本第一子区域点云信息。15.一种虚拟形象生成方法，包括：获取待处理视频，所述待处理视频中包括待处理对象；以及将所述待处理视频输入深度学习模型，得到所述待处理对象的虚拟形象，其中，所述深度学习模型是利用根据权利要求13
‑
14中任一项所述的方法训练得到的。16.一种虚拟形象生成装置，包括：目标点云确定模块，用于根据对象第一子区域的第一子区域点云信息和对象第二子区域的第二子区域几何信息，...

【专利技术属性】
技术研发人员：李杰，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：