一种可重新参数化的轻量级3D点云神经网络学习方法技术

本发明专利技术公开一种可重新参数化的轻量级3D点云神经网络学习方法，涉及3D点云分类领域以及神经网络模型领域。其中，包括以下步骤：S1：构建多分支的点云分类训练模型；S2:将训练数据输入多分支的训练模型中进行训练，得到训练模型参数；S3:通过对训练模型的参数进行计算，实现重新参数化，得到推理模型。通过重新参数化得到的单路径推理模型，结构简单，但是拥有复杂的多分支模型的性能，更适合部署在计算资源有限的设备上，提升设备的性能，但是不会耗费更多的计算资源。费更多的计算资源。费更多的计算资源。

【技术实现步骤摘要】
一种可重新参数化的轻量级3D点云神经网络学习方法


[0001]本专利技术涉及3D点云分类领域以及神经网络模型领域，具体涉及一种可重新参数化的轻量级3D点云神经网络学习方法。

技术介绍

[0002]神经网络模型作为一种人工智能技术，近年来在各个领域得到了广泛的应用。它是一种仿生学的技术，模拟了人类大脑神经元之间的连接关系，实现了类似于人类学习和决策的功能。神经网络模型的应用范围非常广泛，包括图像识别、自然语言处理、预测分析等。神经网络模型的应用前景非常广阔，具有非常重要的研究和应用价值。
[0003]在现代计算机视觉领域，3D点云数据已经成为了一种广泛应用的形式，能够有效地描述3D场景中的对象和环境。然而，3D点云数据的处理和分析一直是一个具有挑战性的任务。随着深度学习技术的不断发展，基于神经网络的3D点云处理方法也得到了广泛关注。近年来，有很多3D点云神经网络模型，这些模型可以在诸如物体识别、场景分割和物体检测等任务中取得令人瞩目的成果。例如，PointNet和PointNet++模型是最早被提出的点云分类和分割模型，它们能够对点云数据进行端到端的处理，同时具有较好的效果和可扩展性。此外，还有许多其他的神经网络模型，如DGCNN、SpiderCNN等，它们分别采用不同的思路和技巧来处理点云数据，取得了较好的实验效果。
[0004]PointNet这种简单的模型计算复杂度低，但是性能没有复杂模型好；
[0005]DGCNN这种复杂的模型性能好，但是计算复杂度高。这两种都没有实现很好的精度与速度之前的平衡。为了解决这个平衡问题，主要有两种方案：第一，参数剪枝，是指将整个神经网络中的某些层或者某些通道去除，从而得到一个更加紧凑且计算效率更高的模型，但是参数剪枝的操作，会导致模型精度的降低。第二种，DiracNet，是在模型训练之前，就将模型中的两个分支对应的参数，用两个可学习的权重进行相加，然后训练，这种方法并不是真的使用了多分支结构，并没有利用到多分支模型学习特征时的优势(一般来说，模型越复杂，性能越好)。
[0006]现有的这些处理点云数据的方法，都取得了不错的效果，但是还有一些不可避免的缺陷。PointNet这种简单的模型，虽说结构简单，但是相比于其他复杂一些的模型，效果又不是很好。DGCNN和SpiderCNN等模型，效果得到了提升，但是计算复杂度较高。在真实世界中，需要处理点云数据的无人驾驶、机器人等设备，并没有太充足的计算资源来支撑复杂模型的计算，并且还要求比较高的准确率。而这些模型没有做到精度和速度之间的平衡。
[0007]本专利技术是在训练阶段构建一个复杂的多分支模型，经过训练之后得到多分支的训练模型，然后进行重新参数化，得到一个单路径的推理模型，具有与原来的多分支模型相同的性能，但结构更简单，更容易部署到计算资源有限的设备上。

技术实现思路

[0008]根据目前模型的准确率和计算资源之间难以平衡的问题，本专利技术旨在提出一种可
重新参数化的轻量级3D点云神经网络学习方法，包括以下步骤：S1：构建多分支的点云分类训练模型；S2:将训练数据输入多分支的训练模型中进行训练，得到训练模型参数；S3:通过对训练模型的参数进行计算，实现重新参数化，得到推理模型。
[0009]为了克服上述技术无法同时满足精度和速度的问题，本专利技术提供以下技术方案：
[0010]一种可重新参数化的轻量级3D点云神经网络学习方法，其特征在于，包括以下步骤：S1:构建多分支的点云分类训练模型；S2:将训练数据输入多分支的训练模型中进行训练，得到训练模型参数；S3:通过对训练模型的参数进行计算，实现重新参数化，得到推理模型。
[0011]优选地，所述步骤S1构建训练模型时，以简单的单路径点云模型PointNet模型作为基准去构建多分支模型。
[0012]优选地，所述步骤S1中的PointNet中是经过三个MLP(多层线性感知机)提取特征，然后再经过最大池化聚合特征，再经过全连接层进行分类。
[0013]优选地，所述步骤S1中基于PointNet所构建的多分支训练模型在特征提取阶段采用多分支结构，通过将数据输入Basic Block(基本块)中，进行特征学习，将Basic Block(基本块)的计算结果，传到下一层网络中。
[0014]优选地，所述步骤S1中所述的基于PointNet所构建的多分支训练模型输入的数据在每个Basic Block(基本块)中需要经过三个MLP(多层线性感知机)分支计算，将计算结果相加得到Basic Block(基本块)的输出结果。
[0015]优选地，所述步骤S1中所述的基于PointNet所构建的多分支训练模型输入的数据在基本块中通过以下公式进行分支计算：Y＝W
(1)
×
X+W
(2)
×
X+W
(3)
×
X；其中，X是Basic Block中输入的数据，W
(1)
是第一分支的MLP对应的卷积核参数，W
(2)
是第二分支的MLP对应的卷积核参数，W
(3)
是第三分支的MLP对应的卷积核参数，Y是通过分支计算得到的基本块的输出结果。
[0016]优选地，所述步骤S3通过将多个并行的卷积核参数相加完成多分支的训练模型到单路径的推理模型的重参数化。
[0017]优选地，所述步骤S3通过以下公式对模型进行重参数化：Y＝W
(1)
×
X+W
(2)
×
X+W
(3)
×
X＝(W
(1)
+W
(2)
+W
(3)
)
×
X＝W
’×
X；其中，X是Basic Block中输入的数据，W
(1)
是第一分支的MLP对应的卷积核参数，W
(2)
是第二分支的MLP对应的卷积核参数，W
(3)
是第三分支的MLP对应的卷积核参数，得到的W'就是新的MLP对应的卷积核参数。
附图说明
[0018]图1为本专利技术的流程图；
[0019]图2为PointNet结构图；
[0020]图3为多分支训练网络结构图(每个多分支的块都为Basic Block)；
[0021]图4为对Basic Block进行重新参数化的示意图；
具体实施方式
[0022]下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术的一部分实施例，而不是全部的实施例。基
于本专利技术的实施例，本领域的普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。
[0023]需要注意的是，除非另有说明，本申请使用的技术术语或者科学术语应当为本申请所属领域技术人员所理解的通常意义。另外，本专利技术各个实施本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种可重新参数化的轻量级3D点云神经网络学习方法，其特征在于，包括以下步骤：S1:构建多分支的点云分类训练模型；S2:将训练数据输入多分支的训练模型中进行训练，得到训练模型参数；S3:通过对训练模型的参数进行计算，实现重新参数化，得到推理模型。2.根据权利要求1所述的可重新参数化的轻量级3D点云神经网络学习方法，其特征在于，所述步骤S1构建训练模型时，以简单的单路径点云模型PointNet作为基准去构建多分支模型。3.根据权利要求2所述的可重新参数化的轻量级3D点云神经网络学习方法，其特征在于，所述步骤S1中的PointNet经过三个MLP提取3D点云数据特征，然后再经过最大池化聚合所述3D点云数据特征，再经过全连接层对3D点云数据特征进行分类。4.根据权利要求3所述的可重新参数化的轻量级3D点云神经网络学习方法，其特征在于，所述步骤S1中基于PointNet所构建的多分支训练模型采用多分支结构提取特征，通过将数据输入Basic Block中的每个分支中，进行特征学习，将Basic Block的计算结果，传到下一层网络中。5.根据权利要求4所述的可重新参数化的轻量级3D点云神经网络学习方法，其特征在于，所述步骤S1中所述的基于PointNet所构建的多分支训练模型输入的数据在每个Basic Block中经过三个MLP分支计算，将计算结果相加得到该Basic Block的输出结果。6.根据权利要求5所述的可重新参数化的轻量级3D点云神经网络学习方法，其特征在于，所述步骤S1中所述的基于PointNet所构建的多分支训练模型输入的数据在每个Basic Block中通过以下公式进行分支计算：Y＝W
(1)

【专利技术属性】
技术研发人员：唐可可，赵文钰，田志宏，李树栋，李默涵，王乐，彭伟龙，
申请(专利权)人：广州大学，
类型：发明
国别省市：