【技术实现步骤摘要】
本公开涉及用于场景流预测模型的提炼(distilling)知识的装置和方法。
技术介绍
1、双点流网是指接收至少两个连续帧的点云数据作为输入并双向提取场景流特征以预测下一帧的场景流的深度神经网络模型。这里，点云数据是指由lidar传感器、rgb-d传感器等收集的数据，并意味着一组点，其中，物体上反射的每束光/信号的距离信息生成为3d空间中的一个点。
2、双点流网由四个层级(hierarchical)结构组成，以预测场景流。四个层级结构可以包括层级特征提取、双向流嵌入、上采样和流预测器。
3、双点流网的缺点在于，由于在特征检测过程中的大计算量以及在源点和目标点中的每一个处的流嵌入执行过程，需要花费长时间来进行精确预测。
4、此外，双点流网的缺点在于，由于应用了层级单流嵌入层，流预测性能变差。
5、同时，在相关技术中，存在一种不生成学生模型并将知识提炼方法应用到深度神经网络模型以提高流预测性能的方法。
6、尽管知识提炼方法被用于深度神经网络模型的性能增强，但知识提炼的一般目的不是轻量化效果，并且存在知识提炼方法只适用于2d计算机视觉深度学习模型的问题。
技术实现思路
1、因此，本公开提供了用于场景流预测模型的提炼知识的装置和方法，其通过使用迭代执行结构的双向流嵌入和流预测器层的深度学习模型来新提供损失函数，并且将教师模型的知识提炼到学生模型，以使得能够通过所述损失函数来轻量化学生模型。
2、本公开的示例性实施方式提
3、权重生成器可以计算教师模型的多个层级预测结果和基准真实值数据之间的差异，并且将计算出的差异输入到预定的逆softmax函数中以生成权重。
4、函数生成器可以将教师模型的多个相应的层级预测结果与权重相乘，并且将相乘结果彼此相加以计算损失函数。
5、函数生成器可以将损失函数与预定的多尺度损失函数结合，以生成用于学生模型的训练损失函数。
6、知识提炼器可以通过使用训练损失函数将教师模型的知识提炼到学生模型。
7、教师模型可以具有迭代执行结构的双向流嵌入和流预测器结构。
8、本公开的另一示例性实施方式提供了一种用于场景流预测模型的提炼知识的方法，该方法包括：通过控制器的学生模型形成器形成学生模型，所述学生模型具有单一的、教师模型的双向流嵌入和流预测器结构；通过控制器的权重生成器基于教师模型的多个层级预测结果和预定的基准真实值数据生成权重；通过控制器的函数生成器使用权重和多个层级预测结果生成损失函数；以及知识提炼步骤，其中，知识提炼器通过使用损失函数将教师模型的知识提炼到学生模型。
9、权重生成步骤可以包括通过权重生成器计算教师模型的多个层级预测结果与基准真实值数据之间的差异，并且将所计算出的差异输入到预定的逆softmax函数中以生成权重。
10、函数生成步骤可以包括通过函数生成器将教师模型的多个相应的层级预测结果与权重相乘，并且将相乘结果彼此相加以计算损失函数。
11、函数生成步骤可以包括通过函数生成器将损失函数与预定的多尺度损失函数相结合，以生成学生模型的训练损失函数。
12、知识提炼步骤可以包括通过知识提炼器使用训练损失函数将教师模型的知识提炼到学生模型。
13、教师模型可以具有迭代执行结构的双向流嵌入和流预测器结构。
14、本公开的另一示例性实施方式提供了一种包含由处理器执行的程序指令的非暂时性计算机可读介质，所述计算机可读介质包括：形成学生模型的程序指令，学生模型具有单一的、教师模型的双向流嵌入和流预测器结构；基于教师模型的多个层级预测结果和预定的基准真实值数据生成权重的程序指令；通过使用权重和多个预测结果生成损失函数的程序指令；以及通过使用损失函数将教师模型的知识提炼到学生模型的程序指令。
15、根据本公开，在用于场景流预测模型的提炼知识的装置、方法和非暂时性计算机可读介质中，存在通过使用迭代执行结构的双向流嵌入和流预测器层的深度学习模型来新提供损失函数，并且教师模型的知识被提炼到学生模型，以使得能够通过损失函数来轻量化学生模型的效果。
16、此外，存在这样的效果：用于场景流预测模型的提炼知识的装置和方法不限于2d，并且可应用于具有迭代执行结构的双向流嵌入和流预测器层的所有深度学习模型结构。
17、此外，存在通过提炼场景流预测模型的知识来增强轻量化学生模型的流推断准确度的效果。
18、上述
技术实现思路
仅是说明性的，而不是旨在以任何方式进行限制。除了上面描述的说明性方面、实施方式和特征之外，通过参照附图和下面的详细描述，进一步的方面、实施方式和特征将变得显而易见。
【技术保护点】
1.一种用于场景流预测模型的提炼知识的装置，所述装置包括：
2.根据权利要求1所述的装置，其中，所述权重生成器计算所述教师模型的所述多个层级预测结果与所述基准真实值数据之间的差异，并且将所计算出的差异输入到预定的逆Softmax函数中以生成所述权重。
3.根据权利要求2所述的装置，其中，所述函数生成器将所述教师模型的多个相应的所述层级预测结果与所述权重相乘，并且将相乘结果彼此相加以计算所述损失函数。
4.根据权利要求3所述的装置，其中，所述函数生成器将所述损失函数与预定的多尺度损失函数结合，以生成用于所述学生模型的训练损失函数。
5.根据权利要求4所述的装置，其中，所述知识提炼器通过使用所述训练损失函数将所述教师模型的所述知识提炼到所述学生模型。
6.根据权利要求1所述的装置，其中，所述教师模型具有迭代执行结构的双向流嵌入和流预测器结构。
7.一种用于场景流预测模型的提炼知识的方法，所述方法包括：
8.根据权利要求7所述的方法，其中，生成所述权重包括：
9.根据权利要求8所述的方法，其
10.根据权利要求9所述的方法，其中，生成所述损失函数还包括：
11.根据权利要求10所述的方法，其中，提炼所述知识包括：
12.根据权利要求7所述的方法，其中，所述教师模型具有迭代执行结构的双向流嵌入和流预测器结构。
13.一种非暂时性计算机可读介质，包含由处理器执行的程序指令，所述计算机可读介质包括：
...【技术特征摘要】
1.一种用于场景流预测模型的提炼知识的装置，所述装置包括：
2.根据权利要求1所述的装置，其中，所述权重生成器计算所述教师模型的所述多个层级预测结果与所述基准真实值数据之间的差异，并且将所计算出的差异输入到预定的逆softmax函数中以生成所述权重。
3.根据权利要求2所述的装置，其中，所述函数生成器将所述教师模型的多个相应的所述层级预测结果与所述权重相乘，并且将相乘结果彼此相加以计算所述损失函数。
4.根据权利要求3所述的装置，其中，所述函数生成器将所述损失函数与预定的多尺度损失函数结合，以生成用于所述学生模型的训练损失函数。
5.根据权利要求4所述的装置，其中，所述知识提炼器通过使用所述训练损失函数将所述教师模型的所述知识提炼到...
【专利技术属性】
技术研发人员：朴奎度，姜洙赫，高钟焕，程文灿，金珉弟，
申请(专利权)人：现代凯菲克株式会社，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。