【技术实现步骤摘要】
本申请涉及自动驾驶，尤其涉及一种模型的部署处理方法、装置、设备以及存储介质。
技术介绍
1、目前，自动驾驶车辆开始步入大众眼中。自动驾驶车辆中设置有边缘设备如通用图形处理器(general-purpose computing on graphics processing units，简称gpgpu)芯片，以及感知传感器；其中，边缘设备通过部署深度学习感知模型如卷积模型，对感知传感器所采集的点云数据进行处理，以实现自动驾驶车辆的安全驾驶。
2、进而，亟需一种可以高效处理点云数据的模型的部署处理方法。
技术实现思路
1、本申请提供一种模型的部署处理方法、装置、设备以及存储介质，用以解决亟需在边缘设备上部署可以高效处理点云数据的模型的问题。
2、第一方面，本申请提供一种模型的部署处理方法，所述方法应用于电子设备，所述方法包括：
3、获取待部署模型；其中，所述待部署模型中包括n个卷积算子，n为大于或者等于1的正整数；所述卷积算子用于对点云数据进行稀疏卷积处理；所述卷积算子具有属性信息；所述属性信息中包括输入信息；所述输入信息为卷积算子所输入的点云数据的体素信息；
4、根据各所述输入信息，对所述待部署模型进行解析转换处理，得到中间表示；其中，所述中间表示中包括每一所述卷积算子对应的计算算子；所述计算算子用于对点云数据进行稀疏卷积计算处理；
5、根据各所述属性信息，对所述中间表示进行编译处理，得到编译文件；其中，所述编译文件中包括各所
6、将所述编译文件发送至车辆中的边缘设备；其中，所述边缘设备用于基于所述编译文件进行模型部署处理。
7、一个示例中，根据各所述输入信息，对所述待部署模型进行解析转换处理，得到中间表示，包括：
8、对所述待部署模型进行导入解析处理，得到解析文件；其中，所述解析文件中包括每一所述卷积算子；
9、根据各所述输入信息，对所述解析文件中的卷积算子进行转换处理，得到所述中间表示。
10、一个示例中，还包括：
11、若确定所述输入信息表征卷积算子所输入的点云数据的体素个数是未知的，则生成所述卷积算子对应的推理算子；其中，所述推理算子用于计算点云数据的数据大小。
12、一个示例中，根据各所述属性信息，对所述中间表示进行编译处理，得到编译文件，包括：
13、根据各所述属性信息，对所述中间表示进行优化处理，得到优化模型；其中，所述优化模型中包括每一所述计算算子对应的优化算子；所述优化算子用于对点云数据进行计算处理；
14、根据所述优化模型，生成代码文件；其中，所述代码文件中包括每一所述优化算子的算子代码；所述算子代码用于对点云数据进行计算处理；
15、对所述代码文件进行编译处理，得到所述编译文件。
16、一个示例中，所述属性信息还包括第一参数信息；所述第一参数信息中包括卷积算子的权重和偏置；根据各所述属性信息，对所述中间表示进行优化处理，得到优化模型，包括：
17、获取第二参数信息和第三参数信息；其中，所述第二参数信息中包括批归一化层的权重和偏置；所述第三参数信息中包括激活函数层的权重和偏置；
18、根据所述第二参数信息和所述第三参数信息，对所述计算算子对应的第一参数信息进行更新处理，得到所述优化算子。
19、一个示例中，所述方法还包括：
20、若确定所述计算算子对应的输入信息表征卷积算子所输入的点云数据的体素个数是已知的，则确定所述计算算子的显存复用状态；其中，所述显存复用状态表征计算算子在计算过程中可进行显存复用。
21、一个示例中，所述卷积算子为第一算子或第二算子；所述第一算子的输入信息表征卷积算子所输入的点云数据的体素个数是已知的，所述第二算子的输入信息表征卷积算子所输入的点云数据的体素个数是未知的；还包括：
22、若确定所述待部署模型中同时存在第一算子和第二算子，则在所述待部署模型中添加至少一个转换算子；其中，所述转换算子用于在第一算子和第二算子之间进行数据格式转换处理；
23、对所述待部署模型进行格式转换处理，得到转换模型；其中，所述转换模型中包括每一转换后的第一算子、每一转换后的第二算子以及每一转换后的转换算子。
24、第二方面，本申请提供一种模型的部署处理方法，所述方法应用于车辆中的边缘设备；所述方法包括：
25、接收电子设备发送的编译文件；其中，所述编译文件为对待部署模型进行处理所得到的；所述待部署模型中包括n个卷积算子，n为大于或者等于1的正整数；所述卷积算子具有属性信息；所述属性信息中包括输入信息；所述输入信息为卷积算子所输入的点云数据的体素信息；所述编译文件中包括各所述属性信息以及每一所述卷积算子对应的执行代码；所述执行代码用于卷积算子对点云数据进行稀疏卷积处理；
26、获取待处理数据；其中，所述待处理数据为待处理的点云数据；
27、根据各所述属性信息，执行各所述执行代码，以对所述待处理数据进行处理。
28、一个示例中，所述编译文件中还包括图代码；所述图代码表征各个卷积算子之间的输出走向关系；根据各所述属性信息，执行各所述执行代码，以对所述待处理数据进行处理，包括：
29、根据各所述属性信息，执行所述图代码以及各所述执行代码，以对所述待处理数据进行处理。
30、一个示例中，所述卷积算子为第一算子，所述第一算子的输入信息表征卷积算子所输入的点云数据的体素个数是已知的；
31、根据各所述属性信息，执行所述图代码以及各所述执行代码，以对所述待处理数据进行处理，包括：
32、确定所述第一算子的第一显存；其中，所述第一显存为第一算子对应的执行代码在执行过程中所需要的显存；
33、重复以下过程，直至i的取值为n：根据第i-1个第一显存，执行所述图代码和第i个第一算子的执行代码，以对第i-1个第一算子的输出结果进行处理，得到第i个第一算子的输出结果；确定i的取值为i+1；i为大于等于1、小于等于n的正整数；
34、回收各所述第一显存。
35、一个示例中，所述卷积算子为第二算子，所述第二算子的输入信息表征卷积算子所输入的点云数据的体素个数是未知的；所述编译文件中还包括每一第二算子对应的推理算子的执行代码，所述推理算子用于计算点云数据的数据大小；
36、根据各所述属性信息，执行所述图代码以及各所述执行代码，以对所述待处理数据进行处理，包括：
37、重复以下过程，直至j的取值为n：
38、执行所述图代码和第j个推理算子的执行代码，以确定第j-1个第二算子的输出结果的数据大小；
39、根据第j-1个第二算子的输出结果的数据大小，确定第j个第二算子的第二显存本文档来自技高网...
【技术保护点】
1.一种模型的部署处理方法，其特征在于，所述方法应用于电子设备；所述方法包括：
2.根据权利要求1所述的方法，其特征在于，根据各所述输入信息，对所述待部署模型进行解析转换处理，得到中间表示，包括：
3.根据权利要求2所述的方法，其特征在于，还包括：
4.根据权利要求1所述的方法，其特征在于，根据各所述属性信息，对所述中间表示进行编译处理，得到编译文件，包括：
5.根据权利要求4所述的方法，其特征在于，所述属性信息还包括第一参数信息；所述第一参数信息中包括卷积算子的权重和偏置；根据各所述属性信息，对所述中间表示进行优化处理，得到优化模型，包括：
6.根据权利要求5所述的方法，其特征在于，所述方法还包括：
7.根据权利要求1-6中任一项所述的方法，其特征在于，所述卷积算子为第一算子或第二算子；所述第一算子的输入信息表征卷积算子所输入的点云数据的体素个数是已知的，所述第二算子的输入信息表征卷积算子所输入的点云数据的体素个数是未知的；还包括：
8.一种模型的部署处理方法，其特征在于，所述方法应用于车辆中的
9.根据权利要求8所述的方法，其特征在于，所述编译文件中还包括图代码；所述图代码表征各个卷积算子之间的输出走向关系；根据各所述属性信息，执行各所述执行代码，以对所述待处理数据进行处理，包括：
10.根据权利要求9所述的方法，其特征在于，所述卷积算子为第一算子，所述第一算子的输入信息表征卷积算子所输入的点云数据的体素个数是已知的；
11.根据权利要求9所述的方法，其特征在于，所述卷积算子为第二算子，所述第二算子的输入信息表征卷积算子所输入的点云数据的体素个数是未知的；所述编译文件中还包括每一第二算子对应的推理算子的执行代码，所述推理算子用于计算点云数据的数据大小；
12.根据权利要求8-11中任一项所述的方法，其特征在于，所述方法还包括：
13.一种模型的部署处理装置，其特征在于，所述装置应用于电子设备；所述装置包括：
14.一种模型的部署处理装置，其特征在于，所述装置应用于边缘设备；所述装置包括：
15.一种电子设备，其特征在于，包括：处理器，以及与所述处理器通信连接的存储器；
16.一种边缘设备，其特征在于，包括：处理器，以及与所述处理器通信连接的存储器；
17.一种计算机可读存储介质，其特征在于，其特征在于，所述计算机可读存储介质中存储有计算机执行指令，所述计算机执行指令被处理器执行时用于实现如权利要求1-7中任一项所述的模型的部署处理方法或者如权利要求8-12中任一项所述的模型的部署处理方法。
18.一种计算机程序产品，其特征在于，包括计算机程序，该计算机程序被处理器执行时用于实现如权利要求1-7中任一项所述的模型的部署处理方法或者如权利要求8-12中任一项所述的模型的部署处理方法。
...【技术特征摘要】
1.一种模型的部署处理方法，其特征在于，所述方法应用于电子设备；所述方法包括：
2.根据权利要求1所述的方法，其特征在于，根据各所述输入信息，对所述待部署模型进行解析转换处理，得到中间表示，包括：
3.根据权利要求2所述的方法，其特征在于，还包括：
4.根据权利要求1所述的方法，其特征在于，根据各所述属性信息，对所述中间表示进行编译处理，得到编译文件，包括：
5.根据权利要求4所述的方法，其特征在于，所述属性信息还包括第一参数信息；所述第一参数信息中包括卷积算子的权重和偏置；根据各所述属性信息，对所述中间表示进行优化处理，得到优化模型，包括：
6.根据权利要求5所述的方法，其特征在于，所述方法还包括：
7.根据权利要求1-6中任一项所述的方法，其特征在于，所述卷积算子为第一算子或第二算子；所述第一算子的输入信息表征卷积算子所输入的点云数据的体素个数是已知的，所述第二算子的输入信息表征卷积算子所输入的点云数据的体素个数是未知的；还包括：
8.一种模型的部署处理方法，其特征在于，所述方法应用于车辆中的边缘设备；所述方法包括：
9.根据权利要求8所述的方法，其特征在于，所述编译文件中还包括图代码；所述图代码表征各个卷积算子之间的输出走向关系；根据各所述属性信息，执行各所述执行代码，以对所述待处理数据进行处理，包括：
10.根据权利要求9所述的方法，其特征在...
【专利技术属性】
技术研发人员：姚万超，胡锋杰，傅家庆，
申请(专利权)人：亿咖通湖北技术有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。