机器学习模型部署方法及其装置、设备、介质、产品制造方法及图纸

本申请涉及一种机器学习模型部署方法及其装置、设备、介质、产品，所述方法包括：获取包含多个组件的机器学习模型的编排文件，所述编排文件包括部署所述机器学习模型的过程中的多个有序环节相对应的多个任务的描述信息；根据所述编排文件中各个有序环节的描述信息，有序生成相应的任务执行指令，响应各个任务执行指令而执行相应有序环节的部署任务，完成所述机器学习模型的各个组件在容器支持框架的部署；启动所述机器学习模型相对应的代理服务，用于响应外部请求而调用所述容器支持框架中的机器学习模型，获得相应的处理结果应答该外部请求。通过编排文件，可以实现多组件结构的机器学习模型的自动化和可配置化的快速部署，提升部署效率。提升部署效率。提升部署效率。

【技术实现步骤摘要】
机器学习模型部署方法及其装置、设备、介质、产品


[0001]本申请涉及网络技术，尤其涉及一种机器学习模型部署方法及其装置、设备、介质、产品。

技术介绍

[0002]随着机器学习模型的应用越来越广，越来越复杂，模型的部署也从单一的模型升级到多个模型组件同时部署。传统的单个模型分开部署，并通过后期接口组合的方式已经不能满足快速的部署需求。
[0003]当前业界有比较多的方案都是基于Kubernetes的框架进行部署(例如Kubeflow和Seldon)，但是这些工具更多的是从模型部署本身出发，并没有很好地和业务本身结合，不能实现对包含多个组件的机器学习模型的高效部署。这就导致了一个问题，当使用这些方案时，往往需要根据业务需求进行深度开发，而不能做到快速响应部署需求。
[0004]有鉴于此，需要为包含多组件的机器学习模型提供更为高效的部署手段，以便提升此类模型的部署成效。

技术实现思路

[0005]本申请的目的在于解决上述问题而提供一种机器学习模型部署方法及其相应的装置、设备、非易失性可读存储介质，以及计算机程序产品。
[0006]根据本申请的一个方面，提供一种机器学习模型部署方法，包括如下步骤：
[0007]获取包含多个组件的机器学习模型的编排文件，所述编排文件包括部署所述机器学习模型的过程中的多个有序环节相对应的多个任务的描述信息；
[0008]根据所述编排文件中各个有序环节的描述信息，有序生成相应的任务执行指令，响应各个任务执行指令而执行相应有序环节的部署任务，完成所述机器学习模型的各个组件在容器支持框架的部署；
[0009]启动所述机器学习模型相对应的代理服务，用于响应外部请求而调用所述容器支持框架中的机器学习模型，获得相应的处理结果应答该外部请求。
[0010]可选的，所述编排文件的描述信息，包括：
[0011]镜像构建描述信息，用于描述所述机器学习模型运行时所需的程序资源信息，其中包括用于产生机器学习模型实例的代码资源和用于支持该实例运行的引擎资源；
[0012]模型发布描述信息，用于描述所述机器学习模型的各个组件所需的容器的运行资源信息；
[0013]调用链描述信息，用于描述所述机器学习模型的每个组件相对于其他各个组件的依赖关系信息；
[0014]部署环境描述信息，用于描述所述机器学习模型在所述容器支持框架中的具有唯一性特征的部署环境信息。
[0015]可选的，根据所述编排文件中各个有序环节的描述信息，有序生成相应的任务执
行指令，响应各个任务执行指令而执行相应有序环节的部署任务，完成所述机器学习模型的各个组件在容器支持框架的部署，包括：
[0016]根据所述编排文件中的镜像构建描述信息，生成镜像构建任务相对应的第一任务执行指令，响应于第一任务执行指令，调用所述镜像构建描述信息中指定的程序资源信息创建所述机器学习模型的镜像；
[0017]根据所述编排文件中的模型发布描述信息，生成模型发布任务相对应的第二任务执行指令，响应于第二任务执行指令，按照所述模型发布描述信息中指定的运行资源信息为所述机器学习模型的各个组件确定相应的运行资源并完成所述镜像中各个组件的发布；
[0018]根据所述编排文件中的调用链描述信息和部署环境描述信息，生成容器配置任务相对应的第三任务执行指令，响应于第三任务执行指令，根据所述调用链描述信息在所述容器支持框架中配置各个所述的组件的依赖关系信息，根据所述部署环境描述信息在所述容器支持框架中配置所述机器学习模型的部署环境信息。
[0019]可选的，所述编排文件以结构化数据表示所述机器学习模型的多个任务的描述信息，其中，每个组件相对应的所述模型发布描述信息、调用链描述信息被封装于同一组件逻辑单元中。
[0020]可选的，启动所述机器学习模型相对应的代理服务，用于响应外部请求而调用所述容器支持框架中的机器学习模型，获得相应的处理结果应答该外部请求，包括：
[0021]启动所述机器学习模型相对应的代理服务，使该代理服务适于响应外部请求而调用所述机器学习模型；
[0022]由所述代理服务响应于外部请求而调用所述机器学习模型，以所述外部请求所携带的源数据作为所述机器学习模型的输入信息，获得所述机器学习模型处理所述输入信息后获得的结果信息；
[0023]以所述结果信息应答所述外部请求。
[0024]可选的，根据所述编排文件中各个有序环节的描述信息，有序生成相应的任务执行指令的步骤由预设的分析模块执行，响应各个任务执行指令而执行相应有序环节的部署任务，完成所述机器学习模型的各个组件在容器支持框架的部署的步骤由预设的执行模块执行，所述分析模块与所述执行模块之间通过接口调用实现数据通信。
[0025]根据本申请的另一方面，提供一种机器学习模型部署装置，包括：
[0026]文件获取模块，设置为获取包含多个组件的机器学习模型的编排文件，所述编排文件包括部署所述机器学习模型的过程中的多个有序环节相对应的多个任务的描述信息；
[0027]部署执行模块，设置为根据所述编排文件中各个有序环节的描述信息，有序生成相应的任务执行指令，响应各个任务执行指令而执行相应有序环节的部署任务，完成所述机器学习模型的各个组件在容器支持框架的部署；
[0028]服务运行模块，设置为启动所述机器学习模型相对应的代理服务，用于响应外部请求而调用所述容器支持框架中的机器学习模型，获得相应的处理结果应答该外部请求。
[0029]可选的，所述编排文件的描述信息，包括：
[0030]镜像构建描述信息，用于描述所述机器学习模型运行时所需的程序资源信息，其中包括用于产生机器学习模型实例的代码资源和用于支持该实例运行的引擎资源；
[0031]模型发布描述信息，用于描述所述机器学习模型的各个组件所需的容器的运行资
源信息；
[0032]调用链描述信息，用于描述所述机器学习模型的每个组件相对于其他各个组件的依赖关系信息；
[0033]部署环境描述信息，用于描述所述机器学习模型在所述容器支持框架中的具有唯一性特征的部署环境信息。
[0034]可选的，所述部署执行模块，包括：
[0035]镜像构建单元，设置为根据所述编排文件中的镜像构建描述信息，生成镜像构建任务相对应的第一任务执行指令，响应于第一任务执行指令，调用所述镜像构建描述信息中指定的程序资源信息创建所述机器学习模型的镜像；
[0036]模型发布单元，设置为根据所述编排文件中的模型发布描述信息，生成模型发布任务相对应的第二任务执行指令，响应于第二任务执行指令，按照所述模型发布描述信息中指定的运行资源信息为所述机器学习模型的各个组件确定相应的运行资源并完成所述镜像中各个组件的发布；
[0037]容器配置单元，设置为根据所述编排文件中的调用链描述信息和部署环境描述信息，生成容器配置任务相对应的第三任务执行指令，响应于第三任务执行指令，根据所述调本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种机器学习模型部署方法，其特征在于，包括：获取包含多个组件的机器学习模型的编排文件，所述编排文件包括部署所述机器学习模型的过程中的多个有序环节相对应的多个任务的描述信息；根据所述编排文件中各个有序环节的描述信息，有序生成相应的任务执行指令，响应各个任务执行指令而执行相应有序环节的部署任务，完成所述机器学习模型的各个组件在容器支持框架的部署；启动所述机器学习模型相对应的代理服务，用于响应外部请求而调用所述容器支持框架中的机器学习模型，获得相应的处理结果应答该外部请求。2.根据权利要求1所述的机器学习模型部署方法，其特征在于，所述编排文件的描述信息，包括：镜像构建描述信息，用于描述所述机器学习模型运行时所需的程序资源信息，其中包括用于产生机器学习模型实例的代码资源和用于支持该实例运行的引擎资源；模型发布描述信息，用于描述所述机器学习模型的各个组件所需的容器的运行资源信息；调用链描述信息，用于描述所述机器学习模型的每个组件相对于其他各个组件的依赖关系信息；部署环境描述信息，用于描述所述机器学习模型在所述容器支持框架中的具有唯一性特征的部署环境信息。3.根据权利要求2所述的机器学习模型部署方法，其特征在于，根据所述编排文件中各个有序环节的描述信息，有序生成相应的任务执行指令，响应各个任务执行指令而执行相应有序环节的部署任务，完成所述机器学习模型的各个组件在容器支持框架的部署，包括：根据所述编排文件中的镜像构建描述信息，生成镜像构建任务相对应的第一任务执行指令，响应于第一任务执行指令，调用所述镜像构建描述信息中指定的程序资源信息创建所述机器学习模型的镜像；根据所述编排文件中的模型发布描述信息，生成模型发布任务相对应的第二任务执行指令，响应于第二任务执行指令，按照所述模型发布描述信息中指定的运行资源信息为所述机器学习模型的各个组件确定相应的运行资源并完成所述镜像中各个组件的发布；根据所述编排文件中的调用链描述信息和部署环境描述信息，生成容器配置任务相对应的第三任务执行指令，响应于第三任务执行指令，根据所述调用链描述信息在所述容器支持框架中配置各个所述的组件的依赖关系信息，根据所述部署环境描述信息在所述容器支持框架中配置所述机器学习模型的部署环境信息。4.根据权利要求2所述的机器学习模型部署方法，其特征在于，所述编排文件以结构化数据表示所述机器学习模型的多个任务的描述信息，...

【专利技术属性】
技术研发人员：林剑周，
申请(专利权)人：广州华多网络科技有限公司，
类型：发明
国别省市：