分布式AI应用的打包部署方法、系统、设备及存储介质技术方案

本申请公开了一种分布式AI应用的打包部署方法、系统、设备及存储介质，应用于分布式集群技术领域，包括：根据AI应用的打包配置文件，判断AI应用的应用镜像是否从模型文件开始构建；如果是则基于AI应用的运行框架，构建出AI应用的应用镜像；否则获取AI应用的应用镜像；根据打包配置文件，判断AI应用的依赖镜像是否为自动发现；若是则启动容器集群运行AI应用，并下载AI应用的各个依赖镜像；否则获取AI应用的各个依赖镜像；将AI应用的应用镜像，各个依赖镜像，以及部署文件打包为AI应用包；基于AI应用包，将AI应用迁移至目标集群中并运行AI应用。应用本申请的方案，可以方便，高效地实现分布式AI应用的打包部署。布式AI应用的打包部署。布式AI应用的打包部署。

【技术实现步骤摘要】
分布式AI应用的打包部署方法、系统、设备及存储介质


[0001]本专利技术涉及分布式集群
，特别是涉及一种分布式AI应用的打包部署方法、系统、设备及存储介质。

技术介绍

[0002]随着微服务理念的不断普及，以及云原生技术的不断成熟，单体AI(Artificial Intelligence，人工智能)应用已经不能满足用户的业务需求，并且运维难度高。不同的领域中，AI业务的复杂度也越来越高，依赖的组件越来越多，组件之间的协作也越来越复杂，因此分布式的AI应用成为目前的发展趋势。
[0003]Docker是一个开源的应用容器引擎，让开发者可以打包他们的应用以及依赖包到一个可移植的镜像中，然后发布到任何流行的Linux或Windows操作系统的机器上，也可以实现虚拟化。容器是完全使用沙箱机制，相互之间不会有任何接口。
[0004]Docker可以解决单个应用的打包问题，实现应用的快速部署，但是Docker无法做到分布式AI应用的编排，因此传统方案中通常仍然需要手动进行分布式AI应用的部署。此外，目前在进行分布式AI应用的打包部署时，操作较为复杂，对于技术人员的要求较高，使得目前无法高效地，快捷地进行分布式AI应用的打包部署。
[0005]综上所述，如何方便，高效地实现分布式AI应用的打包部署，是目前本领域技术人员急需解决的技术问题。

技术实现思路

[0006]本专利技术的目的是提供一种分布式AI应用的打包部署方法、系统、设备及存储介质，以方便，高效地实现分布式AI应用的打包部署。
[0007]为解决上述技术问题，本专利技术提供如下技术方案：
[0008]一种分布式AI应用的打包部署方法，包括：
[0009]根据AI应用的打包配置文件，判断所述AI应用的应用镜像是否从模型文件开始构建；
[0010]如果是，则基于所述AI应用的运行框架，构建出所述AI应用的应用镜像；
[0011]如果否，则获取所述AI应用的应用镜像；
[0012]根据所述打包配置文件，判断所述AI应用的依赖镜像是否为自动发现；
[0013]如果是，则启动容器集群运行所述AI应用，并下载所述AI应用的各个依赖镜像；
[0014]如果否，则获取所述AI应用的各个依赖镜像；
[0015]将所述AI应用的应用镜像，各个依赖镜像，以及部署文件打包为AI应用包；
[0016]基于所述AI应用包，将AI应用迁移至目标集群中并运行所述AI应用。
[0017]优选的，所述启动容器集群运行所述AI应用，包括：
[0018]启动一个单节点的容器集群运行所述AI应用。
[0019]优选的，所述启动一个单节点的容器集群运行所述AI应用，包括：
[0020]启动一个单节点的轻量级容器集群运行所述AI应用。
[0021]优选的，所述获取所述AI应用的各个依赖镜像，包括：
[0022]从所述打包配置文件中获取所述AI应用的各个依赖镜像。
[0023]优选的，所述将AI应用迁移至目标集群中，包括：
[0024]将AI应用迁移至目标集群的各个分布式节点中。
[0025]优选的，所述基于所述AI应用包，将AI应用迁移至目标集群中并运行所述AI应用，包括：
[0026]解析所述AI应用包，确定出所述AI应用的应用镜像，各个依赖镜像，以及部署文件；
[0027]基于目标集群的镜像仓库配置文件，对接所述目标集群的镜像仓库，以进行镜像的上传并调整所述部署文件中的镜像地址；
[0028]基于所述目标集群的容器集群配置文件，对接所述目标集群的运行环境，并运行所述AI应用。
[0029]优选的，还包括：
[0030]将所述目标集群的镜像仓库的证书路径添加至所述部署文件中。
[0031]一种分布式AI应用的打包部署系统，包括：
[0032]第一判断模块，用于根据AI应用的打包配置文件，判断所述AI应用的应用镜像是否从模型文件开始构建，如果是，则触发应用镜像构建模块，如果否，则触发应用镜像获取模块；
[0033]所述应用镜像构建模块，用于基于所述AI应用的运行框架，构建出所述AI应用的应用镜像；
[0034]所述应用镜像获取模块，用于获取所述AI应用的应用镜像；
[0035]第一判断模块，用于根据所述打包配置文件，判断所述AI应用的依赖镜像是否为自动发现，如果是，则触发依赖镜像自动发现模块，如果否，则触发依赖镜像手动发现模块；
[0036]所述依赖镜像自动发现模块，用于启动容器集群运行所述AI应用，并下载所述AI应用的各个依赖镜像；
[0037]所述依赖镜像手动发现模块，用于获取所述AI应用的各个依赖镜像；
[0038]打包模块，用于将所述AI应用的应用镜像，各个依赖镜像，以及部署文件打包为AI应用包；
[0039]迁移模块，用于基于所述AI应用包，将AI应用迁移至目标集群中并运行所述AI应用。
[0040]一种分布式AI应用的打包部署设备，包括：
[0041]存储器，用于存储计算机程序；
[0042]处理器，用于执行所述计算机程序以实现如上述所述的分布式AI应用的打包部署方法的步骤。
[0043]一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如上述所述的分布式AI应用的打包部署方法的步骤。
[0044]应用本专利技术实施例所提供的分布式AI应用的打包部署方法，允许直接从AI模型开始打包，降低了用户的使用门槛。即本申请可以根据AI应用的打包配置文件，判断AI应用的
应用镜像是否从模型文件开始构建，如果是，可以基于AI应用的运行框架，构建出AI应用镜像，当然，如果不需要进行AI应用镜像的构建，则可以直接获取AI应用镜像。得到了AI应用镜像之后，便可以根据打包配置文件，判断AI应用的依赖镜像是否为自动发现。如果是手动发现，则可以直接获取AI应用的各个依赖镜像。如果是自动发现，本申请会启动容器集群，通过暂时运行AI应用，使得可以下载AI应用的各个依赖镜像。可以看出，本申请的方案支持两种得到AI应用的各个依赖镜像的方式。得到了AI应用的各个依赖镜像之后，可以将AI应用的应用镜像，各个依赖镜像，以及部署文件打包为AI应用包，最后再基于AI应用包，将AI应用迁移至目标集群中并运行AI应用，也即实现了AI应用的迁移。综上所述，本申请的方案可以方便，高效地实现分布式AI应用的打包部署。
附图说明
[0045]为了更清楚地说明本专利技术实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0046]图1为本专利技术中一种分布式AI应用的打包部署方法的实施流程图；
[004本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种分布式AI应用的打包部署方法，其特征在于，包括：根据AI应用的打包配置文件，判断所述AI应用的应用镜像是否从模型文件开始构建；如果是，则基于所述AI应用的运行框架，构建出所述AI应用的应用镜像；如果否，则获取所述AI应用的应用镜像；根据所述打包配置文件，判断所述AI应用的依赖镜像是否为自动发现；如果是，则启动容器集群运行所述AI应用，并下载所述AI应用的各个依赖镜像；如果否，则获取所述AI应用的各个依赖镜像；将所述AI应用的应用镜像，各个依赖镜像，以及部署文件打包为AI应用包；基于所述AI应用包，将AI应用迁移至目标集群中并运行所述AI应用。2.根据权利要求1所述的分布式AI应用的打包部署方法，其特征在于，所述启动容器集群运行所述AI应用，包括：启动一个单节点的容器集群运行所述AI应用。3.根据权利要求2所述的分布式AI应用的打包部署方法，其特征在于，所述启动一个单节点的容器集群运行所述AI应用，包括：启动一个单节点的轻量级容器集群运行所述AI应用。4.根据权利要求1所述的分布式AI应用的打包部署方法，其特征在于，所述获取所述AI应用的各个依赖镜像，包括：从所述打包配置文件中获取所述AI应用的各个依赖镜像。5.根据权利要求1所述的分布式AI应用的打包部署方法，其特征在于，所述将AI应用迁移至目标集群中，包括：将AI应用迁移至目标集群的各个分布式节点中。6.根据权利要求1至5任一项所述的分布式AI应用的打包部署方法，其特征在于，所述基于所述AI应用包，将AI应用迁移至目标集群中并运行所述AI应用，包括：解析所述AI应用包，确定出所述AI应用的应用镜像，各个依赖镜像，以及部署文件；基于目标集群的镜像仓库配置文件，对接所述目标集群的镜像仓库，以进行...

【专利技术属性】
技术研发人员：张家华，
申请(专利权)人：苏州浪潮智能科技有限公司，
类型：发明
国别省市：