【技术实现步骤摘要】
本专利技术属于云边融合模型部署领域，具体涉及一种基于容器的云边融合模型自动化封装部署方法。
技术介绍
1、随着物联网、5g通信技术的不断普及与发展，数据量以及计算量都呈爆发式增长，终端设备已无法再独自进行处理工作。云计算在云端的数据中心进行数据处理，因此算力强、资源充足，但其无法满足日益增高的对数据实时性的需求，且可能会产生数据安全性问题；新兴的边缘计算在更接近数据来源的边缘设备上进行，既可以减少延迟提高响应速度，又可以保证数据的实时性，但边缘侧的算力受限，无法运行复杂的模型算法。因此，结合边缘计算和云计算优势的边云协同技术目前受到了较大关注。
2、云边融合模型训练采用分布式训练的思想，利用云计算的强大算力和数据存储能力，进行模型的大规模训练；同时利用边缘计算的数据实时性特点对云计算得到的预训练模型进行参数更新、模型推理等操作，生成最终的模型。在云边融合智能模型的部署过程中，如何将模型与其运行环境封装并快速部署在边端设备上成为了这一过程的难点。针对这一问题，目前主流的处理方法是，模型在云端完成训练后，对模型进行切片，然后将其封装成可执行文件或轻量化的模型格式，然后将其从云端分发到边缘设备，模型的更新和部署通过ota(over-the-air)技术实现。但是，边缘设备的分布式部署带来了模型同步的挑战，使得模型的同步和更新变得复杂；同时由于不同边缘设备的硬件能力差异较大，无法保证每个设备都能高效执行相同的模型；而且，在边缘设备上运行模型时，数据隐私和安全性可能成为问题，特别是涉及个人数据的场景。容器化技术是一种轻量级的虚
技术实现思路
1、针对现有技术中存在的问题，本专利技术提出了以下技术方案：
2、一种基于容器的云边融合模型自动化封装部署方法，包括以下步骤：
3、步骤s1、提供一个在线的可视化模型构建工具，提供基础的模型，用户可以选取相应的模型，在云端进行模型训练；
4、步骤s2、对于在云端训练完成的模型进行自动化封装，将模型文件以及模型的运行环境信息、模型对应的api、模型的结构信息打包为模型部署包，利用容器镜像构建指令（如dockerfile）生成镜像文件；
5、步骤s3、基于云平台集成的镜像仓库，利用容器命令将模型发布在云平台；
6、步骤s4、从云平台匹配合适的模型，在镜像仓库中下载，启动模型并开放接口，在模型中进行计算，得到结果。
7、进一步的，在步骤s1中，所述的在线可视化模型构建工具包括：向用户提供一个在线可视化模型构建工具，其具备友好的用户界面、提供基础的模型和数据处理工具、支持云端训练，以帮助用户轻松地构建和训练所需的模型，在云端向边端部署并使用。在可视化工具的前端页面中，展示提供的基础模型种类，用户可以自行选择所需模型或输入需求使用推荐的模型，在云端进行训练。
8、进一步的，步骤s2中，在云端完成对模型的自动化封装过程。
9、步骤s2具体包括：
10、步骤s2-1、在训练模型过程中，指定运行环境参数，包括操作系统类型、编程语言版本、依赖项列表等；
11、步骤s2-2、通过访问模型训练记录或日志，查看指定的参数或者配置文件，从模型的训练过程中获取模型的运行环境；
12、步骤s2-3、设计接口并定义接口规范，使用通用化接口一次性获得封装内容的所有接口以及全部关键字段内容，使用代码实现设计好的接口，对于api的调用使用http协议，将协议文档化；
13、步骤s2-4、将上述获取到的信息打包为模型部署包，以便于生成镜像文件。其包括模型类型、模型的运行环境信息、模型对应的api、以及模型的架构信息，如模型的超参数信息、模型的损失函数、输入输出格式要求等信息；
14、步骤s2-5、利用容器镜像构建指令（如dockerfile）将模型部署包打包生成镜像文件。
15、进一步的，步骤s2中，所述的设计接口包括通过函数get_function获取模型的所有接口，包括模型标识符接口、输入数据接口、输出数据接口、模型运行环境接口、模型部署方式接口、文档链接接口、身份验证和授权信息接口、错误处理接口、版本控制信息接口、监控和日志信息接口；对于每个接口，提取其名称、字段、参数和数据类型信息，将所有接口信息转换成json形式并返回。
16、进一步的，步骤s2中，所述定义接口规范包括对于api的调用使用http协议，在代码中实现所选的接口协议。包括实现请求和响应的格式、数据交换方式、请求头和响应头的处理等。将实现的接口协议进行文档化，文档中包括接口的用途、请求格式、响应格式、请求头和响应头的含义、错误码处理方式，以便其他开发人员了解该接口。在需要使用该接口的地方，调用实现的接口协议，并按照文档规定的格式进行请求和响应。
17、进一步的，步骤s3中，所述模型发布过程包括：获取对云平台集成镜像仓库的访问权限，自动化登录镜像仓库，使用容器（如docker）命令向镜像仓库中提交封装好的容器、构建容器（如docker）镜像、为镜像添加标签、从镜像仓库中获取容器。
18、进一步的，步骤s4中，所述的在边端进行模型的部署和执行包括：从云端匹配合适的模型，在镜像仓库中下载，启动模型并开放接口；如果需要，开启数据缓存区并传输数据、调用接口，在模型中进行计算，得到结果。
19、有益效果
20、本专利技术方法具有以下优点：首先，容器封装使得模型及其依赖可以轻松迁移到不同设备，无论是云端还是边缘，极大提升了模型的兼容性和扩展性；其次，容器隔离了模型运行的环境，避免了不同边缘设备之间的环境冲突问题；容器可以快速启动，并通过容器管理工具如kubernetes实现自动化管理，提升了模型部署的效率。
本文档来自技高网...【技术保护点】
1.一种基于容器的云边融合模型自动化封装部署方法，其特征在于，包括以下步骤：
2.如权利要求1所述的自动化封装部署方法，其特征在于，在步骤S1中，所述的在线可视化模型构建工具包括：具备友好的用户界面、提供基础的模型和数据处理工具、支持云端训练，以帮助用户轻松地构建和训练所需的模型，在云端向边端部署并使用；在可视化工具的前端页面中，展示提供的基础模型种类，用户可以自行选择所需模型或输入需求使用推荐的模型，在云端进行训练。
3.如权利要求1所述的自动化封装部署方法，其特征在于，步骤S2具体包括：
4.如权利要求1所述的自动化封装部署方法，其特征在于，步骤S3中，所述模型发布过程包括：获取对云平台集成镜像仓库的访问权限，自动化登录镜像仓库，使用容器命令向镜像仓库中提交封装好的容器、构建容器镜像、为镜像添加标签、从镜像仓库中获取容器。
5.如权利要求1所述的自动化封装部署方法，其特征在于，步骤S4中，所述的在边端进行模型的部署和执行包括：从云端匹配合适的模型，在镜像仓库中下载，启动模型并开放接口；如果需要，开启数据缓存区并传输数据、调用接口
6.如权利要求3所述的自动化封装部署方法，其特征在于，通过函数get_function获取模型的所有接口，包括模型标识符接口、输入数据接口、输出数据接口、模型运行环境接口、模型部署方式接口、文档链接接口、身份验证和授权信息接口、错误处理接口、版本控制信息接口、监控和日志信息接口；对于每个接口，提取其名称、字段、参数和数据类型信息，将所有接口信息转换成JSON形式并返回。
7.如权利要求3所述的自动化封装部署方法，其特征在于，对于API的调用使用HTTP协议，在代码中实现所选的接口协议；包括实现请求和响应的格式、数据交换方式、请求头和响应头的处理等；将实现的接口协议进行文档化，文档中包括接口的用途、请求格式、响应格式、请求头和响应头的含义、错误码处理方式，以便其他开发人员了解该接口；在需要使用该接口的地方，调用实现的接口协议，并按照文档规定的格式进行请求和响应。
...【技术特征摘要】
1.一种基于容器的云边融合模型自动化封装部署方法，其特征在于，包括以下步骤：
2.如权利要求1所述的自动化封装部署方法，其特征在于，在步骤s1中，所述的在线可视化模型构建工具包括：具备友好的用户界面、提供基础的模型和数据处理工具、支持云端训练，以帮助用户轻松地构建和训练所需的模型，在云端向边端部署并使用；在可视化工具的前端页面中，展示提供的基础模型种类，用户可以自行选择所需模型或输入需求使用推荐的模型，在云端进行训练。
3.如权利要求1所述的自动化封装部署方法，其特征在于，步骤s2具体包括：
4.如权利要求1所述的自动化封装部署方法，其特征在于，步骤s3中，所述模型发布过程包括：获取对云平台集成镜像仓库的访问权限，自动化登录镜像仓库，使用容器命令向镜像仓库中提交封装好的容器、构建容器镜像、为镜像添加标签、从镜像仓库中获取容器。
5.如权利要求1所述的自动化封装部署方法，其特征在于，步骤s4中，所述的在边端进行模型的部署和执行包括：从云端匹配合适的模型...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。