System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 云边协同架构下的增量学习系统及方法技术方案_技高网

云边协同架构下的增量学习系统及方法技术方案

技术编号:41232730 阅读:7 留言:0更新日期:2024-05-09 23:48
本申请提出了一种云边协同架构下的增量学习系统,该系统包括应用层、引擎层、数据层,系统的使用角色包括服务构建者和服务使用者,服务构建者在云端对系统进行管理,服务使用者在边端使用系统所提供的服务,其中,应用层,用于为服务构建者提供增量学习配置交互入口,并为服务使用者提供对外增量学习服务接口;引擎层,用于根据服务构建者设定的增量学习配置参数对模型进行处理,并在边端进行模型部署,并在服务使用者使用对外增量学习服务时,进行模型推理;数据层,用于对边端缓存的增量数据进行聚合,并上传至云端,并在模型推理时,缓存推理过程中产生的增量数据。采用上述方案的本发明专利技术实现了云边协同架构下的增量学习。

【技术实现步骤摘要】

本申请涉及计算机,尤其涉及云边协同架构下的增量学习系统及方法


技术介绍

1、ai模型的精度往往与数据集质量有的强耦合关系,当数据集越贴近任务场景,可以有有效提升预测准确率。但云边协同架构下人工智能应用所应对的任务场景并不是一成不变的,这就需要模型训练的数据集也应随着动态更新。作为一个持久的工作环节,通过人工进行维护成本较高且难以实现,同时,云边协同架构的复杂云环境下,传统增量学习模型难以直接适配。所以设计一种适应于云边协同架构下的增量学习方法及系统至关重要。

2、现有的云边系统推理框架可以实现实现基础的算力与任务调度。现有技术方案一实现了一种自训练可迭代的人工智能模型训练方法,包括初始化人工智能模型、数据准备、知识重构、增量学习循环以及模型的迭代和调优。现有技术方案二提出了一种自动化机器学习模型灰度上线方法,主要关注于包括微服务支撑框架、微服务集群、自动化机器学习模块和持续增量学习人工智能技术底座。

3、这些技术方案中,前者只关注了如何实现模型迭代学习,没有解决在云边协同架构复杂云环境下的实现,后者只关注了在云环境下如何通过云原生的方式实现服务上线,并没有解决增量学习上下游任务。


技术实现思路

1、本申请旨在至少在一定程度上解决相关技术中的技术问题之一。

2、为此,本申请的第一个目的在于提出一种云边协同架构下的增量学习系统,实现了在云边协同架构复杂云环境下的增量学习。

3、本申请的第二个目的在于提出一种云边协同架构下的增量学习方法。

4、为达上述目的,本申请第一方面实施例提出了一种云边协同架构下的增量学习系统,该系统包括应用层、引擎层、数据层,该系统的使用角色包括服务构建者和服务使用者,服务构建者在云端对系统进行管理,服务使用者在边端使用系统所提供的服务,其中,

5、应用层,用于为服务构建者提供增量学习配置交互入口,并为服务使用者提供对外增量学习服务接口;

6、引擎层,用于根据服务构建者设定的增量学习配置参数对模型进行处理,并在边端进行模型部署,并在服务使用者使用对外增量学习服务时,进行模型推理;

7、数据层,用于对边端缓存的增量数据进行聚合,并上传至云端,并在模型推理时,缓存推理过程中产生的增量数据。

8、本申请实施例的云边协同架构下的增量学习系统,通过服务提供者设定的配置参数生成云原生增量学习引擎,该引擎通过虚拟化的方式将增量学习拆分为可组装算子,实现在云边协同架构下实现定制化增量学习、自动化提升服务准确率,避免了通过极其复杂的开发接口开发模式,极大程度降低了算法开发与工程开发耦合度,有效提升服务开发效率、资源使用率和ai服务质量。

9、可选地,在本申请的一个实施例中,增量学习配置参数为引擎配置信息,引擎配置信息与数据处理、模型训练、模型评估和模型更新相关,引擎层,具体用于:

10、基于服务构建者设定的增量学习配置参数构建增量学习引擎,并构建数据处理算子、模型训练算子和模型验证算子,其中,数据处理算子用于按照用户规则对聚合后的增量数据进行处理,获得可用于模型增量训练的数据集,模型训练算子用于为模型训练提供环境与计算资源,并通过预设的模型训练参数执行模型训练,获得新的模型权重文件,模型验证算子,用于对新版本模型的准确性进行评估,并决策是否对旧版本模型进行更新;

11、在所有算子构建完成后,将处理后的模型下发至边端,并通过推理容器的方式完成模型部署,以在边端实现对外增量学习服务。

12、可选地,在本申请的一个实施例中,数据层,具体用于,包括:

13、在模型推理过程中,将增量数据缓存至边端local数据中;

14、根据服务提供者配置的增量数据聚合策略,对边端缓存的增量数据进行周期性的聚合,并将聚合后的增量数据上传至云端数据库,通过版本号进行管理。

15、为达上述目的,本专利技术第二方面实施例提出了一种云边协同架构下的增量学习方法,包括:

16、在云端获取服务提供者设定的增量学习配置参数;

17、在云端根据获取的增量学习配置参数对模型进行处理,并在边端进行模型部署;

18、在服务使用者在边端进行增量学习时,进行模型推理,并缓存推理过程中产生的增量数据,并对边端缓存的增量数据进行聚合,并上传至云端。

19、可选地,在本申请的一个实施例中,增量学习配置参数为引擎配置信息,引擎配置信息与数据处理、模型训练、模型评估和模型更新相关,在云端根据获取的增量学习配置参数对模型进行处理,并在边端进行模型部署,包括:

20、基于服务构建者设定的增量学习配置参数构建增量学习引擎,并构建数据处理算子、模型训练算子和模型验证算子,其中,数据处理算子用于按照用户规则对聚合后的增量数据进行处理,获得可用于模型增量训练的数据集,模型训练算子用于为模型训练提供环境与计算资源,并通过预设的模型训练参数执行模型训练,获得新的模型权重文件,模型验证算子,用于对新版本模型的准确性进行评估,并决策是否对旧版本模型进行更新;

21、在所有算子构建完成后,将处理后的模型下发至边端,并通过推理容器的方式完成模型部署,以在边端实现对外增量学习服务。

22、可选地,在本申请的一个实施例中,对增量数据的处理过程包括:

23、在模型推理过程中,将增量数据缓存至边端local数据中;

24、根据服务提供者配置的增量数据聚合策略,对边端缓存的增量数据进行周期性的聚合,并将聚合后的增量数据上传至云端数据库,通过版本号进行管理。

25、本申请附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实践了解到。

本文档来自技高网...

【技术保护点】

1.一种云边协同架构下的增量学习系统,其特征在于,所述系统包括应用层、引擎层、数据层,所述系统的使用角色包括服务构建者和服务使用者,所述服务构建者在云端对所述系统进行管理,所述服务使用者在边端使用所述系统所提供的服务,其中,

2.如权利要求1所述的系统,其特征在于,所述增量学习配置参数为引擎配置信息,所述引擎配置信息与数据处理、模型训练、模型评估和模型更新相关,所述引擎层,具体用于:

3.如权利要求1所述的系统,其特征在于,所述数据层,具体用于,包括:

4.一种云边协同架构下的增量学习方法,其特征在于,包括:

5.如权利要求4所述的方法,其特征在于,所述增量学习配置参数为引擎配置信息,所述引擎配置信息与数据处理、模型训练、模型评估和模型更新相关,所述在云端根据获取的增量学习配置参数对模型进行处理,并在边端进行模型部署,包括:

6.如权利要求4所述的方法,其特征在于,对所述增量数据的处理过程包括:

【技术特征摘要】

1.一种云边协同架构下的增量学习系统,其特征在于,所述系统包括应用层、引擎层、数据层,所述系统的使用角色包括服务构建者和服务使用者,所述服务构建者在云端对所述系统进行管理,所述服务使用者在边端使用所述系统所提供的服务,其中,

2.如权利要求1所述的系统,其特征在于,所述增量学习配置参数为引擎配置信息,所述引擎配置信息与数据处理、模型训练、模型评估和模型更新相关,所述引擎层,具体用于:

3.如权利要求1所述的...

【专利技术属性】
技术研发人员:鄂海红宋美娜吕晓东郑云帆郑奕伟朱云飞罗浩然
申请(专利权)人:北京邮电大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1