本申请涉及一种模型管理系统以及目标操作指令的处理方法和装置，其中，该模型管理系统包括模型调度器和多个参考模型加载器，模型调度器用于在检测到目标操作指令后，根据每个模型加载器的负载值将目标操作指令转发至多个参考模型加载器中的目标模型加载器；目标模型加载器与模型调度器连接，用于接收模型调度器转发的目标操作指令，并根据目标操作指令对目标模型文件执行对应的目标操作。本申请解决了操作指令的处理效率较低的技术问题。了操作指令的处理效率较低的技术问题。了操作指令的处理效率较低的技术问题。
【技术实现步骤摘要】
一种模型管理系统以及目标操作指令的处理方法和装置
[0001]本申请涉及计算机领域，尤其涉及一种模型管理系统以及目标操作指令的处理方法和装置。
技术介绍
[0002]在人工智能领域，深度学习方法在不同的领域解决了越来越多的实际问题，比如图像识别、自动驾驶、智能客服等等，随着场景的变化会需要对模型进行模型更新或者模型应用等模型服务操作，现有的模型服务技术广泛采取相关“容器化技术”比如k8s(Kubernetes，一种开源的容器编排引擎)相关技术，使得模型服务变得简单可控，并可支持多种模型，但是现有的“容器化技术”在部署相关模型实例的时候，对于资源的使用原则是先申请再分配，不能使用超出申请的资源，所以，为了让服务能正常运行，都需要多申请一点资源，如果模型服务实例特别多是，这也就造成了资源浪费和容器的负载压力。
[0003]针对上述的问题，目前尚未提出有效的解决方案。
技术实现思路
[0004]本申请提供了一种模型管理系统以及目标操作指令的处理方法和装置，以至少解决相关技术中操作指令的处理效率较低的技术问题。
[0005]根据本申请实施例的一个方面，提供了一种模型管理系统，所述模型管理系统包括模型调度器和多个参考模型加载器：所述模型调度器用于在检测到目标操作指令后，根据每个所述参考模型加载器的负载值将所述目标操作指令转发至多个所述参考模型加载器中的目标模型加载器；所述目标模型加载器与所述模型调度器连接，用于接收所述模型调度器转发的所述目标操作指令，并根据所述目标操作指令对目标模型文件执行对应的目标操作。
[0006]可选地，所述模型管理系统还包括模型转换器，其中：所述模型转换器用于对初始模型文件的文件格式进行目标处理，从而得到目标格式的所述目标模型文件。
[0007]可选地，所述模型管理系统还包括模型存储中心、目标数据库以及模型管理组件，其中：所述模型存储中心用于存储所述目标模型文件；所述模型管理组件用于确定所述目标模型文件在所述模型存储中心的存储路径，并确定包含所述存储路径的所述目标模型文件的元信息，并将所述元信息发送至所述目标数据库进行存储。
[0008]可选地，所述目标模型加载器还用于：基于所述目标操作指令获取所述元信息；基于所述元信息包括的所述存储路径调取所述目标模型文件；根据所述元信息包括的初始验证信息对所述目标模型文件进行验证，在验证结果满足设定要求时，根据所述目标操作指令对所述目标模型文件执行对应的所述目标操作。
[0009]根据本申请实施例的另一方面，还提供了一种目标操作指令的处理方法，包括：检测目标操作指令；根据多个参考模型加载器的负载值将所述目标操作指令转发至多个所述参考模型加载器中的目标模型加载器，其中，所述目标操作指令用于指示所述目标模型加
载器执行与所述目标操作指令对应的目标操作。
[0010]可选地，根据多个所述参考模型加载器的所述负载值将所述目标操作指令转发至多个所述参考模型加载器中的所述目标模型加载器包括：获取每个所述参考模型加载器的所述负载值；对每个所述负载值进行比对，以确定最小负载值；将所述最小负载值对应的所述参考模型加载器确定为所述目标模型加载器；转发所述目标操作指令至所述目标模型加载器。
[0011]根据本申请实施例的另一方面，还提供了一种目标操作指令的处理方法，包括：接收模型调度器转发的目标操作指令，所述模型调度器用于根据多个参考模型加载器的负载值将所述目标操作指令转发至多个所述参考模型加载器中的目标模型加载器；根据所述目标操作指令调取对应的目标模型文件；在所述目标模型文件满足设定要求的情况下，对所述目标模型文件执行与所述目标操作指令对应的目标操作。
[0012]可选地，根据所述目标操作指令调取对应的所述目标模型文件包括：根据所述操作指令查询与所述目标操作指令对应的元信息，其中，所述元信息存储在目标数据库中，所述元信息包括所述目标模型文件的存储路径；根据所述元信息中的所述目标模型文件的所述存储路径调取所述目标模型文件。
[0013]可选地，对所述目标模型文件执行与所述操作指令对应的目标操作之前，所述方法还包括：对所述目标模型文件进行目标计算，以得到对应的目标验证信息；根据所述元信息中包括的初始验证信息对所述目标验证信息进行验证，以得到所述验证结果；在所述验证结果指示所述初始验证信息与所述目标验证信息一致时，确定所述目标模型文件满足所述设定要求。
[0014]根据本申请实施例的另一方面，还提供了一种目标操作指令的处理装置，包括：检测模块，用于检测目标操作指令；转发模块，用于根据多个参考模型加载器的负载值将所述目标操作指令转发至多个所述参考模型加载器中的目标模型加载器，其中，所述目标操作指令用于指示所述目标模型加载器执行与所述目标操作指令对应的目标操作。
[0015]根据本申请实施例的另一方面，还提供了一种目标操作指令的处理装置，包括：接收模块，用于接收模型调度器转发的目标操作指令，所述模型调度器用于根据多个参考模型加载器的负载值将所述目标操作指令转发至多个所述参考模型加载器中的目标模型加载器；调取模块，用于根据所述目标操作指令调取对应的目标模型文件；处理模块，用于在所述目标模型文件满足设定要求的情况下，对所述目标模型文件执行与所述目标操作指令对应的目标操作。
[0016]根据本申请实施例的另一方面，还提供了一种存储介质，该存储介质包括存储的程序，程序运行时执行上述的方法。
[0017]根据本申请实施例的另一方面，还提供了一种电子装置，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器通过计算机程序执行上述的方法。
[0018]在本申请实施例中，采用模型管理系统包括模型调度器和多个参考模型加载器，模型调度器用于在检测到目标操作指令后，根据每个参考模型加载器的负载值将目标操作指令转发至多个参考模型加载器中的目标模型加载器；目标模型加载器与模型调度器连接，用于接收模型调度器转发的目标操作指令，并根据目标操作指令对目标模型文件执行
对应的目标操作的方式，设置多个负责对目标模型文件执行操作的参考模型加载器，参考模型加载器与模型调度器连接，并将自身的负载情况发送至模型调度器，模型调度器在检测到目标操作指令后，根据各个参考模型加载器发送的负载值确定出被转发目标操作指令的目标模型加载器，将目标操作指令法送至目标模型加载器，目标模型加载器在接收到模型调度器发送的目标操作指令后对目标模型文件执行对应的目标操作，达到了根据各个参考模型加载器的负载值转发目标操作指令的目的，使得目标模型加载器的接收的目标操作指令是与其负载值匹配的，从而实现了提高操作指令的处理效率的技术效果，进而解决了操作指令的处理效率较低的技术问题。
附图说明
[0019]此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本专利技术的实施例，并与说明书一起用于解释本专利技术的原理。
[0020]为了更清楚地说明本专利技术实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种模型管理系统，其特征在于，所述模型管理系统包括模型调度器和多个参考模型加载器：所述模型调度器用于在检测到目标操作指令后，根据每个所述参考模型加载器的负载值将所述目标操作指令转发至多个所述参考模型加载器中的目标模型加载器；所述目标模型加载器与所述模型调度器连接，用于接收所述模型调度器转发的所述目标操作指令，并根据所述目标操作指令对目标模型文件执行对应的目标操作。2.根据权利要求1所述的系统，其特征在于，所述模型管理系统还包括模型转换器，其中：所述模型转换器用于对初始模型文件的文件格式进行目标处理，从而得到目标格式的所述目标模型文件。3.根据权利要求1所述的系统，其特征在于，所述模型管理系统还包括模型存储中心、目标数据库以及模型管理组件，其中：所述模型存储中心用于存储所述目标模型文件；所述模型管理组件用于确定所述目标模型文件在所述模型存储中心的存储路径，并确定包含所述存储路径的所述目标模型文件的元信息，并将所述元信息发送至所述目标数据库进行存储。4.根据权利要求3所述的系统，其特征在于，所述目标模型加载器还用于：基于所述目标操作指令获取所述元信息；基于所述元信息包括的所述存储路径调取所述目标模型文件；根据所述元信息包括的初始验证信息对所述目标模型文件进行验证，在验证结果满足设定要求时，根据所述目标操作指令对所述目标模型文件执行对应的所述目标操作。5.一种目标操作指令的处理方法，其特征在于，包括：检测目标操作指令；根据多个参考模型加载器的负载值将所述目标操作指令转发至多个所述参考模型加载器中的目标模型加载器，其中，所述目标操作指令用于指示所述目标模型加载器执行与所述目标操作指令对应的目标操作。6.根据权利要求5所述的方法，其特征在于，根据多个所述参考模型加载器的所述负载值将所述目标操作指令转发至多个所述参考模型加载器中的所述目标模型加载器包括：获取每个所述参考模型加载器的所述负载值；对每个所述负载值进行比对，以确定最小负载值；将所述最小负载值对应的所述参考模型加载器确定为所述目标模型加载器；转发所述目标操作指令至所述目标模型加载器。7.一种目标操作指令的处理方法，其特征在于，包括：接收模型调度器转发的目标操作指令，所述模型调度器用于根...
【专利技术属性】
技术研发人员：刘喆，
申请(专利权)人：北京明略昭辉科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。