System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种算法与设备适配方法、装置、电子设备及介质制造方法及图纸_技高网

一种算法与设备适配方法、装置、电子设备及介质制造方法及图纸

技术编号:44756186 阅读:4 留言:0更新日期:2025-03-26 12:41
本申请实施例公开了一种算法与设备适配方法、装置、电子设备及介质。该方法包括:确定目标模型在目标设备上单次执行时的需求算力;针对在目标设备上执行的目标任务,如果在目标任务中存在目标算法使用目标模型,则将需求算力作为执行目标任务过程中目标模型的实际消耗算力;针对在目标设备上执行的各目标任务,根据执行各目标任务过程中各目标模型的总实际消耗算力,以及目标设备的可用算力,确定在目标设备上分配执行的所述目标任务中的目标算法。上述方案能够针对不同算法复用的模型仅扣除一次算力,结合设备的可用算力能够在有限的硬件资源下更加合理准确地对算法和设备进行配置,提高了资源利用率和任务的处理效率。

【技术实现步骤摘要】

本申请涉及计算机,尤其涉及一种算法与设备适配方法、装置、电子设备及介质


技术介绍

1、在现代工业、安全监控、智能交通等多个领域,智能算法服务器承担了大量数据处理和智能检测任务,如人像识别、安全帽检测、明火检测、烟雾检测等。这些智能检测任务的算力往往会根据模型优化情况、产品型号、使用版本等产生变化,使用者需根据算力合理配置智能任务以确保响应速度和准确性。不同类型的智能算法对计算资源的需求各不相同,此外,随着算法的不断更新和优化,旧版本的算法模型可能需要更多的算力,而新版本则可能较为“轻量”。同时,不同的客户可能对算法的需求和优先级不同,有的可能更重视人像识别的准确率,有的则可能更关注异常事件识别的实时性。因此,如何在有限的硬件资源下,合理配置和调度算法,以满足不同场景和客户的需求,同时提高资源利用率,减少资源浪费,成为了一个亟待解决的问题。


技术实现思路

1、本申请实施例提供了一种算法与设备适配方法、装置、电子设备及介质,以通过精准地根据各模型的算力实际消耗情况以及设备的可用算力进行算法与设备的合理配置,提高资源利用率。

2、根据本申请的一方面,提供了一种算法与设备适配方法,该方法包括:

3、确定目标模型在目标设备上单次执行时的需求算力;

4、针对在所述目标设备上执行的目标任务,如果在目标任务中存在目标算法采用所述目标模型,则将所述需求算力作为执行所述目标任务过程中所述目标模型的实际消耗算力;

5、针对在所述目标设备上执行的各目标任务,根据执行各目标任务过程中各目标模型的总实际消耗算力,以及所述目标设备的可用算力,确定在所述目标设备上分配执行的所述目标任务中的目标算法。

6、根据本申请的一方面,提供了一种算法与设备适配装置,所述装置包括:

7、实际消耗算力确定模块,用于针对在所述目标设备上执行的目标任务,如果在目标任务中存在目标算法采用所述目标模型,则将所述需求算力作为执行所述目标任务过程中所述目标模型的实际消耗算力;

8、目标算法分配模块,用于针对在所述目标设备上执行的各目标任务,根据执行各目标任务过程中各目标模型的总实际消耗算力,以及所述目标设备的可用算力,确定在所述目标设备上分配执行的所述目标任务中的目标算法。

9、根据本申请的另一方面,提供了一种电子设备,该电子设备包括:

10、至少一个处理器;以及

11、与至少一个处理器算法与设备适配连接的存储器;其中,

12、存储器存储有可被至少一个处理器执行的计算机程序,计算机程序被至少一个处理器执行,以使至少一个处理器能够执行本申请任一实施例的算法与设备适配方法。

13、根据本申请的另一方面,提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机指令,计算机指令用于使处理器执行时实现本申请任一实施例的算法与设备适配方法。

14、本申请实施例的技术方案,确定目标模型在目标设备上单次执行时的需求算力;针对在所述目标设备上执行的目标任务,如果在目标任务中存在目标算法采用所述目标模型,则将所述需求算力作为执行所述目标任务过程中所述目标模型的实际消耗算力;针对在所述目标设备上执行的各目标任务,根据执行各目标任务过程中各目标模型的总实际消耗算力,以及所述目标设备的可用算力,确定在所述目标设备上分配执行的所述目标任务中的目标算法。上述方案能够针对不同算法复用的模型仅扣除一次算力,结合设备的可用算力能够在有限的硬件资源下更加合理准确地对算法和设备进行配置,提高了资源利用率和任务的处理效率。

15、应当理解,本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征,也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。

本文档来自技高网...

【技术保护点】

1.一种算法与设备适配方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述目标模型的确定过程包括:

3.根据权利要求1所述的方法,其特征在于,确定目标模型在目标设备上单次执行时的需求算力,包括:

4.根据权利要求1所述的方法,其特征在于,根据执行各目标任务过程中各目标模型的总实际消耗算力,以及所述目标设备的可用算力,确定在所述目标设备上分配执行的所述目标任务中的目标算法,包括:

5.根据权利要求4所述的方法,其特征在于,令所述总实际消耗算力小于或等于所述可用算力,包括:

6.根据权利要求1所述的方法,其特征在于,所述方法还包括:

7.根据权利要求6所述的方法,其特征在于,令各目标任务中执行目标模型的目标算法总数量小于或等于最低数量,包括:

8.一种算法与设备适配装置,其特征在于,所述装置包括:

9.一种电子设备,其特征在于,所述电子设备包括:

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的算法与设备适配方法。

...

【技术特征摘要】

1.一种算法与设备适配方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述目标模型的确定过程包括:

3.根据权利要求1所述的方法,其特征在于,确定目标模型在目标设备上单次执行时的需求算力,包括:

4.根据权利要求1所述的方法,其特征在于,根据执行各目标任务过程中各目标模型的总实际消耗算力,以及所述目标设备的可用算力,确定在所述目标设备上分配执行的所述目标任务中的目标算法,包括:

5.根据权利要求4所述的方法,其特征在于,令所述总实际消耗算力小于或等...

【专利技术属性】
技术研发人员:姚泽瑾郭建国
申请(专利权)人:浙江宇视科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1