System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及物联网,尤其涉及一种算力复用方法、装置及架构。
技术介绍
1、随着设备智能化得快速发展,尤其是生成式人工智能的快速普及。设备对算力的需求呈指数增长。设备对算力的需求的增长远远超出了设备本身的发展程度。于是乎,在我们的生活场景中,一方面有很多闲着的算力没有得到充分利用,另外一方面,对具体的应用而言,算力又不足。算力碎片化的现象也越来越严重。如此,算力浪费和算力不足同时出现在生产生活实践中。
技术实现思路
1、本专利技术实施例提供一种算力复用方法、装置及架构,通过中央算力设备来提供各个终端设备所需算力,提高算力利用效率和算力供给的稳定性,降低算力浪费和减小能源消耗。
2、为实现上述目的,本申请实施例的第一方面提供了一种算力复用方法,包括:
3、根据来自终端设备的算力申请确定所述终端设备的申请算力;
4、持续更新闲置算力信息,若所述申请算力小于或等于本地闲置算力,从本地闲置算力中分配算力执行所述算力申请中的算力任务,算力任务完成后结束所述终端设备任务;
5、持续更新闲置算力信息,若所述申请算力大于本地闲置算力,根据所述终端设备的优先级和任务实时要求,选择对应方式结束所述终端设备任务。
6、在第一方面的一种可能的实现方式中,所述持续更新闲置算力信息,若所述申请算力大于闲置算力,根据所述终端设备的优先级和任务实时要求,选择对应方式结束所述终端设备任务,具体包括:
7、持续更新闲置算力信息,若所述申请算力大于
8、若所述申请算力大于空闲算力,且所述终端设备的优先级比正在执行算力任务对应的其他终端设备的优先级低,根据所述终端设备的任务实时要求选择对应方式结束所述终端设备任务。
9、在第一方面的一种可能的实现方式中,若所述申请算力大于闲置算力,且所述终端设备的优先级比正在执行算力任务对应的其他终端设备的优先级低,根据所述终端设备的任务实时要求选择对应方式结束所述终端设备任务,具体包括:
10、若所述申请算力大于闲置算力,且所述终端设备的优先级比正在执行算力任务对应的其他终端设备的优先级低,持续获取所述终端设备的任务实时要求;
11、若所述终端设备的任务实时要求提出等待,再次更新闲置算力信息,判断申请算力和闲置算力的大小关系后选择对应方式结束所述终端设备任务;
12、若所述终端设备的任务实时要求提出不需要等待且需要结束,直接结束所述终端设备任务;
13、若所述终端设备的任务实时要求提出不需要等待且不需要结束,申请网络闲置算力执行所述算力申请中的算力任务,算力任务完成后结束所述终端设备任务。
14、在第一方面的一种可能的实现方式中,所述申请网络闲置算力执行所述算力申请中的算力任务,具体包括:
15、向其他中央算力设备申请闲置网络算力执行所述算力申请中的算力任务;各个中央算力设备之间进行负载均衡。
16、本申请实施例的第二方面提供了一种算力复用装置,包括:
17、算力确认模块,用于根据来自终端设备的算力申请确定所述终端设备的申请算力;
18、第一算力分配模块,用于持续更新闲置算力信息,若所述申请算力小于或等于本地闲置算力,从本地闲置算力中分配算力执行所述算力申请中的算力任务,算力任务完成后结束所述终端设备任务;
19、第二算力分配模块,用于持续更新闲置算力信息,若所述申请算力大于本地闲置算力,根据所述终端设备的优先级和任务实时要求,选择对应方式结束所述终端设备任务。
20、在第二方面的一种可能的实现方式中,所述持续更新闲置算力信息,若所述申请算力大于闲置算力,根据所述终端设备的优先级和任务实时要求,选择对应方式结束所述终端设备任务,具体包括:
21、持续更新闲置算力信息,若所述申请算力大于闲置算力,且所述终端设备的优先级比正在执行算力任务对应的其他终端设备的优先级高,重新分配本地算力执行所述算力申请中的算力任务;
22、若所述申请算力大于空闲算力,且所述终端设备的优先级比正在执行算力任务对应的其他终端设备的优先级低,根据所述终端设备的任务实时要求选择对应方式结束所述终端设备任务。
23、在第二方面的一种可能的实现方式中,若所述申请算力大于闲置算力,且所述终端设备的优先级比正在执行算力任务对应的其他终端设备的优先级低,根据所述终端设备的任务实时要求选择对应方式结束所述终端设备任务,具体包括:
24、若所述申请算力大于闲置算力,且所述终端设备的优先级比正在执行算力任务对应的其他终端设备的优先级低,持续获取所述终端设备的任务实时要求;
25、若所述终端设备的任务实时要求提出等待,再次更新闲置算力信息,判断申请算力和闲置算力的大小关系后选择对应方式结束所述终端设备任务;
26、若所述终端设备的任务实时要求提出不需要等待且需要结束,直接结束所述终端设备任务;
27、若所述终端设备的任务实时要求提出不需要等待且不需要结束,申请网络闲置算力执行所述算力申请中的算力任务,算力任务完成后结束所述终端设备任务
28、在第二方面的一种可能的实现方式中,所述申请网络闲置算力执行所述算力申请中的算力任务,具体包括:
29、向其他中央算力设备申请闲置网络算力执行所述算力申请中的算力任务;各个中央算力设备之间进行负载均衡。
30、本申请实施例的第三方面提供了一种算力架构,包括多个中央算力设备和多个终端设备网络,每个中央算力设备为一个终端设备网络中的全部终端设备提供算力,各个终端设备与对应的中央算力设备通信相连;各个中央算力设备之间通信相连且执行如上所述的算力复用方法。
31、相比于现有技术,本专利技术实施例提供的一种算力复用方法、装置及架构,由中央算力设备统一调度的算力集中式管理方法,算力来自中央算力控制器或者通过中央算力控制器调度到的网络算力,例如云端或者隔壁邻居家的中央算力设备。当终端设备联网运行时,中央算力设备也可以从区域网内或者云端协调算力来满足具体用户的需求。当具体某个中央算力设备故障或者需要检修时,中央算力设备也可以使用任务迁移的方法来继续用户服务。
32、综上所述,本专利技术实施例通过动态调度和算力复用,对具体的终端设备而言,其可以使用的算力远超传统方案,从而可以部署更为复杂的算法。同事也提高了算力资源的利用率,减少了资源浪费;高优先级任务可以迅速获得所需资源,缩短了处理时间,提升了用户体验;载均衡机制避免了单点过载,增强了架构的整体稳定性和可靠性;支持跨网络的算力资源共享,使得架构能够更好地应对突发性高负荷情况,同时保持良好的性能表现。算力复用方法提供了一种灵活、高效、公平的算力资源管理策略,适用于复杂多变的应用场景,有助于构建更加智能、高效、可持续的计算环本文档来自技高网...
【技术保护点】
1.一种算力复用方法,其特征在于,包括:
2.如权利要求1所述算力复用方法,其特征在于,所述持续更新闲置算力信息,若所述申请算力大于闲置算力,根据所述终端设备的优先级和任务实时要求,选择对应方式结束所述终端设备任务,具体包括:
3.如权利要求2所述算力复用方法,其特征在于,若所述申请算力大于闲置算力,且所述终端设备的优先级比正在执行算力任务对应的其他终端设备的优先级低,根据所述终端设备的任务实时要求选择对应方式结束所述终端设备任务,具体包括:
4.如权利要求3所述算力复用方法,其特征在于,所述申请网络闲置算力执行所述算力申请中的算力任务,具体包括:
5.如权利要求1所述算力复用方法,其特征在于,所述终端设备的优先级是预先设置的;所述终端设备是本地网络的设备或是外部相连网络的设备。
6.一种算力复用装置,其特征在于,包括:
7.如权利要求6所述算力复用装置,其特征在于,所述持续更新闲置算力信息,若所述申请算力大于闲置算力,根据所述终端设备的优先级和任务实时要求,选择对应方式结束所述终端设备任务,具体包括:
>8.如权利要求7所述算力复用装置,其特征在于,若所述申请算力大于闲置算力,且所述终端设备的优先级比正在执行算力任务对应的其他终端设备的优先级低,根据所述终端设备的任务实时要求选择对应方式结束所述终端设备任务,具体包括:
9.如权利要求8所述算力复用装置,其特征在于,所述申请网络闲置算力执行所述算力申请中的算力任务,具体包括:
10.一种算力复用架构,其特征在于,包括多个中央算力设备和多个终端设备网络,每个中央算力设备为一个终端设备网络中的全部终端设备提供算力,各个终端设备与对应的中央算力设备通信相连;各个中央算力设备之间通信相连且执行如权利要求1~5所述的算力复用方法。
...【技术特征摘要】
1.一种算力复用方法,其特征在于,包括:
2.如权利要求1所述算力复用方法,其特征在于,所述持续更新闲置算力信息,若所述申请算力大于闲置算力,根据所述终端设备的优先级和任务实时要求,选择对应方式结束所述终端设备任务,具体包括:
3.如权利要求2所述算力复用方法,其特征在于,若所述申请算力大于闲置算力,且所述终端设备的优先级比正在执行算力任务对应的其他终端设备的优先级低,根据所述终端设备的任务实时要求选择对应方式结束所述终端设备任务,具体包括:
4.如权利要求3所述算力复用方法,其特征在于,所述申请网络闲置算力执行所述算力申请中的算力任务,具体包括:
5.如权利要求1所述算力复用方法,其特征在于,所述终端设备的优先级是预先设置的;所述终端设备是本地网络的设备或是外部相连网络的设备。
6.一种算力复用装置,其特征在于,包括:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。