System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种算力网络中生成式人工智能的资源流动均衡策略方法技术_技高网
当前位置: 首页 > 专利查询>天津大学专利>正文

一种算力网络中生成式人工智能的资源流动均衡策略方法技术

技术编号:42895484 阅读:9 留言:0更新日期:2024-09-30 15:13
本发明专利技术提供了一种算力网络中生成式人工智能的资源流动均衡策略方法,首先分析用户信息内容并建立层次树状结构,通过层次树状结构得到信息熵分析资源消耗;其次构建流体模型,提出了流体止步均衡策略以得到流体水平的稳态分布,进而基于Laplace Stieltjes变换得到平均流体水平,基于平均流体水平分析得到单位流体的能量成本,最终得出单位时间的平均社会福利这一优化问题的定义。最后,基于扩散模型求解优化问题。本发明专利技术采用上述的一种算力网络中生成式人工智能的资源流动均衡策略方法,实现经济高效的算力资源均衡,动态调整系统策略,以最大化CPNs层的平均社会福利。

【技术实现步骤摘要】

本专利技术涉及人工智能领域,尤其是涉及一种算力网络中生成式人工智能的资源流动均衡策略方法


技术介绍

1、近期,生成式人工智能(aigc,artificialintelligencegeneratedcontent)代表了一种用于生成、更改和精炼大量数据的开创性方法,标志着内容创建和处理领域的重大进步。aigc使从大数据中学习来创建内容变得可行,这在很大程度上依赖于大规模人工智能(ai,artificialintelligence)模型。这些ai模型包含数十亿到数万亿的训练参数,因此对算力资源的需求呈指数级增长。最近,chatgpt用户流量激增导致的频繁宕机反映了chatgpt对算力资源的高度依赖。为了缓解无处不在的算力需求,算力网络(cpns,computingpowernetworks)作为一种新的计算范式正在兴起。cpns将云中心、网络边缘、算力节点等分散基础设施中的大量算力资源整合到一个虚拟网络中,形成算力池以提高计算性能。在cpns中,拥有算力资源的节点具有提供或消耗资源的能力。

2、通过动态调整资源的流入和流出,cpns可以在高度动态变化的环境中有效地支持复杂且计算密集的aigc计算任务。图1展示了支持aigc的cpns架构,包括用户层、服务提供商层和cpns层。具体来说,用户将aigc请求提交到服务提供商层,服务提供商层从cpns层购买算力服务,cpns层向服务提供商层提供服务。主要关注cpns层的问题:如何在动态环境中保持资源的均衡流动以提供精确和实时的服务。现有技术中存在以下缺点:

3、请求信息价值的不确定性。请求的质量对生成内容的质量起着至关重要的作用。不确定性和不可估量的请求质量降低了内容生成的效率,增加了模型的推理难度,导致算力资源的利用低效。

4、算力资源的连续性无法表达。由于算力需求的高度变化,算力资源正在快速变化,表现出接近流体状态的强连续性。然而,传统的离散方法无法及时捕获算力资源的流动性。算力资源的不精确表示导致资源效益的准确性降低。

5、无法表示复杂的多维空间。为了获得资源效益的最佳解决方案,传统的方法考虑使用深度强化学习(drl)算法,该算法需要与环境交互才能有效学习。随着对资源连续性的逐步重视,drl算法在适应高动态性的环境条件和潜在连续波动方面遇到了挑战。


技术实现思路

1、本专利技术的目的在于提供一种算力网络中生成式人工智能的资源流动均衡策略方法,实现经济高效的算力资源访问,动态调整系统策略,以最大化cpns层的平均社会福利。

2、为实现上述目的,本专利技术提供了一种算力网络中生成式人工智能的资源流动均衡策略方法,包括

3、分析用户信息内容并建立层次树状结构,通过层次树状结构得到信息熵分析资源消耗;

4、构建流体模型,根据资源消耗和能量消耗获得每单位算力节点的收入;

5、根据每单位算力节点的收入分析平均社会收益,根据平均社会收益得到最大化平均社会福利;

6、构建扩散模型求解最大化平均社会福利这一优化问题。

7、优选的,所述分析用户信息内容并建立层次树状结构,通过层次树状结构得到信息熵分析资源消耗,包括

8、表达用户请求的变量g是离散的,将指定用户的一个请求gj输入到构造的树中,gj落在树中某层的概率为pgj,将cpns中一个用户aigc请求g的度量定义为信息熵hg:

9、

10、其中,n是用户请求集合g中的离散变量的数量,规定pgj∈[0.5,1),树的层数为n∈[1,+∞),请求pgj落在n'∈[0,n-1]层,gj落在树中某层推导为

11、

12、将每比特信息熵所消耗资源的单位价格定义为c2,因此,每个用户的资源成本为

13、w=c2hg。

14、优选的,构建流体模型,根据资源消耗和能量消耗获得每单位算力节点的收入,包括

15、x(t)表示算力池在t时刻的液位,v表示调节阈值,当x(t)≤v时,算力池的服务率表示为u0,当x(t)>v时,算力池适当地提高服务速率表示为u1,u1>u0>0;

16、算力池的休假和工作周期服从参数为q0和q1的指数分布,这两个参数是独立交错的,在工作状态下没有流体流入或者液位x(t)=0,则算力池处于空闲状态;当工作状态结束时,即使算力池中仍有流体,也会进入休假状态,算力池的状态表示为γ(t):

17、

18、在具有阈值调节的流模型中,流体的到达速率遵循参数为λ的指数分布,而服务速率是算力池中的分段常函数,cpns的等待容量是无限的,记录算力池在t时刻处于状态γ(t)的液位的过程动力学方程为

19、

20、其中,(λ-u0)+=max{λ-u0,0},二元过程{x(t),γ(t)}是马尔可夫过程,基于交替更新过程,γ(t)的稳态分布{wi,i=0,1}为

21、

22、流体到达时算力池的状态为(x,i),为了评估流入时的预期收入,定义每单位算力节点的收入为

23、φ(x,i)=r-αc1e(s(x,i))-βw

24、其中,r为每单位的流体在服务完成时将获得收益,c1为用于等待服务的能量成本,s(x,i)表示当观察到液位为x且算力池的状态为i时,流体在cpns中的等待服务时间,α表示能量成本的权重系数,β表示资源成本的权重系数,为了确保x=0时流体流入算力池,规定

25、优选的,能量消耗的求解如下:

26、分析流体的止步均衡策略;

27、根据流体止步均衡策略分析当算力池状态为i时,液面稳态分布;

28、根据液面稳态分布分析流体水平的稳态分布,根据流体水平稳态分布的laplacestieltjes变换得到平均流体水平。

29、优选的,分析流体的止步均衡策略,包括,当φ(x,i)>0,流体严格倾向于流入计算池,而φ(x,i)<0,则倾向于拒绝,当φ(x,i)=0时,获得流体停止平衡策略:

30、

31、式中,x*(0)为在流体水平不高于阈值时,系统处于0状态下的止步策略值,x*(1)为在流体水平不高于阈值时,系统处于1状态下的止步策略值,y*(0)为在流体水平高于阈值时,系统处于0状态下的止步策略值,y*(1)为在流体水平高于阈值时,系统处于1状态下的止步策略值;

32、在t时刻观察到(x(t),γ(t)),当x≤v时,x(t)<x*(γ(t))时,则流体流入,否则止步,并且当x>v且x(t)<y*(γ(t))时进入,否则流体止步。

33、优选的,根据流体止步均衡策略分析当算力池状态为i时,液面稳态分布,包括

34、

35、式中,hi为液面稳态分布,pr为概率,cpns中的所有算力节点都遵循止步策略,基于λ与服务率之间的大小关系出现了五种流体分布稳态情形本文档来自技高网...

【技术保护点】

1.一种算力网络中生成式人工智能的资源流动均衡策略方法,其特征在于,包括

2.根据权利要求1所述的一种算力网络中生成式人工智能的资源流动均衡策略方法,其特征在于,所述分析用户信息内容并建立层次树状结构,通过层次树状结构得到信息熵分析资源消耗,包括

3.根据权利要求2所述的一种算力网络中生成式人工智能的资源流动均衡策略方法,其特征在于,构建流体模型,根据资源消耗和能量消耗获得每单位算力节点的收入,包括

4.根据权利要求1所述的一种算力网络中生成式人工智能的资源流动均衡策略方法,其特征在于,能量消耗的求解如下:

5.根据权利要求4所述的一种算力网络中生成式人工智能的资源流动均衡策略方法,其特征在于,分析流体的止步均衡策略,包括,当Φ(x,i)>0,流体严格倾向于流入计算池,而Φ(x,i)<0,则倾向于拒绝,当Φ(x,i)=0时,获得流体停止平衡策略:

6.根据权利要求5所述的一种算力网络中生成式人工智能的资源流动均衡策略方法,其特征在于,根据流体止步均衡策略分析当算力池状态为i时,液面稳态分布,包括

7.根据权利要求6所述的一种算力网络中生成式人工智能的资源流动均衡策略方法,其特征在于,根据液面稳态分布分析流体水平的稳态分布,根据流体水平的稳态分布的Laplace Stieltjes变换得到平均流体水平,包括:

8.根据权利要求7所述的一种算力网络中生成式人工智能的资源流动均衡策略方法,其特征在于,根据每单位算力节点的收入分析平均社会收益,根据平均社会收益得到最大化平均社会福利,具体包括

9.根据权利要求1所述的一种算力网络中生成式人工智能的资源流动均衡策略方法,其特征在于,构建扩散模型,具体包括前向扩散链逐渐引入一系列噪声系数{δ1,δ2,...δT}作为马尔可夫链来训练数据,前向步骤定义为:

10.根据权利要求9所述的一种算力网络中生成式人工智能的资源流动均衡策略方法,其特征在于,求解最大化平均社会福利这一优化问题,具体包括

...

【技术特征摘要】

1.一种算力网络中生成式人工智能的资源流动均衡策略方法,其特征在于,包括

2.根据权利要求1所述的一种算力网络中生成式人工智能的资源流动均衡策略方法,其特征在于,所述分析用户信息内容并建立层次树状结构,通过层次树状结构得到信息熵分析资源消耗,包括

3.根据权利要求2所述的一种算力网络中生成式人工智能的资源流动均衡策略方法,其特征在于,构建流体模型,根据资源消耗和能量消耗获得每单位算力节点的收入,包括

4.根据权利要求1所述的一种算力网络中生成式人工智能的资源流动均衡策略方法,其特征在于,能量消耗的求解如下:

5.根据权利要求4所述的一种算力网络中生成式人工智能的资源流动均衡策略方法,其特征在于,分析流体的止步均衡策略,包括,当φ(x,i)>0,流体严格倾向于流入计算池,而φ(x,i)<0,则倾向于拒绝,当φ(x,i)=0时,获得流体停止平衡策略:

6.根据权利要求5所述的一种算力网络中生成式人工智能的资...

【专利技术属性】
技术研发人员:仇超刘泽军任晓旭王晓飞姚海鹏
申请(专利权)人:天津大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1