当前位置: 首页 > 专利查询>广州大学专利>正文

一种时变移动边缘计算网络的动态卸载方法技术

技术编号:27068859 阅读:58 留言:0更新日期:2021-01-15 14:51
本发明专利技术公开了一种时变移动边缘计算网络的动态卸载方法,包括如下步骤:步骤S1,在时变移动边缘计算网络中,通过接收端收集当前时刻的上行信道链路信息,并收集当前时刻的任务特征、用户计算能力和接入节点CAP

【技术实现步骤摘要】
一种时变移动边缘计算网络的动态卸载方法
本专利技术涉及无线通信
,特别是涉及一种基于深度强化学习(DeepQ-Learning,DQN)的时变移动边缘计算网络的动态卸载方法。
技术介绍
最近几年,关于无线通信领域的研究逐渐从纯通信方面转为通信和计算交互的方面,比如像智能监控,智能运输,车联网等这样的实例。为了支持这些计算密集型服务,云计算可以应用到计算云上的任务,代价是传输和信息泄露。为了解决这一问题,提出了移动边缘计算来辅助网络中邻近的计算接入点对任务进行计算,这可以显著降低通信和计算的延迟和能耗。移动边缘计算网络设计中一个关键是卸载策略,它决定了边缘计算节点将计算任务的多少部分。在这个方向上,目前虽然已经有人采用了一些方法成功获得了静态移动边缘计算场景中多用户或多边缘节点的卸载策略,但在实际的应用场景中,系统往往会伴随不同的状态,用户的任务可能随着时间变化而变化等等,因此解决静态场景的方法并不能适用。
技术实现思路
为克服上述现有技术存在的不足,本专利技术之目的在于提供一种时变移动边缘计算网络的动态卸载方法,通过使用基于深度强化学习的卸载策略,并针对系统时变的特性加以创新,实现了一种既可以在多用户多边缘节点交互的场景下,又能在计算任务特性和边缘节点、用户计算能力是时变的情况下的任务卸载策略,从而达到在多用户多边缘节点交互的场景下获得一个接近最优动态分配策略的目的,并显著降低系统时延和能耗,以推进边缘计算卸载的优化进展。为达上述及其它目的,本专利技术提出一种时变移动边缘计算网络的动态卸载方法,包括如下步骤:步骤S1,在时变移动边缘计算网络中,通过接收端收集当前时刻的上行信道链路信息,并收集当前时刻的任务特征、用户计算能力和接入节点CAPn的计算能力,根据收集的信息计算系统时延、能耗及其加权和;步骤S2,根据步骤S1收集的参数设计相关的状态和动作空间,将时变系统下的动态卸载问题建模为马尔可夫决策过程,并将设计的状态空间和动作输入策略网络,并通过深度强化学习的方式对策略网络进行动态的反馈训练和调整,以获得一个针对时变系统的接近最优的动态分配策略。优选地,于步骤S1中,在接收端通过系统的导频信号估计出移动边缘计算网络当前时刻的上行卸载链路的信道参数,同时收集该时变系统当前时刻的任务特征、用户计算能力和计算接入节点CAPn的计算能力,并计算系统时延、能耗,以及时延和能耗加权和作为奖赏值。优选地,步骤S1进一步包括:步骤S100,在任务卸载阶段中,计算用户um到接入节点CAPn的无线链路传输速率;步骤S101,根据步骤S100得到的无线链路传输速率计算获得用户um的传输时延和卸载传输能耗,并进一步计算获得系统的卸载延迟和系统卸载能耗;步骤S102,在任务计算阶段中,计算用户um的本地计算时延和本地计算能耗,并计算系统在接入节点CAPn计算的时延和能耗;步骤S103,根据步骤S102的计算结果获得任务计算阶段的计算时延和计算能耗;步骤S104,根据步骤S101和步骤S103的结果计算获得每个时隙的总系统时延和总系统能耗;步骤S105,计算总系统时延和能耗加权和作为奖赏值以度量系统性能。优选地,于步骤S100中,用户um到接入节点CAPn的无线链路传输速率为:其中B是无线带宽,Pm为用户um的传输功率,是um-CAPn链路的即时信道参数,σ2为接入节点CAPn处加性高斯白噪声的方差。优选地,于步骤S101中,用户um的任务卸载的时延为:其中,lm,n为用户um卸载的传输时延,em,n为用户um卸载的传输能耗,使用M个用户中最大的时延lm作为系统卸载延迟,L1=max{l1,...,lM},系统的任务卸载能耗为:其中ρm,n为卸载到接入节点CAPn的任务比例,dm为所需要计算的任务的大小。优选地,于步骤S102中,用户um的本地计算时延和能耗为:其中f0为本地计算能力,ζu为CPU芯片在用户处的能耗系数,cm为计算任务所需要的比特数,ρm,0表示在用户本地计算的任务的比例,在接入节点CAPn计算的时延和能耗:其中ζc是CPU芯片在接入节点CAPn处的能耗系数,fn为接入节点CAPn的计算能力。优选地,于步骤S103中,该任务计算阶段的计算时延和能耗为:L2=max{max{l1,0,...,lM,0},max{l1,...,lN}},优选地,步骤S2进一步包括:步骤S200,在每一时隙,将多用户和多计算接入节点移动边缘计算网络视为环境,将时变的计算任务特性和接入节点CAPn计算能力矩阵视为状态空间,动作是微调用户卸载策略,从而将时变系统下的动态卸载问题建模为马尔可夫决策过程;步骤S201,策略网络输出一个针对该系统当前时刻状态的分配策略,并通过深度强化学习的方式对策略网络进行动态的反馈训练和调整,使其可以下一时刻输出更好的分配策略,然后进入下一时刻,返回步骤S1。优选地,于步骤S201中,将所选择的中控节点视为具有学习能力的智能体,使用时延和能耗线性组合来度量系统性能,并以此来计算智能体与环境交互过程中得到的奖赏值,随后以最大化长期累积奖赏为原则模拟智能体与环境交互学习的过程,使得在经过多个时隙的迭代后算法趋于稳定收敛。优选地,于步骤S1中,随机选择一个接入节点作为中控节点与其他节点进行信息交互,以收集当前时刻的上行信道链路信息、任务特征、用户计算能力和接入节点CAPn的计算能力。与现有技术相比,本专利技术一种时变移动边缘计算网络的动态卸载方法通过将动态卸载问题表述为马尔可夫决策过程并设计了相关的状态和动作空间,并专利技术了一种基于深度强化学习的移动边缘计算网络动态卸载策略,经过多次的训练和迭代后,可以针对该时变系统习得一个接近最优的动态分配策略,使得用户可以在每个时隙动态地微调自身的卸载任务比例,有效地降低系统的时延和能耗。附图说明图1为本专利技术一种时变移动边缘计算网络的动态卸载方法的步骤流程图;图2为本专利技术具体实施例中所应用的多用户和多计算接入节点(CAPs)时变移动边缘计算(MEC)网络示意图;图3为本专利技术实施例在不同用户数和CAPs数时的仿真曲线图;图4为本专利技术实施例在不同用户数时与现有技术的仿真对比图;图5为本专利技术实施例在不同CAPs数量时与现有技术的仿真对比图;图6为本专利技术实施例在不同权重因子λ时与现有技术的仿真对比图。具体实施方式以下通过特定的具体实例并结合附图说明本专利技术的实施方式,本领域技术人员可由本说明书所揭示的内容轻易地了解本专利技术的其它优点与功效。本专利技术亦可通过其它不同的具体实例加以施行或应用,本说明书中的各项细节亦可基于不同观点与应用,在不背离本专利技术的精神下进行各种修饰与变更。图1为本专利技术一种时变移动边缘计算网络的动态卸载方法的步骤流程图。本专利技术一种时变移动边本文档来自技高网...

【技术保护点】
1.一种时变移动边缘计算网络的动态卸载方法,包括如下步骤:/n步骤S1,在时变移动边缘计算网络中,通过接收端收集当前时刻的上行信道链路信息,并收集当前时刻的任务特征、用户计算能力和接入节点CAP

【技术特征摘要】
1.一种时变移动边缘计算网络的动态卸载方法,包括如下步骤:
步骤S1,在时变移动边缘计算网络中,通过接收端收集当前时刻的上行信道链路信息,并收集当前时刻的任务特征、用户计算能力和接入节点CAPn的计算能力,根据收集的信息计算系统时延、能耗及其加权和;
步骤S2,根据步骤S1收集的参数设计相关的状态和动作空间,将时变系统下的动态卸载问题建模为马尔可夫决策过程,并将设计的状态空间和动作输入策略网络,并通过深度强化学习的方式对策略网络进行动态的反馈训练和调整,以获得一个针对时变系统的接近最优的动态分配策略。


2.如权利要求1所述的一种时变移动边缘计算网络的动态卸载方法,其特征在于,于步骤S1中,在接收端通过系统的导频信号估计出移动边缘计算网络当前时刻的上行卸载链路的信道参数,同时收集该时变系统当前时刻的任务特征、用户计算能力和计算接入节点CAPn的计算能力,并计算系统时延、能耗,以及时延和能耗加权和作为奖赏值。


3.如权利要求2所述的一种时变移动边缘计算网络的动态卸载方法,其特征在于,步骤S1进一步包括:
步骤S100,在任务卸载阶段中,计算用户um到接入节点CAPn的无线链路传输速率;
步骤S101,根据步骤S100得到的无线链路传输速率计算获得用户um的传输时延和卸载传输能耗,并进一步计算获得系统的卸载延迟和系统卸载能耗;
步骤S102,在任务计算阶段中,计算用户um的本地计算时延和本地计算能耗,并计算系统在接入节点CAPn计算的时延和能耗;
步骤S103,根据步骤S102的计算结果获得任务计算阶段的计算时延和计算能耗;
步骤S104,根据步骤S101和步骤S103的结果计算获得每个时隙的总系统时延和总系统能耗;
步骤S105,计算总系统时延和能耗加权和作为奖赏值以度量系统性能。


4.如权利要求3所述的一种时变移动边缘计算网络的动态卸载方法,其特征在于,于步骤S100中,用户um到接入节点CAPn的无线链路传输速率为:



其中B是无线带宽,Pm为用户um的传输功率,是um-CAPn链路的即时信道参数,σ2为接入节点CAPn处加性高斯白噪声的方差。


5.如权利要求4所述的一种时变移动边缘计算网络的动态卸载方法,其特征在于,于步骤S101中,用户um的任务卸载的时延为:



其中,lm,n为用户um卸载的传输时延,em,n为...

【专利技术属性】
技术研发人员:夏隽娟范立生赖诗炜綦科刘外喜周发升
申请(专利权)人:广州大学
类型:发明
国别省市:广东;44

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1