System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及计算机及通信,尤其涉及一种分层空中联邦学习控制方法及装置。
技术介绍
1、联邦学习是一种分布式机器学习方法,它将模型训练任务分散到多个设备上进行,每个设备利用自己的本地数据,在服务器的协调下训练一个共享的机器学习模型,尽管联邦学习能够充分利用边缘网络的分布式计算和存储能力,但频繁的高维度梯度参数传输使得设备和服务器之间的无线通信成为瓶颈,导致在无线通信网络中实现联邦边缘学习面临挑战。空中计算技术是利用无线链路多址接入信道的信号叠加特性,在空中完成函数计算,允许所有设备共享同一频谱与资源块,进行同时传输,克服大规模访问导致的高时延问题,并降低了无线通信开销,上述特性使得空中计算很适合作为一种新型空中接入解决方案,被应用于联邦边缘学习中,形成空中联邦学习的基础。
2、现有的大型边缘网络结构是通过将设备进行分小区管理,每个小区都有一个基站对多个设备进行信号聚合,为了克服大规模访问导致的高时延问题,设备将梯度信息通过空中计算聚合到基站,基站收到信号后再通过空中计算转发到聚合中心以实现在大型边缘网络的分层空中联邦学习,但这种模式在实际应用过程中多个小区间容易产生干扰问题,需要通过调度使每个小区依次进行空中计算以消除此过程出现的干扰信号,因此影响到大型联邦学习网络的训练速度,限制了空中联邦学习在大型网络场景中的应用。
技术实现思路
1、本申请提供了一种分层空中联邦学习控制方法及装置,用于解决现有的大型空中联邦学习网络训练效率低的技术问题。
2、为解决上述技术问
3、根据小区内多个边缘设备到其基站,各小区基站到聚合中心的分层空中联邦学习的网络架构,获取所述网络架构中的边缘设备的数据信息、第一信道信息和第二信道信息,其中,所述边缘设备的数据信息为边缘设备本地梯度均值和标准差,第一信道信息为所述网络架构中各个边缘设备到基站的信道信息,所述第二信道信息为各个基站到所述聚合中心的信道信息;
4、根据所述边缘设备信息、第一信道信息和所述第二信道信息,构建通信参数优化模型,以通过所述通信参数优化模型,利用交替优化算法确定各个边缘设备和各个基站的发射功率参数和聚合中心的降噪因子,其中,所述降噪因子用于所述聚合中心对接收到的模型学习信号进行降噪处理;
5、将计算得到的传输功率参数分别反馈给对应的边缘设备及基站,以使得各个边缘设备和各个基站在同资源块同时传输的条件下,均按照当前接收到的发射功率参数进行模型学习信号的传输。
6、优选地,所述各个边缘设备和各个基站在同资源块同时传输的条件下,均按照当前接收到的发射功率参数进行模型学习信号的传输,然后在聚合中心端根据降噪因子对模型学习信号进行降噪处理后,得到最终的模型学习信息,具体包括:
7、边缘设备根据接收到的发射功率参数,将由本地的设备模型得到的设备梯度信号通过空中计算发送给所属的目标基站,以使得所述目标基站根据接收到的设备梯度信号,对本地的小区模型进行更新或将所述设备梯度信号聚合成基站梯度数据再上传至聚合中心,聚合中心利用降噪因子将聚合的基站梯度数据进行降噪处理获得全局梯度数据,以用于对所述聚合中心的全局模型进行更新。
8、优选地,所述通信参数优化模型具体为:
9、
10、式中,代表边缘设备的发射功率,代表基站的发射功率,代表在聚合中心端的降噪因子,表示学习率,b代表梯度方差,表示损失函数光滑度,为聚合误差表征,表示梯度的维度,n为全局迭代次数,为第一轮全局迭代损失函数减去全局最优损失函数的差值,代表初始化最优间隙。
11、优选地,通过所述通信参数优化模型,利用交替优化算法确定各个边缘设备和各个基站的发射功率参数和聚合中心的降噪因子具体包括:
12、根据当前的发射功率参数和降噪因子,结合聚合误差表征计算式,计算第一聚合误差表征;
13、计算所述第一聚合误差表征与第二聚合误差表征的相对差,其中,所述第二聚合误差表征为基于上一交替优化轮次的发射功率参数和降噪因子,结合所述聚合误差表征计算式得到的;
14、若所述相对差小于预设的容忍阈值或迭代次数达到预设上限时,则以当前的输出结果,确定各个边缘设备和各个基站的发射功率参数和降噪因子。
15、优选地,所述聚合误差表征计算式具体为:
16、
17、式中,代表边缘设备的发射功率,代表基站的发射功率,代表在聚合中心端的降噪因子,为聚合误差表征,n为迭代次数,代表设备到基站的信道系数,代表其他小区的设备到基站的信道系数,代表其他小区的设备到其关联基站的信道系数,上标代表共轭转置,表示梯度的标准差,代表基站到聚合中心的信道系数。
18、本申请第二方面提供了一种分层空中联邦学习控制装置,包括:
19、信道信息获取单元,用于根据小区内多个边缘设备到其基站,各小区基站到聚合中心的分层空中联邦学习的网络架构,获取所述网络架构中的边缘设备的数据信息、第一信道信息和第二信道信息,其中,所述边缘设备的数据信息为边缘设备本地梯度均值和标准差,第一信道信息为所述网络架构中各个边缘设备到基站的信道信息,所述第二信道信息为各个基站到所述聚合中心的信道信息;
20、通信参数优化单元,用于根据所述边缘设备的数据信息、第一信道信息和所述第二信道信息,构建通信参数优化模型,以通过所述通信参数优化模型,利用交替优化算法确定各个边缘设备和各个基站的发射功率参数和聚合中心的降噪因子,其中,所述降噪因子用于所述聚合中心对接收到的模型学习信号进行降噪处理;
21、通信控制单元,用于将计算得到的传输功率参数分别反馈给对应的边缘设备及基站,以使得各个边缘设备和各个基站在同资源块同时传输的条件下,均按照当前接收到的发射功率参数进行模型学习信号的传输。
22、优选地,所述通信控制单元具体用于:
23、将计算得到的传输功率参数分别反馈给对应的边缘设备及基站,以使得边缘设备根据接收到的发射功率参数,将由本地的设备模型得到的设备梯度信号通过空中计算发送给所属的目标基站,以使得所述目标基站根据接收到的设备梯度信号,对本地的小区模型进行更新或将所述设备梯度信号聚合成基站梯度数据再上传至聚合中心,聚合中心利用降噪因子将聚合的基站梯度数据进行降噪处理获得全局梯度数据,以用于对所述聚合中心的全局模型进行更新。
24、优选地,所述通信参数优化模型具体为:
25、
26、式中,代表边缘设备的发射功率,代表基站的发射功率,代表在聚合中心端的降噪因子,表示学习率,b代表梯度方差,表示损失函数光滑度,为聚合误差表征,表示梯度的维度,n为全局迭代次数,为第一轮全局迭代损失函数减去全局最优损失函数的差值,代表初始化最优间隙。
27、优选地,所述通信参数优化单元具体用于:
28、根据所述边缘设备的数据信息、第一信道信息和所述第二信道信息,构本文档来自技高网...
【技术保护点】
1.一种分层空中联邦学习控制方法,其特征在于,包括:
2.根据权利要求1所述的一种分层空中联邦学习控制方法,其特征在于,所述各个边缘设备和各个基站在同资源块同时传输的条件下,均按照当前接收到的发射功率参数进行模型学习信号的传输,然后在聚合中心端根据降噪因子对模型学习信号进行降噪处理后,得到最终的模型学习信息,具体包括:
3.根据权利要求1所述的一种分层空中联邦学习控制方法,其特征在于,所述通信参数优化模型具体为:
4.根据权利要求1所述的一种分层空中联邦学习控制方法,其特征在于,通过所述通信参数优化模型,利用交替优化算法确定各个边缘设备和各个基站的发射功率参数和聚合中心的降噪因子具体包括:
5.根据权利要求4所述的一种分层空中联邦学习控制方法,其特征在于,所述聚合误差表征计算式具体为:
6.一种分层空中联邦学习控制装置,其特征在于,包括:
7.根据权利要求6所述的一种分层空中联邦学习控制装置,其特征在于,所述通信控制单元具体用于:
8.根据权利要求6所述的一种分层空中联邦学习控制装置,其特征在于,
9.根据权利要求6所述的一种分层空中联邦学习控制装置,其特征在于,所述通信参数优化单元具体用于:
10.根据权利要求9所述的一种分层空中联邦学习控制装置,其特征在于,所述聚合误差表征计算式具体为:
...【技术特征摘要】
1.一种分层空中联邦学习控制方法,其特征在于,包括:
2.根据权利要求1所述的一种分层空中联邦学习控制方法,其特征在于,所述各个边缘设备和各个基站在同资源块同时传输的条件下,均按照当前接收到的发射功率参数进行模型学习信号的传输,然后在聚合中心端根据降噪因子对模型学习信号进行降噪处理后,得到最终的模型学习信息,具体包括:
3.根据权利要求1所述的一种分层空中联邦学习控制方法,其特征在于,所述通信参数优化模型具体为:
4.根据权利要求1所述的一种分层空中联邦学习控制方法,其特征在于,通过所述通信参数优化模型,利用交替优化算法确定各个边缘设备和各个基站的发射功率参数和聚合中心的降噪因子...
【专利技术属性】
技术研发人员:姚剑萍,何达舜,许杰,方毅,韩国军,
申请(专利权)人:广东工业大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。