System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术属于联邦学习传输优化,具体涉及一种联邦学习系统的重传次数与发射功率分配方法及梯度重传方法。
技术介绍
1、随着通感算一体化框架的流行,联邦学习越来越受到学术界和业界的重视。联邦学习框架可以避免用户原始数据的泄露从而保护用户终端的隐私,充分利用用户的算力和存储空间,符合通感算一体化的发展趋势。然而,复杂多变的无线通信环境降低了用户的可靠性,当通信环境变差时,用户上传的本地梯度质量严重降低,到达边缘服务器时已经无法被解码,从而被丢弃,不能被边缘服务器利用;越多用户的本地梯度被丢弃,全局模型的训练效果越差,表现为训练很难收敛或者不收敛。因此,有必要提升无线通信环境中的用户上传本地梯度时的可靠性。针对以上问题,现有方案多采用优化传输带宽分配和功率分配、优化用户调度即挑选信道条件好的用户等方法;在少数采用重传以提高用户可靠性的方案中,所有用户都采用同样的固定的重传次数。但现有方案中,仍然存在以下问题:
2、1、优化传输带宽分配和功率分配的方案往往是从传输能量消耗和传输时延的角度考虑,缺乏对联邦学习训练效果的关注;
3、2、通过用户调度的优化挑选信道条件好的用户虽然可以使本地梯度的传输具有更高的可靠性,但是会使得全局模型的更新偏向于这些用户的本地模型,而信道条件差的用户则无法对全局模型的更新产生贡献,导致全局模型产生偏差,无法代表联邦学习系统内的所有用户;
4、3、无线通信资源的稀缺决定了用户不能无限制地占用通信时隙,用户集群可以使用的重传时隙的总量是有限的,当重传次数固定时,信道条件好的用户使
技术实现思路
1、本专利技术的主要目的在于克服现有技术的缺点与不足,提出一种联邦学习系统的重传次数与发射功率分配方法及梯度重传方法。
2、为了达到上述目的,本专利技术采用以下技术方案:
3、一种联邦学习系统的重传次数与发射功率分配方法,包括以下步骤:
4、s1、每个用户利用上行信道向边缘服务器发送已知的训练序列;
5、s2、边缘服务器根据接收到的每个用户发送的训练序列估计用户的上行信道增益,储存每个用户的上行信道增益;
6、s3、边缘服务器利用用户的信道增益、给定的用户能耗限制和给定的总重传次数限制,求解优化问题,进行用户最大重传次数和每个重传回合的发射功率的分配;
7、s4、边缘服务器广播包含所有用户的最大重传次数和每个重传回合的发射功率的重传参数信息;
8、s5、用户从广播信息中获得自己被允许使用的最大重传次数和每个重传回合的发射功率。
9、本专利技术还包括一种联邦学习系统的梯度重传方法,包括:
10、采用本专利技术提供的重传次数与发射功率分配方法为用户分配最大重传次数和每个重传回合的发射功率;
11、用户读取储存在用户存储单元中的最大重传次数和每个重传回合的发射功率,按照设定的发射功率,通过独立不相干的上行信道向边缘服务器上传本地梯度;
12、若边缘服务器成功接收到用户的本地梯度,则边缘服务器向用户回传传输成功信号ack,指示用户不需要再进行重传;
13、若边缘服务器没有成功接收到用户的本地梯度,边缘服务器向用户回传传输失败信号nack,指示用户按照设定的发射功率重新上传本地梯度到边缘服务器,直到用户重传次数达到最大重传次数或边缘服务器成功接收到用户的本地梯度;
14、若用户重传次数达到最大重传次数后,边缘服务器仍未成功接收到用户的本地梯度,则边缘服务器将聚合用户上一次成功传输的本地梯度。
15、本专利技术还包括一种联邦学习系统,包括:边缘服务器以及若干个用户,用户和边缘服务器之间的上行信道为无线通信信道;
16、边缘服务器布设在基站中,包括计算单元、存储单元、训练单元以及发送单元;
17、用户包括存储单元、训练单元以及发送单元,为无线通信环境中的移动终端;
18、边缘服务器和用户按照联邦学习框架协作完成指定任务,任务需要使用的原始数据储存在用户中,边缘服务器和其他用户无法接触到用户的原始数据;
19、边缘服务器和用户之间进行本地梯度和全局模型更新的交换,用户利用本地原始数据和边缘服务器广播的全局模型更新本地模型,计算本地模型的随机梯度,边缘服务器利用用户上传的本地梯度更新全局模型;
20、联邦学习系统的运行包括以下步骤:
21、s101、边缘服务器按照设定的比例随机选取若干个用户参与本次迭代;
22、s102、若为初次全局迭代,则边缘服务器和用户进行初始化;
23、s103、被选择的用户通过上行信道向边缘服务器发送已知的训练序列;
24、s104、边缘服务器接收被选择用户发送的训练序列,估计并储存用户信道增益;
25、s105、边缘服务器根据用户的信道增益和其他限制求解优化问题,分配用户最大重传次数和每个重传回合的发射功率;
26、s106、边缘服务器广播包含用户最大重传次数和每个重传回合的发射功率的重传参数信息块和全局模型参数;
27、s107、用户从广播的信息块中查询并记录自己分配到的最大重传次数和每个重传回合的发射功率;
28、s108、用户利用边缘服务器广播的全局模型参数和本地数据集,进行本地训练并计算本地模型的随机梯度;
29、s109、用户读取分配到的最大重传次数和每个重传回合的发射功率;
30、s110、用户判断当前传输次数是否超过最大重传次数;若重传次数未超过最大重传次数,则用户根据自己分配到的发射功率上传相同的本地梯度,传输次数加一,否则结束重传;
31、s111、边缘服务器判断用户本地梯度的上传是否成功;若用户上传失败,边缘服务器回传nack信号,用户重复步骤s110;若用户上传成功,边缘服务器回传ack信号,重传结束;
32、s112、边缘服务器聚合全部本地梯度,更新全局模型参数;
33、s113、若全局模型收敛,则本次联邦学习结束;若全局模型不收敛,则重复步骤s101-s112,直至全局模型收敛。
34、本专利技术与现有技术相比,具有如下优点和有益效果:
35、1、本专利技术通过将已在通信领域得到广泛应用的重传技术与联邦学习结合,充分提高联邦学习系统中的用户在无线通信环境中参与训练的可靠性,进而保证联邦学习系统在复杂多变的无线通信环境中仍然能够取得较优的训练效果,此外,采用已经过充分研究的重传技术增强了本专利技术的可行性。
36、2、本专利技术充分利用联邦学习系统中用户和边缘服务器的交互性,使得服务器能够在每个全局迭代回合都获得用户与边缘服务器之间的上行信道的最新信息,从而做到利用最新的信道信息对用户的最大重传次数和每个重传回合的发射功率的自适应调整,保证了无线通信环境中的联邦学习系统的训练本文档来自技高网...
【技术保护点】
1.一种联邦学习系统的重传次数与发射功率分配方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的一种联邦学习系统的重传次数与发射功率分配方法,其特征在于,联邦学习系统包括边缘服务器以及若干个用户,用户和边缘服务器之间的上行信道为无线通信信道;
3.根据权利要求2所述的一种联邦学习系统的重传次数与发射功率分配方法,其特征在于,步骤S1具体为:
4.根据权利要求3所述的一种联邦学习系统的重传次数与发射功率分配方法,其特征在于,步骤S2具体为:
5.根据权利要求4所述的一种联邦学习系统的重传次数与发射功率分配方法,其特征在于,步骤S3具体为:
6.根据权利要求5所述的一种联邦学习系统的重传次数与发射功率分配方法,其特征在于,步骤S4具体为:
7.根据权利要求6所述的一种联邦学习系统的重传次数与发射功率分配方法,其特征在于,步骤S5具体为:
8.一种联邦学习系统的梯度重传方法,其特征在于,包括:
9.根据权利要求8所述的梯度重传方法,其特征在于,用户采用追加合并的混合自动重发请求重传协议
10.一种联邦学习系统,其特征在于,包括:边缘服务器以及若干个用户,用户和边缘服务器之间的上行信道为无线通信信道;
...【技术特征摘要】
1.一种联邦学习系统的重传次数与发射功率分配方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的一种联邦学习系统的重传次数与发射功率分配方法,其特征在于,联邦学习系统包括边缘服务器以及若干个用户,用户和边缘服务器之间的上行信道为无线通信信道;
3.根据权利要求2所述的一种联邦学习系统的重传次数与发射功率分配方法,其特征在于,步骤s1具体为:
4.根据权利要求3所述的一种联邦学习系统的重传次数与发射功率分配方法,其特征在于,步骤s2具体为:
5.根据权利要求4所述的一种联邦学习系统的重传次数与发射功率分配方法,其...
【专利技术属性】
技术研发人员:陈芳炯,林晓涵,刘元,官权升,
申请(专利权)人:华南理工大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。