【技术实现步骤摘要】
本专利技术涉及移动边缘计算领域，具体涉及一种异构移动边缘计算网络中高能效客户端采样的联邦学习方法。
技术介绍
1、随着移动网络的快速发展，移动客户端/设备(如智能手机、智能平板)产生的数据正呈现爆炸式增长趋势。传统云计算利用功能强大的云服务器进行数据处理和模型训练。但这种以云为中心的计算模式可能会带来隐私暴露和网络拥塞等难以承受的问题。为应对这些挑战，联邦学习是一个可行的解决方案，其仅需将本地更新的模型参数上传到边缘服务器进行全局模型聚合。这样，客户端和边缘服务器只交换轻量级模型参数，避免原始数据的传输，从而实现数据隐形和缓解网络拥塞。
2、尽管联邦学习在移动边缘计算网络中具有上述优势。然而，处于网络边缘的客户端通常是异构的。这种异构性体现在多个方面。首先，移动客户端之间存在系统异构性，其特点是中央处理单元时钟速度和传输速率的差异。联邦学习的落后者会延长每一轮聚合的时间。其次，不同客户端的数据质量不一致，从而对模型的收敛性产生负面影响。系统和数据的异质性会使模型收敛缓慢，从而消耗不必要的能量。又由于移动边缘计算网络的带宽资源有限，每轮通信只允许部分客户端参与。因此，有必要研究异构移动边缘计算网络中联邦学习的客户端采样方法。
技术实现思路
1、本专利技术的目的是提供一种异构移动边缘计算网络中高能效客户端采样的联邦学习方法，包括以下步骤：
2、1)建立异构移动边缘计算系统。
3、所述异构移动边缘计算系统包括参数服务器，以及个存在系统异构性的移动客户端
4、2)参数服务器根据移动客户端的信息生成采样策略并设定通信次数t＝1。
5、3)参数服务器根据采样策略从个移动客户端中选出个参与联邦学习训练的移动客户端，为正整数，且
6、4)所述个移动客户端在本地进行更新，得到更新后的模型参数，并将更新后的模型参数传输至参数服务器。
7、5)参数服务器对更新后的模型参数进行加权聚合，得到全局模型的参数。
8、6)判断全局模型的参数是否达到收敛条件，若是，则输出参数服务器中的全局模型的参数，若否，则令t＝t+1，并返回步骤3)。
9、进一步，所述个移动客户端之间的系统异构性包括移动客户端的cpu时钟速度不同、移动客户端与参数服务器之间的传输速度不同、移动客户端的数据量不同和/或移动客户端的类别不平衡。
10、进一步，所述移动客户端的cpu时钟速度不同如下所示：
11、
12、式中，i、j均为移动客户端序号。fi、fj分别为移动客户端i、移动客户端j的cpu时钟速度。
13、所述移动客户端与参数服务器之间的传输速度不同如下所示：
14、
15、式中，分别为移动客户端i、移动客户端j与参数服务器之间的传输速度。
16、所述移动客户端的数据量不同如下所示：
17、
18、式中，di、dj分别表示移动客户端i、移动客户端j所拥有的数据。|·|表示数量。
19、所述移动客户端的类别不平衡如下所示：
20、
21、式中，m、n均表示数据的类别。y表示数据的总类别。
22、进一步，所述参数服务器根据移动客户端的信息生成采样策略的步骤包括：
23、2.1)参数服务器向移动客户端发送联邦学习请求信息，愿意参与联邦学习的客户端向服务器发送加密后的客户端数据信息。
24、2.2)参数服务器对愿意参与联邦学习的客户端进行量化，计算每个愿意参与联邦学习的客户端被选择的概率，并组成采样策略
25、进一步，所述客户端数据信息包括移动客户端的数据量|di|、移动客户端的标签平衡度移动客户端的数据分布均值移动客户端与参数服务器之间的传输速率ri、移动客户端的cpu时钟速度fi。
26、进一步，所述参数服务器对愿意参与联邦学习的客户端进行量化的步骤包括：
27、2.2.1)计算出各个移动客户端的计算能力得分、通信能力得分和数据质量得分，如下所示：
28、
29、
30、
31、式中，i为移动客户端序号。表示计算能力得分。表示移动客户端i在本地更新的延迟。表示移动客户端i在本地更新消耗的能量。表示通信能力得分。表示移动客户端i将参数数据传输至参数服务器的延迟。表示移动客户端i将参数数据传输至参数服务器消耗的能量。表示数据质量得分。γ和β均是超参数。表示移动客户端i的数据分布均值。表示移动客户端i的标签平衡度。di表示移动客户端i所拥有的数据。|·|表示数量。表示移动客户端本地更新延迟的最大值。表示移动客户端本地更新消耗的最大值。表示移动客户端将数据传输至参数服务器的延迟的最大值。表示移动客户端将数据传输至参数服务器的消耗的最大值。
32、2.2.2)对移动客户端的计算能力得分、通信能力得分和数据质量得分进行归一化处理，如下所示：
33、
34、式中，表示移动客户端i归一化后的得分。表示得分类别。
35、2.2.3)通过加权计算出移动客户端被采样的概率，如下所示：
36、
37、式中，pi表示移动客户端被采样的概率。ω1、ω2和ω3均是超参数。分别表示移动客户端i归一化后的计算能力得分、通信能力得分和数据质量得分。
38、其中，中间参数如下所示：
39、
40、2.2.4)基于每个愿意参与联邦学习的客户端被选择的概率，组成采样策略
41、进一步，所述移动客户端i在本地更新的延迟如下所示：
42、
43、式中，表示cpu时钟周期。fi表示移动客户端i的cpu时钟速度。表示在第t轮通信时，参数服务器根据概率分布选出的个移动客户端的集合。
44、所述移动客户端i在本地更新消耗的能量如下所示：
45、
46、式中，ρi表示移动客户端i的有效电容。
47、所述移动客户端i将参数数据传输至参数服务器的延迟如下所示：
48、
49、式中，表示参数数据的大小。表示移动客户端i与参数服务器之间的传输速度。
50、所述移动客户端i将参数数据传输至参数服务器消耗的能量如下所示：
51、
52、式中，qi表示移动客户端i的发射功率。
53、进一步，所述个移动客户端在本地进行更新，得到更新后的模型参数的计算公式如下所示：
54、
55、式中，i为移动客户端序号。分别表示移动客户端i在第t、t-1轮通信时的模型参数。λ是学习率，表示移动客户端i在第t-1轮通信时模型的损失函数的梯度。表示在第t轮通信时，参数服务器根据概率分布选出的个移动客户端的集合。
56、进一步，所述参数服务器对更新后的模型参数进行加权聚合，得到全局模型的参数的计算本文档来自技高网...
【技术保护点】
1.一种异构移动边缘计算网络中高能效客户端采样的联邦学习方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的一种异构移动边缘计算网络中高能效客户端采样的联邦学习方法，其特征在于，所述个移动客户端之间的系统异构性包括移动客户端的CPU时钟速度不同、移动客户端与参数服务器之间的传输速度不同、移动客户端的数据量不同和/或移动客户端的类别不平衡。
3.根据权利要求2所述的一种异构移动边缘计算网络中高能效客户端采样的联邦学习方法，其特征在于，所述移动客户端的CPU时钟速度不同如下所示：
4.根据权利要求1所述的一种异构移动边缘计算网络中高能效客户端采样的联邦学习方法，其特征在于，所述参数服务器根据移动客户端的信息生成采样策略的步骤包括：
5.根据权利要求1所述的一种异构移动边缘计算网络中高能效客户端采样的联邦学习方法，其特征在于，所述客户端数据信息包括移动客户端的数据量|Di|、移动客户端的标签平衡度移动客户端的数据分布均值移动客户端与参数服务器之间的传输速率Ri、移动客户端的CPU时钟速度fi。
6.根据权利要求1所述的一
7.根据权利要求6所述的一种异构移动边缘计算网络中高能效客户端采样的联邦学习方法，其特征在于，所述移动客户端i在本地更新的延迟如下所示：
8.根据权利要求1所述的一种异构移动边缘计算网络中高能效客户端采样的联邦学习方法，其特征在于，所述个移动客户端在本地进行更新，得到更新后的模型参数的计算公式如下所示：
9.根据权利要求1所述的一种异构移动边缘计算网络中高能效客户端采样的联邦学习方法，其特征在于，所述参数服务器对更新后的模型参数进行加权聚合，得到全局模型的参数的计算公式如下所示：
10.根据权利要求9所述的一种异构移动边缘计算网络中高能效客户端采样的联邦学习方法，其特征在于，全局模型的损失函数如下所示：
...【技术特征摘要】
1.一种异构移动边缘计算网络中高能效客户端采样的联邦学习方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的一种异构移动边缘计算网络中高能效客户端采样的联邦学习方法，其特征在于，所述个移动客户端之间的系统异构性包括移动客户端的cpu时钟速度不同、移动客户端与参数服务器之间的传输速度不同、移动客户端的数据量不同和/或移动客户端的类别不平衡。
3.根据权利要求2所述的一种异构移动边缘计算网络中高能效客户端采样的联邦学习方法，其特征在于，所述移动客户端的cpu时钟速度不同如下所示：
4.根据权利要求1所述的一种异构移动边缘计算网络中高能效客户端采样的联邦学习方法，其特征在于，所述参数服务器根据移动客户端的信息生成采样策略的步骤包括：
5.根据权利要求1所述的一种异构移动边缘计算网络中高能效客户端采样的联邦学习方法，其特征在于，所述客户端数据信息包括移动客户端的数据量|di|、移动客户端的标签平衡度移动客户端的数据分布均值移动客户端与...
【专利技术属性】
技术研发人员：李秀华，唐健，熊敏，张帧，王刚，郝金隆，范琪琳，杨正益，文俊浩，
申请(专利权)人：重庆大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。