System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于无线空中计算的分布式拜占庭容错方法技术_技高网

基于无线空中计算的分布式拜占庭容错方法技术

技术编号:41536624 阅读:11 留言:0更新日期:2024-06-03 23:15
本发明专利技术公开一种基于无线空中计算的分布式拜占庭容错方法。为提升无线数据中心网络的安全性,本发明专利技术利用数据中心可访问全局数据集的特性,通过设计数据集分配策略,在边缘服务器端进行冗余计算以实现对拜占庭攻击的鲁棒性。同时为进一步减少计算、通信开销,本发明专利技术结合空中计算技术实现无线数据的快速聚合以完成分布式学习任务。空中计算不同于传统通信、计算分离的聚合方案,它是一种利用无线多址信道的波形叠加特性,在空中实现权重求和函数计算的技术。具体来说,空中计算允许本地模型同频同时传输,即所有边缘服务器共享整个频谱,从而克服大规模访问导致的高时延的问题并降低通信、计算开销,以达到快速模型聚合的目的。

【技术实现步骤摘要】

本专利技术涉及一种基于无线空中计算的安全数据中心网络的设计方法,属于无线通信。


技术介绍

1、近年来,随着大数据、云计算和边缘计算技术的日益成熟,海量具有先进感知、通信和计算技术的边缘设备得到了广泛部署。而产生于这些边缘设备的海量用户数据又进一步促进了人工智能技术在各种新兴智能服务中的应用,例如智慧城市、自动驾驶和智慧医疗等。然而,由于计算资源有限,单个实体往往难以实现对大容量数据集的有效利用,因而严重阻碍了数据驱动型技术的发展。分布式数据中心网络作为一种全新的分布式学习架构,通过将大容量数据集分配至多个边缘服务器,充分调度其计算、存储资源以实现并行计算,成为打破计算壁垒,弹性利用网络中各类计算、存储资源的先进范式。此外,随着无线通信技术的迅速发展,无线数据中心网络以其灵活组网的特性成为一种全新的数据中心网络架构。无线数据中心网络在传统网络固有的底层架构和路由的基础上提供了自适应配置功能,能更好地适应上层服务对动态流量传输的需求,有效缓解了网络拥塞问题,也降低了运营成本。

2、无线数据中心网络凭借其分布式特性为大容量数据的处理提供了有效的解决方案,但是同时也导致其容易受到错误和恶意攻击(如拜占庭攻击)的影响。在实际复杂多变的网络环境中,各个边缘服务器上传的模型更新并非是完全可靠的,甚至可能是敌对的。在拜占庭攻击场景下,恶意的边缘设备通过上传错误的本地模型,以误导整个分布式学习过程,进而导致拜占庭失败。然而,目前实现拜占庭容错性的解决方案主要是基于鲁棒聚合机制,例如几何中值,但是由此带来的巨额计算、通信开销是当前无线数据中心网络难以承载的。

3、传统的安全分布式鲁棒聚合算法虽然在分布式数据中心网络中实现了对拜占庭攻击的鲁棒性,但是对于通信、计算高效的拜占庭鲁棒机制的设计仍然缺乏有效的解决方案。此外,现有的鲁棒聚合技术并不能适用于当前基于空中计算的分布式数据中心网络,并且空中计算赋能的无线分布式学习系统的安全性问题仍缺乏研究。由此可见,通过结合现代无线通信理论和安全性理论,在保障模型安全性的前提下,节省计算和通信开销,是可信无线分布式数据中心网络的重要目标。


技术实现思路

1、本专利技术要解决的技术问题是:针对无线分布式数据中心网络中存在的恶意边缘服务器的问题,缺乏通信、计算高效的解决方案。

2、为了解决上述技术问题,本专利技术的技术方案是提供了一种基于无线空中计算的分布式拜占庭容错方法,其特征在于,包括以下步骤:

3、步骤1、本地数据集分配:中心服务器将原始的大容量数据集平均分成k个不相交的的子数据集并依据随机伯努利编码生成数据分配矩阵e∈{0,1}k×k,基于数据分配矩阵e将各个子数据集分配给边缘服务器:

4、步骤2、本地更新:每个边缘服务器k基于分配的每个本地数据集以及接收到的第t-1轮迭代后的全局模型ωt-1,通过小批量随机梯度下降算法得到个维度为d的本地模型更新其中,记为分配给第k个边缘服务器的所有子数据集的集合,eki为数据分配矩阵e的第k行中第i个元素;

5、步骤3、本地量化:各个边缘服务器k分别对计算得到的各个模型更新进行1比特量化,得到个量化后的模型更新即:

6、步骤4、本地多数投票:各个边缘服务器k将量化后的个模型更新通过多数投票机制压缩为一个模型更新向量通过本地多数投票机制选取出中占多数的结果;

7、步骤5、本地模型上传:各个边缘服务器k基于导频估计的信道状态信息以及中心服务器设计的功率传输因子ρt,利用信道求逆的方案设计传输信号;

8、步骤6、空中多数投票:各个边缘服务器通过时钟提前(timing advance)技术同步地将本地模型上传至中心服务器;中心服务器利用多址信道的波形叠加性质,采用空中计算技术对来自各个边缘服务器的更新进行聚合,聚合得到的信号rt后,再通过多数投票解码出全局模型vv;

9、步骤7、全局模型更新:中心服务器基于解码得到的全局模型vt,通过梯度下降的方法更新得到全局模型ωt,即

10、ωt=ωt-1-ηvt

11、式中,η为学习率。

12、步骤8、下载全局模型:中心服务器将更新完成的全局模型ωt以及基于各边缘服务器的信道状态信息设计的功率传输因子ρt+1广播至各个边缘服务器,并重复步骤2到步骤8以开始下一次迭代训练。

13、优选地,步骤1中,数据分配矩阵e的第i行中第j个元素表示为eij,则有:

14、

15、其中,p∈[0,1],为预先设置的分配概率以抵抗来自恶意边缘服务器的拜占庭攻击。

16、优选地,步骤1中,中心服务器依照如下数据分配准则分配子数据集至全部边缘设备:若数据分配矩阵e的第k行第j个元素值为1,即ekj=1,则将第j个子数据集分配给第k个边缘服务器,反之则不分配。

17、优选地,步骤2中,对于本地模型更新有:

18、

19、其中:表示从子数据集随机选取的规模为a的小批量;表示第t轮迭代时基于样本ξ和全局模型ωt-1的样本梯度。

20、优选地,步骤3中,量化后的模型更新有:

21、

22、其中:sign(·)表示符号函数,用于提取模型更新中各个元素的符号信息,并记录在中;d表示传输模型的维度。

23、优选地,步骤4中,模型更新向量有:

24、

25、其中:d表示传输模型的维度。

26、优选地,步骤5中,设计的传输信号的基带等效模型为:

27、

28、其中,表示边缘服务器k的传输信号;表示从边缘服务器k到中心服务器的信道响应;h表示共轭转置操作;

29、给定各个边缘服务器的最大传输功率p0,其传输功率满足:

30、

31、其中,表示边缘服务器k的传输功率。

32、优选地,步骤6中,聚合得到的信号rt表示为:为功率为n0的接收机噪声;解码出的全局模型vt表示为:vt=sign(rt)。

33、优选地,步骤7中,全局模型ωt采用下式更新:

34、ωt=ωt-1-ηvt

35、式中,η为学习率。

36、优选地,步骤8中,功率传输因子ρt+1采用下式计算:

37、为提升无线数据中心网络的安全性,本专利技术利用数据中心可访问全局数据集的特性,通过设计数据集分配策略,在边缘服务器端进行冗余计算以实现对拜占庭攻击的鲁棒性。同时为进一步减少计算、通信开销,本专利技术结合空中计算技术实现无线数据的快速聚合以完成分布式学习任务。空中计算不同于传统通信、计算分离的聚合方案,它是一种利用无线多址信道的波形叠加特性,在空中实现权重求和函数计算的技术。具体来说,空中计算允许本地模型同频同时传输,即所有边缘服务器共享整个频谱,从而克服大规模访问导致的高时延的问题并降低通信、计算开销,以达到快速模型聚合的目的。

38、本专利技术提出了一种基于空中计本文档来自技高网...

【技术保护点】

1.一种基于无线空中计算的分布式拜占庭容错方法,其特征在于,包括以下步骤:

2.如权利要求1所述的一种基于无线空中计算的分布式拜占庭容错方法,其特征在于,步骤1中,数据分配矩阵E的第i行中第j个元素表示为Eij,则有:

3.如权利要求2所述的一种基于无线空中计算的分布式拜占庭容错方法,其特征在于,步骤1中,中心服务器依照如下数据分配准则分配子数据集至全部边缘设备:若数据分配矩阵E的第k行第j个元素值为1,即Ekj=1,则将第j个子数据集分配给第k个边缘服务器,反之则不分配。

4.如权利要求2所述的一种基于无线空中计算的分布式拜占庭容错方法,其特征在于,步骤2中,对于本地模型更新有:

5.如权利要求2所述的一种基于无线空中计算的分布式拜占庭容错方法,其特征在于,步骤3中,量化后的模型更新有:

6.如权利要求2所述的一种基于无线空中计算的分布式拜占庭容错方法,其特征在于,步骤4中,模型更新向量有:

7.如权利要求2所述的一种基于无线空中计算的分布式拜占庭容错方法,其特征在于,步骤5中,设计的传输信号的基带等效模型为:

8.如权利要求7所述的一种基于无线空中计算的分布式拜占庭容错方法,其特征在于,步骤6中,聚合得到的信号rt表示为:为功率为N0的接收机噪声;解码出的全局模型vt表示为:vt=sign(rt)。

9.如权利要求1所述的一种基于无线空中计算的分布式拜占庭容错方法,其特征在于,步骤7中,全局模型ωt采用下式更新:

10.如权利要求1所述的一种基于无线空中计算的分布式拜占庭容错方法,其特征在于,步骤8中,功率传输因子ρt+1采用下式计算:

...

【技术特征摘要】

1.一种基于无线空中计算的分布式拜占庭容错方法,其特征在于,包括以下步骤:

2.如权利要求1所述的一种基于无线空中计算的分布式拜占庭容错方法,其特征在于,步骤1中,数据分配矩阵e的第i行中第j个元素表示为eij,则有:

3.如权利要求2所述的一种基于无线空中计算的分布式拜占庭容错方法,其特征在于,步骤1中,中心服务器依照如下数据分配准则分配子数据集至全部边缘设备:若数据分配矩阵e的第k行第j个元素值为1,即ekj=1,则将第j个子数据集分配给第k个边缘服务器,反之则不分配。

4.如权利要求2所述的一种基于无线空中计算的分布式拜占庭容错方法,其特征在于,步骤2中,对于本地模型更新有:

5.如权利要求2所述的一种基于无线空中计算的分布式拜占庭容错方法,其特征在于,步骤3中,量化后的模...

【专利技术属性】
技术研发人员:石远明杨禹涵
申请(专利权)人:上海科技大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1