基于联邦边缘学习的图像分类方法以及相关设备技术

技术编号:35836959 阅读:23 留言:0更新日期:2022-12-03 14:07
本申请涉及计算机技术领域,提供了一种基于联邦边缘学习的图像分类方法以及相关设备,该方法应用于联邦边缘学习系统,所述联邦边缘学习系统包括边缘服务器以及多个边缘设备,多个所述边缘设备与所述边缘服务器通过无线信道通信连接,通过多个边缘设备分别经过无线信道同时向边缘服务器发送第一传输信号,第一传输信号携带有以第一传输功率发送的本地模型参数和以第二传输功率注入的第一随机噪声,本申请实施例通过无线信道的叠加特性对所有边缘设备上传的模型参数进行汇总平均,提高图像分类方法中模型学习的收敛速度,同时注入噪声,加强隐私保护。加强隐私保护。加强隐私保护。

【技术实现步骤摘要】
基于联邦边缘学习的图像分类方法以及相关设备


[0001]本申请涉及计算机
,尤其涉及一种基于联邦边缘学习的图像分类方法以及相关设备。

技术介绍

[0002]在无线网络边缘融入人工智能,进行实时的分布式智能训练,是实现通信网络全面智能化升级的一个关键技术挑战。联邦学习凭借用户隐私和数据安全方面具有独特的优势,也获得了非常广泛的关注。在联邦学习中,各个边缘设备在边缘服务器的协调下,利用本地数据联合训练共享的机器学习模型。
[0003]对于计算机视觉领域中的图像分类技术,其在实际应用中对数据隐私的保护需求使得原始数据无法共享,多个数据源之间形成“数据孤岛”。基于联邦边缘学习的图像分类因此被提出,通过联邦学习方式训练分类模型,使得每个联邦学习的参与者能够从其他参与者的图像数据中获益,同时能够确保每个参与者的图像数据不离开本地,在保证了各方数据隐私的前提下成功解决了数据孤岛的问题。
[0004]然而,基于传统联邦边缘学习的图像分类方法,当存在过多边缘设备或需要较多迭代训练时,则存在通信开销大、模型训练效率慢等问题,另一方面,边缘设备上传的模型参数仍然存在有用信息,边缘服务器(或环境中的窃听者)可以从接收信息中恶意推断出边缘设备的私有信息。

技术实现思路

[0005]本申请实施例的主要目的在于提出一种基于联邦边缘学习的图像分类方法以及相关设备,通过无线信道的叠加特性对所有边缘设备上传的模型参数进行汇总平均,提高图像分类方法中模型学习的收敛速度,同时注入噪声,加强隐私保护。
[0006]为实现上述目的,本申请实施例的第一方面提出了一种基于联邦边缘学习的图像分类方法,所述方法应用于联邦边缘学习系统,所述联邦边缘学习系统包括边缘服务器以及多个边缘设备,多个所述边缘设备与所述边缘服务器通过无线信道通信连接,所述方法包括:
[0007]通过多个所述边缘设备分别获取本地图像样本数据,并对所述本地图像样本数据进行随机采样得到批量图像样本数据;
[0008]通过多个所述边缘设备分别基于所述批量图像样本数据对所述图像分类模型的模型参数进行更新,直至满足预设条件,将更新后的模型参数作为本轮迭代训练的本地模型参数;
[0009]通过多个所述边缘设备分别经过所述无线信道同时向所述边缘服务器发送第一传输信号,所述第一传输信号携带有以第一传输功率发送的所述本地模型参数和以第二传输功率注入的第一随机噪声;
[0010]通过所述边缘服务器接收由多个所述边缘设备同时发送的第一传输信号聚合而
成的第一接收信号,并根据所述第一接收信号确定下一轮迭代训练的全局模型参数;
[0011]通过多个所述边缘设备分别接收所述边缘服务器广播发送的所述全局模型参数,并根据所述全局模型参数对所述图像分类模型的模型参数进行更新处理,得到目标图像分类模型;
[0012]通过多个所述边缘设备分别获取待分类图像,将所述待分类图像输入所述目标图像分类模型,以通过所述目标图像分类模型得到所述待分类图像的分类结果。
[0013]根据本申请一些实施例提供的基于联邦边缘学习的图像分类方法,所述第一传输信号通过以下公式确定:
[0014][0015]其中,所述S
k,t
表示第k个所述边缘设备在第t轮迭代训练时向所述边缘服务器的第一传输信号,所述表示第k个所述边缘设备在第t轮迭代训练时获得的本地模型参数,所述n
k,t
表示第k个所述边缘设备在第t轮迭代训练使用的第一随机噪声,所述p
k,t
表示用于发送本地模型参数的第一传输功率,所述表示用于注入第一随机噪声n
k,t
的第二传输功率;
[0016]所述第一接收信号通过以下公式确定:
[0017][0018]其中,所述y
t
表示第t轮迭代训练的全局模型参数,所述h
k,t
表示第k个所述边缘设备与所述边缘服务器在第t轮迭代训练时的复数信道系数,所述z
t
为第二随机噪声,服从为第二随机噪声,服从为所述第二随机噪声的噪声功率,I为单位矩阵;
[0019]所述根据所述第一接收信号确定下一轮迭代训练的全局模型参数,所述方法还包括:
[0020]根据所述第一接收信号、所述边缘设备的数量以及预设的降噪因子,确定下一轮迭代训练的全局模型参数。
[0021]根据本申请一些实施例提供的基于联邦边缘学习的图像分类方法,所述方法还包括:
[0022]通过所述边缘设备以及所述边缘服务器分别获取预设的传输功率优化模型以及约束条件,所述约束条件包括所述边缘设备的最大发送功率约束以及平均发送功率约束;
[0023]在所述根据所述第一接收信号、所述边缘设备的数量以及预设的降噪因子,确定下一轮迭代训练的全局模型参数之前,所述方法还包括:
[0024]对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时的降噪因子;
[0025]在所述通过多个所述边缘设备分别经过所述无线信道同时向所述边缘服务器发送第一传输信号之前,所述方法还包括:
[0026]对所述传输功率优化模型进行求解处理,分别得到在所述约束条件下所述传输功率优化模型取得最优解时用于发送所述本地模型参数的第一传输功率以及第一随机噪声的第二传输功率;
[0027]所述传输功率优化模型通过以下公式确定:
[0028]其中,
[0029][0030][0031][0032][0033]C
t
=1



1)μγ
t

[0034]所述T表示迭代训练总次数,所述K表示参与联邦学习的边缘设备总数,所述η
t
表示第t次迭代训练的降噪因子,所述表示第k个所述边缘设备在第t次迭代训练时使用的第一随机噪声的噪声功率,所述L表示smoothness系数,所述γ
t
‑1为第t

1次迭代训练时的学习率,所述Ω表示所述边缘设备的本地迭代训练次数,所述表示预设的模型上界,所述μ为PL系数;
[0035]所述最大发送功率约束为:
[0036][0037]所述平均发送功率约束为:
[0038][0039]其中,所述表示第k个所述边缘设备对应的最大发送功率,所述表示第k个所述边缘设备对应的平均发送功率,所述T表示迭代训练的总次数,所述q表示所述边缘设备向所述边缘服务器传输数据时使用的符号数量。
[0040]根据本申请一些实施例提供的基于联邦边缘学习的图像分类方法,所述对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时的降噪因子,包括:
[0041]获取上一轮迭代训练中的第一传输功率以及第二传输功率;
[0042]基于上一轮迭代训练中的第一传输功率以及第二传输功率,对所述传输功率优化模型进行求解处理,得到在所述本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种基于联邦边缘学习的图像分类方法,其特征在于,所述方法应用于联邦边缘学习系统,所述联邦边缘学习系统包括边缘服务器以及多个边缘设备,多个所述边缘设备与所述边缘服务器通过无线信道通信连接,所述方法包括:通过多个所述边缘设备分别获取本地图像样本数据,并对所述本地图像样本数据进行随机采样得到批量图像样本数据;通过多个所述边缘设备分别基于所述批量图像样本数据对所述图像分类模型的模型参数进行更新,直至满足预设条件,将更新后的模型参数作为本轮迭代训练的本地模型参数;通过多个所述边缘设备分别经过所述无线信道同时向所述边缘服务器发送第一传输信号,所述第一传输信号携带有以第一传输功率发送的所述本地模型参数和以第二传输功率注入的第一随机噪声;通过所述边缘服务器接收由多个所述边缘设备同时发送的第一传输信号聚合而成的第一接收信号,并根据所述第一接收信号确定下一轮迭代训练的全局模型参数;通过多个所述边缘设备分别接收所述边缘服务器广播发送的所述全局模型参数,并根据所述全局模型参数对所述图像分类模型的模型参数进行更新处理,得到目标图像分类模型;通过多个所述边缘设备分别获取待分类图像,将所述待分类图像输入所述目标图像分类模型,以通过所述目标图像分类模型得到所述待分类图像的分类结果。2.根据权利要求1所述的基于联邦边缘学习的图像分类方法,其特征在于,所述第一传输信号通过以下公式确定:其中,所述S
k,t
表示第k个所述边缘设备在第t轮迭代训练时向所述边缘服务器的第一传输信号,所述表示第k个所述边缘设备在第t轮迭代训练时获得的本地模型参数,所述n
k,t
表示第k个所述边缘设备在第t轮迭代训练使用的第一随机噪声,所述p
k,t
表示用于发送本地模型参数的第一传输功率,所述表示用于注入第一随机噪声n
k,t
的第二传输功率;所述第一接收信号通过以下公式确定:其中,所述y
t
表示第t轮迭代训练的全局模型参数,所述h
k,t
表示第k个所述边缘设备与所述边缘服务器在第t轮迭代训练时的复数信道系数,所述z
t
为第二随机噪声,服从为第二随机噪声,服从为所述第二随机噪声的噪声功率,I为单位矩阵;所述根据所述第一接收信号确定下一轮迭代训练的全局模型参数,所述方法还包括:根据所述第一接收信号、所述边缘设备的数量以及预设的降噪因子,确定下一轮迭代训练的全局模型参数。3.根据权利要求2所述的基于联邦边缘学习的图像分类方法,其特征在于,所述方法还包括:通过所述边缘设备以及所述边缘服务器分别获取预设的传输功率优化模型以及约束
条件,所述约束条件包括所述边缘设备的最大发送功率约束以及平均发送功率约束;在所述根据所述第一接收信号、所述边缘设备的数量以及预设的降噪因子,确定下一轮迭代训练的全局模型参数之前,所述方法还包括:对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时的降噪因子;在所述通过多个所述边缘设备分别经过所述无线信道同时向所述边缘服务器发送第一传输信号之前,所述方法还包括:对所述传输功率优化模型进行求解处理,分别得到在所述约束条件下所述传输功率优化模型取得最优解时用于发送所述本地模型参数的第一传输功率以及第一随机噪声的第二传输功率;所述传输功率优化模型通过以下公式确定:其中,其中,其中,其中,C
t
=1



1)μγ
t
;所述T表示迭代训练总次数,所述K表示参与联邦学习的边缘设备总数,所述η
t
表示第t次迭代训练的降噪因子,所述表示第k个所述边缘设备在第t次迭代训练时使用的第一随机噪声的噪声功率,所述L表示smoothness系数,所述γ
t
‑1为第t

1次迭代训练时的学习率,所述Ω表示所述边缘设备的本地迭...

【专利技术属性】
技术研发人员:朱光旭曹晓雯李晓阳
申请(专利权)人:深圳市大数据研究院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1