System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请实施例涉及物联网,尤其涉及一种应用于物联网的联邦学习方法和系统。
技术介绍
1、物联网(iot)起源于传媒领域,是信息科技产业的第三次革命。物联网是指通过信息传感节点,按约定的协议,将任何物体与网络相连接,物体通过信息传播媒介进行信息交换和通信,以实现智能化识别、定位、跟踪、监管等功能。
2、联邦学习作为一种分布式深度学习范式,在物联网领域拥有广阔的应用前景。联邦学习能够使存储在物联网设备上数据在不出本地的情况下,实现联合训练,从而有效解决物联网设备由于地理隔离和数据安全所导致的“数据孤岛”和“数据隐私保护”问题。但由于联邦学习分布式训练的特性,不同的物联网节点具有不同的计算性能,不同的物联网节点训练后产生的参数之间具有一定偏差,会降低全局模型的精度,因此如何降低不同的物联网节点训练后产生的参数之间的偏差是目前亟待解决的一项问题。
技术实现思路
1、以下是对本文详细描述的主题的概述。本概述并非是为了限制权利要求的保护范围。
2、本公开实施例的主要目的在于提出一种应用于物联网的联邦学习方法和系统,能够保证同一集合内的训练参数和第一参数的可靠性和稳定性,最终提升模型的精度。
3、为实现上述目的,本公开实施例的第一方面提出了一种应用于物联网的联邦学习方法,应用于服务器,所述方法包括:
4、接收多个第一物联网节点的第一参数,所述第一参数是通过所述第一物联网节点将其所在集合内的所有第二物联网节点和所述第一物联网节点的第二参数聚合得到的参数
5、采用全局模型对所述第一参数进行训练,得到第二训练次数的全局参数,所述第二训练次数是所述第一训练次数的下一轮训练次数;
6、将所述第二训练次数的全局参数发送至每一个第二物联网节点,以使每一个所述第二物联网节点执行下一轮训练,直至所述第二物联网节点的本地模型收敛。
7、本申请的一个实施例提供了一种应用于物联网的联邦学习方法,本方法面对物联网节点具有不同性能的特性,提出了第一物联网节点、第二物联网节点和服务器协同处理的联邦学习方法,本方法通过在具有相似关联关系的多个第二物联节点的集合当中,找到存在时间最长的一个第二物联网节点作为第一物联网节点,由物联网中的多个第一物联网节点负责各自的集合内的所有第二物联网节点训练得到的参数聚合,其集合内的第二物联网节点用于根据服务器下发的全局参数进行本地模型的参数训练,由服务器的全局模型对第一参数进行训练,得到下一轮的全局参数并下发,直至模型的收敛。本方法通过对物联网的节点进行集合划分,使得不同集合内的节点之间具有一定的相似度关系,进而使得集合内的训练参数属于同一分布,这样能保证同一集合内的训练参数的可靠性和稳定性,然后由存在时间最长的物联网节点进行参数的聚合,保证第一参数的可靠性和稳定性,最终提升模型的精度。
8、本申请的一些实施方式,通过如下方式选取所述第一训练次数的情况下的集合:
9、确定第三训练次数下的目标集合,所述第三训练次数是所述第一训练次数的上一轮训练次数,所述目标集合是任意一个集合;
10、选取所述目标集合中的存在时间最长的物联网节点作为第一训练次数下的目标集合的目标物联网节点;
11、在物联网中确定与所述目标物联网节点之间的距离小于设定第一阈值,且与所述目标物联网节点之间的第二参数的相似度大于设定第二阈值的其余物联网节点;
12、将所述目标物联网节点作为所述目标集合的第一物联网节点,将所述其余物联网节点作为所述目标集合的所述第二物联网节点。
13、本申请的一些实施方式,在所述选取所述目标集合中的存在时间最长的物联网节点作为第一训练次数下的目标集合的目标物联网节点之后,所述方法还包括:
14、确定所述目标物联网节点的第一位置,获取所述物联网中除所述目标物联网节点之外的物联网节点的第二位置;
15、计算所述第一位置与所述第二位置之间的距离;
16、计算所述目标物联网节点与所述物联网中除所述目标物联网节点之外的物联网节点之间的余弦相似度。
17、本申请的一些实施方式,所述方法还包括:
18、接收第三物联网节点发送的第一参数,所述第三物联网节点是当所述第一物联网节点失效时,从失效的所述第一物联网节点的集合中选取的存在时间仅次于所述第一物联网节点的一个第二物联网节点作为失效的所述第一物联网节点的替代;
19、采用全局模型对所述第一参数进行训练,得到第二训练次数的全局参数的情况下,将所述第一参数发送至第二物联网节点。
20、本申请的一些实施方式,所述第一物联网节点采用同步聚合进行联邦学习。
21、本申请的一些实施方式,所述第二物联网节点包括固定的物联网节点和移动的物联网节点。
22、本申请的一些实施方式,所述第一参数是通过加权平均聚合得到的参数。
23、为实现上述目的,本公开实施例的第二方面提出了一种应用于物联网的联邦学习装置,所述装置包括:
24、信息接收单元,用于接收多个第一物联网节点的第一参数,所述第一参数是通过所述第一物联网节点将其所在集合内的所有第二物联网节点和所述第一物联网节点的第二参数聚合得到的参数,所述第二参数是所述第一物联网节点和所述第二物联网节点利用本地模型对第一训练次数的全局参数进行训练得到的参数,所述第一物联网节点是集合内的所有第二物联网节点中存在时间最长的一个,所述集合内包含所述第一物联网节点在内的且相互之间存在相似度关系的多个第二物联网节点;
25、参数训练单元,用于采用全局模型对所述第一参数进行训练,得到第二训练次数的全局参数,所述第二训练次数是所述第一训练次数的下一轮训练次数;
26、参数发送单元,用于将所述第二训练次数的全局参数发送至每一个第二物联网节点,以使每一个所述第二物联网节点执行下一轮训练,直至所述第二物联网节点的本地模型收敛。
27、为实现上述目的,本公开实施例的第三方面提出了一种电子节点,包括至少一个存储器;
28、至少一个处理器;
29、至少一个计算机程序;
30、所述计算机程序被存储在所述存储器中,处理器执行所述至少一个计算机程序以实现:
31、如第一方面实施例任一项所述的应用于物联网的联邦学习方法。
32、为实现上述目的,本公开实施例的第四方面还提出一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令用于使计算机执行:
33、如第一方面实施例任一项所述的一种应用于物联网的联邦学习方法。
34、可本文档来自技高网...
【技术保护点】
1.一种应用于物联网的联邦学习方法,其特征在于,应用于服务器,所述方法包括:
2.根据权利要求1所述的应用于物联网的联邦学习方法,其特征在于,通过如下方式选取所述第一训练次数的情况下的集合:
3.根据权利要求2所述的应用于物联网的联邦学习方法,其特征在于,在所述选取所述目标集合中的存在时间最长的物联网节点作为第一训练次数下的目标集合的目标物联网节点之后,所述方法还包括:
4.根据权利要求1所述的应用于物联网的联邦学习方法,其特征在于,所述方法还包括:
5.根据权利要求1所述的应用于物联网的联邦学习方法,其特征在于,所述第一物联网节点采用同步聚合进行联邦学习。
6.根据权利要求1所述的应用于物联网的联邦学习方法,其特征在于,所述第二物联网节点包括固定的物联网节点和移动的物联网节点。
7.根据权利要求1所述的应用于物联网的联邦学习方法,其特征在于,所述第一参数是通过加权平均聚合得到的参数。
8.一种应用于物联网的联邦学习系统,其特征在于,所述系统包括:
9.一种电子节点,其特征在于,包括:
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令用于使计算机执行:
...【技术特征摘要】
1.一种应用于物联网的联邦学习方法,其特征在于,应用于服务器,所述方法包括:
2.根据权利要求1所述的应用于物联网的联邦学习方法,其特征在于,通过如下方式选取所述第一训练次数的情况下的集合:
3.根据权利要求2所述的应用于物联网的联邦学习方法,其特征在于,在所述选取所述目标集合中的存在时间最长的物联网节点作为第一训练次数下的目标集合的目标物联网节点之后,所述方法还包括:
4.根据权利要求1所述的应用于物联网的联邦学习方法,其特征在于,所述方法还包括:
5.根据权利要求1所述的应用于物联网的联邦学习方法,其特征在于,...
【专利技术属性】
技术研发人员:杨华军,陈勇,梁宇,林燕,张海明,
申请(专利权)人:广西通信规划设计咨询有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。