System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术设计纵向联邦学习框架,具体是一种基于秘密共享和公钥加密的纵向联邦学习框架。
技术介绍
1、纵向联邦学习是一种分布式机器学习框架,适用于不同参与方拥有不同特征空间但共享同一用户集的场景。在这种情况下,每个参与方的数据集在特征维度上是不同的,但在样本维度上是相同的。纵向联邦学习通过协同计算各自特征上的梯度和损失函数,使得最终模型能够利用各方特征的互补性,提升模型的性能。
2、纵向联邦学习在多个领域有广泛的应用前景,特别是在金融、医疗和互联网领域。例如,在金融领域,不同银行拥有同一批客户的不同金融属性数据,通过纵向联邦学习可以共同训练一个信用评估模型,提高信用评估的准确性。在医疗领域,不同医院拥有同一批患者的不同类型的医疗数据(如基因数据、病历数据等),通过纵向联邦学习可以构建一个综合的疾病预测模型,提升医疗服务质量。在互联网领域,不同互联网公司拥有同一用户在不同平台上的行为数据,通过纵向联邦学习可以进行更精准的用户画像和推荐算法。
3、目前的纵向联邦学习方法主要依赖于安全多方计算和同态加密等技术来保障数据隐私。然而,这些技术在实际应用中面临诸多挑战和限制。首先,安全多方计算和同态加密通常会引入较高的计算开销,导致模型训练速度显著下降。其次,为了确保隐私保护,纵向联邦学习需要在各参与方之间频繁交换加密的数据,这会带来巨大的通信开销。此外,隐私保护措施可能会影响模型的精度,尤其是在数据分布不均衡或者数据质量较差的情况下。
技术实现思路
1、本专利技术的目的
2、本专利技术技术方案如下:
3、(1)聚合服务器和各参与方基于通信框架执行纵向联邦学习的训练任务;
4、(2)聚合服务器和各参与方基于通信框架计算各参与方的贡献度。
5、进一步,步骤(1)所述的纵向联邦学习的训练任务,包括如下步骤:
6、(1.1)初始化:聚合服务器和其他参与方均拥有自身数据集,在隐私求交下对齐样本空间,聚合服务器唯一拥有真实标签。聚合服务器和其他参与方各自生成公私钥对,将公钥公开,数据发送方与待接收方之间建立路由表;
7、(1.2)各参与方i使用本地的数据,根据指定的任务,得到自己的部分预测值pi;
8、(1.3)各参与方基于通信传输框架,将部分预测值传输给聚合服务器;
9、(1.4)聚合服务器解密收到的部分预测值,执行聚合训练,更新聚合服务器的模型参数,基于通信框架,将模型误差下发给各参与方;
10、(1.5)各参与方接收聚合服务器下发的误差后,基于误差执行梯度下降,更新本地模型。
11、进一步,步骤(2)所述的各参与方贡献度计算,包括如下步骤:
12、(2.1)聚合服务器使用随机数r将聚合值z进行随机掩码:z=z+r,下发给各参与方;
13、(2.2)各参与方i计算:平均值距离权重m为参与方数量;
14、(2.3)各参与方基于通信传输框架,将计算结果disti传输给聚合服务器;
15、(2.4)聚合服务器计算各参与方的贡献度:
16、进一步,步骤(1.1)所述的各参与方建立路由表,包括如下步骤:
17、(1.1.1)当参与方数量为2时,参与方划分为两类:首跳和尾跳;当参与方数量大于2时,参与方划分为三类:首跳、中间跳和尾跳;
18、(1.1.2)各参与方建立参与方之间的路由表:如果存在中间跳参与方,则首跳参与方的下一跳为中间跳参与方,否则下一跳为尾跳参与方;中间跳参与方的下一跳为中间跳参与方,最后一个中间跳参与方的下一跳为尾跳参与方。
19、进一步,步骤(1.3)所述的通信框架,包括如下的步骤:
20、(1.3.1)首跳参与方将部分预测值p1切片,将一个切片发送给聚合服务器,将另一个切片发送给下一跳;
21、(1.3.2)如果存在中间跳服务器,则中间跳参与方接收上一跳参与方的切片将切片与自己的部分预测值叠加:将叠加后的结果切片,将一个切片发送给聚合服务器,将另一个切片发送给下一跳参与方。其中,k为中间跳服务器;
22、(1.3.3)如果存在中间跳参与方,则尾跳参与方的上一跳为中间跳参与方,否则,为首跳参与方。尾跳参与方接收上一跳参与方的切片,将切片与自己的部分预测值叠加,将叠加后的结果切片,尾跳参与方将两个切片和都发送给聚合服务器;
23、(1.3.4)在所有的通信过程中,发送方使用接收方的公钥加密数据,接收方接收到数据后,使用自己的私钥解密数据。
24、本专利技术纵向联邦学习框架具有以下优点:
25、(1)本专利技术基于秘密共享和公钥加密,保护数据的隐私。
26、(2)本专利技术的纵向联邦学习通信框架可应用于纵向联邦学习的训练过程,聚合服务器和各参与方在本地执行训练任务,基于通信框架传输模型给聚合服务器。
27、(3)本专利技术的纵向联邦学习通信框架可应用于各参与方贡献度的计算过程,各参与方基于通信框架,协助聚合服务器计算各参与方的贡献度。
28、(4)本专利技术纵向联邦学习框架基于秘密共享技术,同时结合公钥加密方案,保护聚合服务器和参与方的隐私数据。本专利技术的纵向联邦学习通信框架可应用于纵向联邦学习的训练过程和各参与方贡献度的计算过程。
本文档来自技高网...【技术保护点】
1.一种基于秘密共享和公钥加密的纵向联邦学习框架,其特征在于,所述方法包括以下步骤:
2.根据权利要求1所述的一种基于秘密共享和公钥加密的纵向联邦学习框架,其特征在于,步骤(1)所述的纵向联邦学习的训练任务,包括如下步骤:
3.根据权利要求1所述的一种基于秘密共享和公钥加密的纵向联邦学习框架,其特征在于,步骤(2)所述的各参与方贡献度计算,包括如下步骤:
4.根据权利要求2所述的一种基于秘密共享和公钥加密的纵向联邦学习框架,其特征在于,步骤(1.1)所述的各参与方建立路由表,包括如下步骤:
5.根据权利要求2所述的一种基于秘密共享和公钥加密的纵向联邦学习框架,其特征在于,步骤(1.3)所述的通信框架,包括如下的步骤:
【技术特征摘要】
1.一种基于秘密共享和公钥加密的纵向联邦学习框架,其特征在于,所述方法包括以下步骤:
2.根据权利要求1所述的一种基于秘密共享和公钥加密的纵向联邦学习框架,其特征在于,步骤(1)所述的纵向联邦学习的训练任务,包括如下步骤:
3.根据权利要求1所述的一种基于秘密共享和公钥加密的纵向联邦学习框架,其特征在于,步骤(...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。